Bir önceki yazımızda, yapay zekanın hürriyete yönelttiği tehdidin yeni bir gözetim aracı sunmasından değil, istibdadı kurmanın ve sürdürmenin maliyetini düşürmesinden geldiğini anlatmıştık. Fikirleri bastırmanın maliyeti düştü. Bu yazımızda fikirleri bastırmanın maliyetinin yeniden nasıl yükseltilebileceği üzerine düşüneceğiz.
Kuralların Zayıflığı, Teşvikin Gücü
Yaygın cevap, yapay zekanın kanunla sınırlanmasıdır. Oysa bir kural, ancak onu çiğneyeni cezalandırabilecek bir merci varsa bağlayıcıdır. Devletin teknoloji kullanımını sınırlayan kanunda o merci yine devletin kendisidir. Kanun bu yüzden şirketi, gazeteciyi ve vatandaşı bağlar, kendisini yazan iktidarı bağlamaz. Müstebit bir yönetim kendi kullanımını güvenlik gerekçesiyle müstesna kılar ve bunu yaparken hiçbir kuralı çiğnemez, çünkü istisnayı kanunun içine kendisi kendi için yazmıştır.
Yasak koymak güç dengesini düzeltmez, aksine daha da bozar. Çünkü gazetecinin de sivil toplumun da kullandığı yazılımlar devletinkiyle aynıdır. Kısıtlama yalnızca kurallara uyan tarafı eli kolu bağlı bırakır. Üstelik toplumu koruyacak teknolojilerin gelişmesini de engeller. Bugün kullandığımız şifreleme sistemleri, açık veri araçları ve bağımsız denetim yazılımları, tam da bu serbest geliştirme ortamı sayesinde var olabilmiştir.
Kuralcı yaklaşım neyin serbest olduğunu belirler ve uygulanabilmek için sınırlamak istediği otoriteye muhtaçtır. Teşvik yaklaşımı ise bir işin onu yapan kişiye neye mal olacağını belirler ve kimsenin iznine ihtiyaç duymaz.
Bana teşviki göster, sana sonucu göstereyim.
Charlie Munger
Yolsuzluk ile istibdat aynı mantıkla işler; ikisi de kamu yetkisinin şahsi menfaat için kullanılmasıdır. Lee Kuan Yew, Singapur'da yolsuzluğu bir ahlak sorunu olarak görmedi. Düşük riskli ve yüksek getirili bir faaliyet olduğu için devam ettiğini söyledi ve sistemi, bunu yüksek riskli ve düşük getirili kılacak biçimde yeniden kurdu. Devletin otoriterleşmesi pahalı olsun demek hiçbir şey ifade etmez; çünkü bedeli devlet değil, insanlar öder. Bedeli ödeyecek olan; emri veren bakan, emri uygulayan bürokrat ve buna göz yuman siyasetçidir. Singapur'un bakan düzeyindeki yargılamalarında mesaj kuruma değil, bizzat şahıslara verildi.
Aşağıda anlatacağımız düzeneklerin yazılımını yazan da, denetimini yapan da insandır. Arkasında bağımsız bir kurum bulunmayan teknik önlem bir kural değil, yalnızca bir ayardır ve ayar her zaman değiştirilebilir. Hepsi beş temel şartın üzerine oturur: Özgür basın, bağımsız yargı, bireyin devlet karşısındaki üstünlüğü, mülkiyet hakkının dokunulmazlığı ve güçlü sivil toplum.
İstibdada kaymayı ucuz kılan üç temel unsur vardır: Eylemin görünmez olması, yetkinin tekelleşmesi ve verilen yetkinin kalıcı olması. Bu üç unsurun üçü de ayrı ayrı ortadan kaldırılabilir. Dahası yapay zeka devlete yöneltilebilir; bu da maliyeti değil, yakalanma ihtimalini arttırır.
Takip Edilemezliği Ortadan Kaldırmak
Matbaa döneminde bir kitabın toplatılması meydanda olurdu ve bastırma işleminin kendisi bir haber üretirdi. Bugün bir kaydın işaretlenmesi veya silinmesi hiçbir iz bırakmıyor.
Estonya'da kamu kurumları verilerini X-Road adlı dağıtık bir ağ üzerinden paylaşıyor. Merkezi bir veri tabanı yok; her işlem zaman damgalı, imzalı ve kayıt altında. Bunun üzerine 2017'de veri izleyicisi adlı bir hizmet kuruldu. Vatandaş devlet portalına kendi kimliğiyle girip hangi kurumun hangi tarihte, hangi veri tabanından ve hangi gerekçeyle verisine baktığını görebiliyor. Evleneceği kadının kaydına bakan bir polis memuru ile bir komşunun merakı üzerine belirli bir adrese neden ambulans çağrıldığını sorgulayan bir sağlık görevlisi bu kayıtlar sayesinde yakalandı ve cezalandırıldı. Sorgu yasaklanmıyor, ancak inkar edilemez ve gizlenemez hale getiriliyor.
Sistem henüz tamamlanmış değil. Üç yüzü aşkın kamu veri tabanının yalnızca on altısı izleyiciye bağlı ve bağlanmak zorunlu değil. Adalet ve Dijital İşler Bakanlığı, Aralık 2025'te bunu bütün veri tabanları için zorunlu kılacak bir kanun hazırlığı başlattı. Bakan Liisa Pakosta'nın gerekçesi şu: Kişisel veri devlet kurumunun değil, kişinin kendisinindir; bir memur birinin verisine baktığında bunun bir kaydı olmalı ve kişi o kaydı görebilmelidir. Gizli yürütülen soruşturmalardaki sorgular ise soruşturma kapandıktan sonra kişiye görünür hale gelecek.
Slovakya aynı ilkeyi daha sert uyguladı. 2011 yılından beri devletin taraf olduğu sözleşmeler internette yayımlanmadıkça yürürlüğe girmiyor; üç ay içinde yayımlanmayan sözleşme ise hiç yapılmamış sayılıyor. Gizleme burada cezalandırılmıyor, kazançsız kılınıyor; çünkü gizlenen sözleşme hukuken yok hükmünde addediliyor. Sistemin kurulum maliyeti yalnızca 37.000 Avro dolaylarındaydı.
Devletin denetimden kaçırabildiği tek şey işlemleri değildir; ürettiği rakamlar da aynı karanlıkta kalabilir. Müstebit rejimin ilk ele geçirdiği şey ölçümdür; çünkü rakamı yöneten gerçeği yönetir. Bir alanın rakamlarını üreten taraf, o alanı yöneten taraf olmamalıdır. Elektrik bunun en uygun örneğidir; çünkü fiziksel bir büyüklüktür ve sürekli ölçülebilir. Avrupa'da iletim sistemi işletmecileri üretim ve iletim verilerini ortak bir platforma göndermekle yükümlü, veriler 2015'ten beri herkese açık ve bu alanda yanlış rakam vermek neredeyse imkansız. Birleşik Krallık aynı ayrımı resmi istatistikte uyguluyor; bakanların Ulusal İstatistik Ofisi rakamlarını yayımlanmadan önce görme ayrıcalığı 1 Temmuz 2017'de kaldırıldı.
Tekelleşmeyi Kırmak
Birbiriyle rekabet eden kurumların varlığı hürriyetin teminatıdır. Tek bir merci, tek bir sağlayıcı veya tek bir veri havuzu varsa, onu ele geçiren herkesi ele geçirmiş olur. Rekabet eden yapılarda ise aynı sonucu almak için her biriyle ayrı ayrı uğraşmak gerekir; bu uğraş hem pahalıdır hem de iz bırakır.
Tehlike verinin varlığı değil, birleştirilmesidir. Vergi kaydı tek başına, sağlık kaydı tek başına, konum kaydı tek başına sınırlı bilgi verir. Üçü birleştiğinde ise bir kişinin bütün hayatı ortaya çıkar. Almanya bu ilkeyi anayasal düzeyde uygular. 1949 yılında işgal kuvvetleri, kurulmakta olan Almanya'ya iç güvenlik istihbaratı yapan bir kurum kurma izni verdi; ancak polis yetkisi vermeyi reddetti. Gerekçe resmi belgelerde açıkça yazılıdır: Yeni bir Gestapo oluşmasını önlemek. Anayasa Mahkemesi 2020 yılında bu ayrımı veri düzeyine de taşıdı ve polis ile istihbarat servislerinin ortak veri tabanını birleşik biçimde kullanmasının ancak istisnai ağırlıkta bir kamu yararı halinde mümkün olduğuna hükmetti.
Denetim kurumları da aynı kurala tabidir. Bir kurumun bağımsızlığını bütçesi veya adı değil; atama ve rapor zinciri belirler. Zincir denetlenen makamdan geçiyorsa kurum kendisini atayanı denetlemek durumunda kalır ve denetleyemez. Denetimsiz kalan bürokrasi zamanla kendi çıkarını milletin çıkarının üzerinde gözeten bir zümre haline gelir. Bu durum, seçilmişlerin denetiminden muaf kurumlar kurmak anlamına gelmez. Politika yapan kurum seçilmişlere bağlı olmalıdır; çünkü politika bir tercihtir ve tercihin hesabı sandıkta verilir. Denetleyen ve ölçen kurum ise yürütmeye değil yasamaya bağlı olmalıdır; çünkü denetim bir tercih değil, bir tespittir ve denetlenenin emrinde olduğunda tespit olmaktan çıkar. Amerika'da müfettişler hem bağlı oldukları kurumun başına hem de doğrudan Kongre'ye rapor verir; yani denetlenen makam raporu sümen altı edemez.
Piyasadaki tekelleşme de aynı sonucu doğurur. Bir alanda tek sağlayıcı varsa, devletin o sağlayıcıyı ikna etmesi bütün kullanıcılara ulaşması demektir. Rekabetin olduğu yerde ise şirketin müşterisini koruması ticari bir çıkar haline gelir. 2016'da Amerikan federal polisi bir mahkeme kararıyla Apple'dan kendi cihazının güvenliğini kıracak bir yazılım yazmasını istedi ve şirket bunu kamuoyu önünde reddetti. Şirketi direnmeye iten şey bir düzenleme değil, güvenliğin bir satış vaadi olmasıydı. Şifreleme de aynı işi görür; devleti her kişi için ayrı emek harcamaya zorladığı için toplu dinleme ve okumayı imkansız kılar.
Yetkiyi Süreli Kılmak
Kurumlara verilen yetkiler halk ve onun seçtiği meclis tarafından geri alınabilmelidir. Teksas eyaleti 1977 yılından beri devlet kurumlarının kuruluş kanununa bir son kullanma tarihi koyuyor. Kurum o tarihte kendiliğinden kapanıyor; yasama organı devam kararı alırsa yaşamayı sürdürüyor. O tarihten bu yana doksan altı kurum kapatıldı ve sürece harcanan her bir doların yaklaşık on yedi dolar tasarruf sağladığı hesaplanıyor.
Olağanüstü yetkilere uygulandığında bu kural, yetkiyi elinde tutmak isteyeni siyasi bedeli her defasında yeniden ödemeye zorlar. Toplanan verinin de azami bir saklama süresi olmalı ve süre dolduğunda silinmesi zorunlu tutulmalıdır.
Kötüye Kullanımı Pahalılaştırmak Gerekli
Takip edilemezliğin, tekelleşmenin ve süresiz yetkinin ortadan kaldırılması istibdadın maliyetini yükseltir. Yapay zekanın bir denetleme aracı olarak devlet kurumlarına yöneltilmesi ise görevini ve gücünü kötüye kullanan yetkililerin yakalanma ihtimalini arttırır.
Sayısız insanın verisini okuyabilen bir teknoloji; benzer biçimde sayısız ihale kaydını, atama kararını, harcama kalemini ve mal beyanını da inceleyebilir. Bu veriler zaten üretiliyor; sorun, hacimleri yüzünden kimsenin bunları okuyamamasıydı. Bu sorun artık ortadan kalktı.
Amerika 2009'da bunu denedi. Sekiz yüz milyar doları aşan teşvik paketini denetlemek için kurulan kurul, harcamaları kalem kalem yayımlayan bir site kurdu ve yanına bir veri analizi merkezi koydu. Merkez, 2012 ve 2013 yıllarında 36,4 milyar dolarlık kamu kaynağıyla ilişkili yaklaşık 1,7 milyon kuruluşu tarayıp riskli olanları müfettişlere işaret etti. Vatandaş da siteye girip kendi bölgesine gelen parayı görebiliyor, bir usulsüzlük sezdiğinde bildirebiliyordu. Kurulun başkanı Earl Devaney, bu büyüklükteki kamu harcamalarında yolsuzluk kaybının tarihsel olarak yüzde 5 ila 7 arasında seyrettiğini, bu programda ise oranın yüzde 1'in altında kaldığını belirtti.
Kötüye kullanımı yakalamanın maliyeti düşerse, kötüye kullanmanın maliyeti yükselir. İnsan denetçiye dayanan her önlem, denetlenen sistem hızlandıkça geride kalır. Oysa bu düzenek yapay zeka güçlendikçe güçlenir.
Hürriyet bir kanun metninin değil, doğru kurulmuş bir teşvik yapısının sonucudur. Kağıt üzerindeki kural kendini uygulatamaz; kuralı işleten şey, onu çiğneyen kişinin bunun bedelini şahsen ödeyeceğini bilmesidir.
Yukarıdaki mekanizmaların hiçbiri kimsenin erdemine güvenmiyor. Hepsi, yetkiyi kötüye kullanmayı o yetkiyi elinde tutan kişi için pahalı hale getiriyor.
Hürriyetseverlerin önündeki görev yapay zekayı durdurmak değildir. Görev; otoriterleşmeyi ve istibdada kaymayı yeniden pahalı kılacak sistemleri yapay zeka yardımıyla inşa etmek, yolsuzluğun önünü almaktır. Millet, haklarını ancak böyle savunabilir ve koruyabilir. Aksi halde bürokratik oligarşi devleti ele geçirecek, milletin sırtına binecektir.
Devlet, milletin tüm fertlerinindir; imtiyazlı zümrelerin değil.
