Yapay zekanın insanoğlu için tehdit oluşturduğu sık söyleniyor, ancak bu tehdit çoğu zaman istihdam kaybı, yapay zekanın insan kontrolünden çıkması ve benzeri senaryolarla tarif ediliyor. Yapay zekanın müstebit rejimlere sağladığı maliyet avantajından ise hiç söz edilmiyor. Sorun, yapay zekanın yeni bir gözetim aracı sunması değil. Kamera zaten vardı, konum verisi zaten vardı, ödeme kaydı zaten vardı. Eksik olan, bütün bunları okuyup anlamlandıracak insan gücüydü. Baskıyı beş yüz yıl boyunca sınırlayan şey tam olarak bu eksiklikti ve yapay zeka bu eksikliği kapatarak otokrasiyi sürdürmenin maliyetinde bir devrim yarattı.
Bunun neden önemli olduğunu görmek için hürriyetin bir maliyet meselesi olduğunu kabul etmek gerekiyor. Bir fikrin yayılıp yayılmadığını genellikle o fikrin gücüyle açıklarız. Doğru fikir er geç kabul görür, yanlış fikir elenir diye düşünürüz. Tarihe bakınca durumun böyle olmadığı görülüyor. Bir fikrin yayılması, o fikri çoğaltmanın ve savunmanın kaça mal olduğuna bağlı. Bir fikrin bastırılması da, onu engellemenin iktidara kaça mal olduğuna bağlı. Hürriyetin genişlediği dönemler, birinci maliyetin ikinciye göre daha hızlı ucuzladığı dönemlerdir.
Bu yazıda iki maliyeti ayrı ayrı inceleyecek ve yapay zekanın hangisini hangi yönde değiştirdiğine bakacağız.
Fikri Yaymanın Maliyeti
Bu maliyet dört kalemden oluşur. Fikri üretmek, onu çoğaltıp başkalarına ulaştırmak, o fikir etrafında insanları bir araya getirmek ve söylenenin doğru olduğuna insanları inandırmak.
Çoğaltma kalemi tarihin en uzun süre pahalı kalan kalemiydi. Matbaadan önce bir metni çoğaltmanın tek yolu elle kopyalamaktı. Okuma yazma bilen bir yazıcı, orta uzunlukta bir metin için aylarca çalışırdı ve yüz nüsha isteyen kişi yüz kat emek öderdi. 15.yy'ın ortasında matbaanın yaygınlaşmasıyla dizgi bir kez yapıldıktan sonra her yeni nüshanın maliyeti kağıt ve mürekkepten ibaret hale geldi. İnternetle birlikte bu kalem tamamen sıfırlandı. Bir metni dünyanın öbür ucuna ulaştırmanın bugün ek bir masrafı yok.
Bir araya getirme kalemi ayrı bir sorundur ve matbaa bunu çözmemiştir. Okumak tek başına yapılan bir iştir. Aynı metni okuyanlar birbirini bulamazsa ortaya siyasi bir sonuç çıkmaz. Kahvehane 16.yy ortasında İstanbul'da ortaya çıktı. Peçevi'ye göre ilk kahvehaneler 1554'te Tahtakale'de açıldı, bir asır sonra da aynı kurum Viyana, Londra ve Paris'e taşındı. Burada gazeteler ve risaleler yüksek sesle okunuyor, okunan şey halk tarafından orada tartışılıyordu. Aynı fikirde olanların ve mutlakiyete karşı olanların birbirini bulması kolaylaşmıştı. Mutlakiyet rejimleri bu mekanları baştan itibaren tehdit saydı. Osmanlı'da II. Selim ve III. Murad dönemlerinde kahvehaneler toptan kapatıldı, IV. Murad 1633'te İstanbul'daki bütün kahvehaneleri kapattırıp kahve içmeyi ölümle cezalandırdı. Resmi gerekçe yangın riskiydi, asıl sebep ise buraların devlet aleyhine konuşulan yerler haline gelmesiydi. Bugün bu kalemin maliyeti neredeyse sıfır. Aynı konuyla ilgilenen insanlar birbirini saatler içinde buluyor.
Ancak bu ucuzlamanın bir bedeli var. Fikri üretme kalemi de ucuzladı. Bir metni, bir görüntüyü veya bir videoyu ortaya çıkarmak için ne özel bir eğitim ne de pahalı bir donanım gerekiyor. Herkes her şeyi üretebildiği için üretilenler artık kendiliğinden doğru varsayılmıyor. Dördüncü kalem tam olarak bu yüzden pahalandı.
Söylediğinin doğru olduğuna insanları inandırmak, beş yüz yıl boyunca ucuz bir işti. Basılı bir belgeyi ya da bir fotoğrafı taklit etmek zahmetli ve masraflı olduğu için, insanlar gördükleri belgenin gerçek olduğunu varsayıyordu. Belgenin kendisi kanıt yerine geçiyordu.
Yapay zeka ve onunla üretilen sahte görüntüler, yani "deepfake" içerikler, bu kalemi pahalandırdı. Bir görüntü, bir ses kaydı veya bir belge artık üretilebiliyor ve üretilenler gerçek olanlardan çıplak gözle ayırt edilemiyor. Elinde gerçek bir kanıt bulunan kişi, o kanıtın gerçek olduğunu ispatlayamıyor.
Bunun iki sonucu var. Birincisi, olmamış bir olayın görüntüsü üretilip yayılabiliyor. İkincisi ve daha ağır olanı, olmuş bir olayın görüntüsü de inkar edilebiliyor. Gerçek bir kaydı paylaşan kişiye, aynı olayın dolaşımdaki sahte kopyaları gösteriliyor ve asıl kaydın da sahte olduğu iddia ediliyor. Bu iddia çürütülemiyor. Bu durum, insanların neyin gerçek olduğuna dair algısını ciddi biçimde bozuyor ve neye inanacaklarını ayırt edemez hale getiriyor.
Yani bir fikri yaymanın dört kaleminden üçü tarihin en ucuz düzeyinde, dördüncüsü (ve belki de en önemlisi) ise beş yüz yılda ilk kez pahalandı.
Fikri Bastırmanın Maliyeti
Bu maliyet de dört kalemden oluşur. Kimin ne yaptığını bulmak, bulunanı okuyup ne anlama geldiğini anlamak, hedef alınan kişiye bir işlem yapmak ve yapılan işlemi gizli tutmak.
Kimin ne yaptığını bulma kalemi matbaadan önce düşük sayılırdı. Nüsha sayısı az olduğu için, bir metnin peşine düşen birkaç kişiyi bulmak yetiyordu. Matbaa bu kalemi pahalandırdı, çünkü ayrı şehirlere dağılmış yüzlerce nüshayı takip etmek için bütün evleri aramak gerekiyordu.
19. ve 20.yy'da bu kalem yeniden ucuzladı. Tek bir buluşla olmadı, birbirini izleyen düzenlemelerle oldu. Düzenli nüfus sayımı kimin nerede yaşadığını gösterdi. Tapu sicili kimin neye sahip olduğunu kayda geçirdi. Vergi kaydı kimin ne kazandığını ortaya koydu. Kimlik numarası, ayrı defterlerde geçen aynı ismin gerçekten aynı kişi olduğunu anlamayı mümkün kıldı. Telefon kayıtları kimin kiminle konuştuğunu, banka kayıtları kimin kime para gönderdiğini gösterdi. 20.yy'da otokrat rejimlerin yükselişi bu nedenle şaşırtıcı değildir. Bugün ise korkutucu biçimde bu maliyet kalemi neredeyse tamamen sıfırlandı. Akıllı telefonların, ödeme sistemlerinin ve kameraların olağan işleyişi, kimin nerede olduğunu ve ne yaptığını gösteren kaydı kendiliğinden daimi biçimde üretiyor.
Veriyi anlamlandırma kalemi baskının en uzun süre pahalı kalmış kalemidir ve hürriyetin 20.yy'da ayakta kalabilmesinin başlıca sebebidir. Katolik Kilisesi 1559 yılında yasak kitaplar listesi yayımlamaya başladı ve bu liste 1966 yılına kadar yürürlükte kaldı. Böyle bir listeye ihtiyaç duyulması, basılan metinleri tek tek okuyup değerlendirme usulünün artık sürdürülemediğini gösterir. Aynı sınır çok daha yakın bir tarihte de görülür. Doğu Almanya'nın devlet güvenlik teşkilatı Stasi, 16 milyonluk bir nüfus için 91 bin kadrolu görevli ve yaklaşık 189 bin gayriresmi muhbir çalıştırdı. Teşkilatın bıraktığı evrak yaklaşık 111 kilometre uzunluğunda raf kaplıyordu ve bu belgelerin önemli bir bölümü hiç okunmadı, çünkü okuyacak insan yoktu. Devlet çok şey topluyordu ama topladığını işleyemiyordu. İnsanların çoğu, bu işlenemeyen yığının içinde fiilen denetim dışında kalıyordu.
Yapay zeka bu kalemi ortadan kaldırdı. Görüntüyü, sesi ve metni insanın erişemeyeceği bir hızla tarayıp sınıflandırabilen sistemler, toplananı okuma işini insan emeğinden bağımsız hale getirdi. Doğu Almanya'nın raflarında yıllarca okunmadan duran belgeler, bugünün teknolojisiyle birkaç gün içinde taranabilir. Aynı şey bir şehrin bütün kamera kayıtları, bir ülkenin bütün telefon dökümleri ve bir bankanın bütün işlem geçmişi için de geçerli.
Devletin, karşıt görüşteki kişilere işlem yapma kalemi de ucuzladı. Bir kişiyi cezalandırmak eskiden tutuklama, yargılama, hapis ya da sürgün anlamına geliyordu. Bunların hepsi kadro, bütçe ve zaman gerektiriyordu. Bugün bir başvurunun reddedilmesi, bir kaydın işaretlenmesi veya bir iznin verilmemesi çoğu zaman aynı sonucu veriyor. Bu işlemler tek bir kayıt üzerinde yapılan değişikliklerle gerçekleşiyor.
Baskı ve sansürü gizleme kalemi en çarpıcı biçimde ucuzlayan kalemdir. Matbaa döneminde bir kitabın toplatılması meydanda olup biten bir işti. Görevliler eve giriyor, kitapları alıyor, ateşe veriyordu. Bunu görenler gördüklerini başkalarına anlatıyordu. Bastırma işleminin kendisi bir haber üretiyor ve yasaklanan kitabın adını, o adı hiç duymamış insanlara duyuruyordu. İktidar bir metni ortadan kaldırırken aynı anda onun reklamını yapmak zorunda kalıyordu. Bugün bir başvurunun neden reddedildiği, karşıt görüşteki bir içeriğin neden sansürlendiği ve "shadow ban" edildiği, bir kaydın neden işaretlendiği veya bir iznin neden verilmediği ne ilgili kişiye ne de kamuoyuna açıklanıyor. Çoğu durumda işlemin yapıldığına dair kamuya açık bir belge bile oluşmuyor. Bunun yanında bastırmanın yeni bir yolu daha ortaya çıktı. Yapay zekayla üretilen çok sayıda içerik, doğru bilgiyi yasaklamaya gerek kalmadan gürültü içinde görünmez kılabiliyor. Sansür bir şeyi kaldırır, gürültü ise onu bulunamaz hale getirir.
Dört kalemin dördü de aynı anda ve aynı yönde ucuzladı. Buna karşı aynı teknolojinin hürriyetseverlerin de elinde olduğu itiraz yapılabilir; nitekim şifreli haberleşme, açık kaynak istihbarat ve dağıtık ağlar muhalifin maliyetini de düşürdü. Bu doğru, ancak eşit değil. Devletin elinde vatandaşın hiçbir zaman sahip olamayacağı üç şey var: Zorlama yetkisi, bütün kamu kayıtlarına erişim ve neredeyse sınırsız hesaplama gücü satın alabilecek bütçe. Maliyet her iki tarafta da düştü, ancak devletin kaynak ve ölçek bakımından bireylere üstünlüğü maliyetteki bu düşüşü devlet lehine tek taraflı kılıyor.
Bugünkü Oran
Beş yüz yıl boyunca bu iki maliyet hürriyetin lehine hareket etti. Matbaa yaymayı ucuzlatırken devlet otoritesinin hürriyet yanlısı görüşlüleri bulmasını ve devletin baskıyı ve sansürü gizlemesini pahalandırdı. Kahvehane bir araya gelmeyi ve fikirlerin yayılımını ucuzlattı. Kayıt tutan devletin ve merkezi yayının hakim olduğu 20.yy bu eğilimin yavaşladığı tek aralıktı, ancak o dönemde bile devletin verileri anlamlandırma ve eyleme geçme kalemi pahalı kaldığı için baskının bir tavanı vardı.
Yapay zeka o tavanı kaldırdı. Karşıt düşünceleri bastırmanın dört kalemi birden ucuzlarken, bu düşünceleri yaymanın maliyeti beş yüz yıl içinde ilk kez arttı. Üstelik bu kalemin maliyetinin artmasının müsebbibi de aynı teknoloji.
Buradan çıkan sonuç, hürriyeti beş yüz yıl boyunca koruyan şeyin yöneticilerin erdemi olmadığıdır. Hürriyeti koruyan şey, baskının ve baskıyı sürdürmenin çok pahalı olması ve istibdatın maliyetinin hürriyet fikirlerini yayma maliyetinden daha yüksek olmasıydı. Bu maliyet farkı dönemin teknolojik vaziyetinin bir yan ürünü olarak kendiliğinden ortaya çıkmıştı. Günümüzde ise bu maliyet dengesi tersine dönmüştür. Bu nedenle hürriyet, yapay zekanın istibdatın maliyetini ucuzlatması nedeniyle tehdit altındadır.
Dolayısıyla sorulması gereken soru, dünya çapında iktidarların bu maliyet avantajı kaynaklı imkanı kullanıp kullanmayacağı değil. Ucuz olduğu için muhakkak kullanacaklar. Tıpkı Yüzüklerin Efendisi'nde sınırsız güce ulaşmak isteyen ve bu yolda yozlaşan her karakter gibi.
Çözüm bir ludit misali yapay zekanın düzenlemesini ve sınırlamasını savunmaktan geçmiyor. Hürriyetseverler için birincil öncelik, müstebit rejimler kurmanın ve bu rejimleri sürdürmenin maliyetlerini yükseltmek olmalı. Bir sonraki yazımızda bu düzeneklerin nasıl kurulup kurulamayacağını ve bunların nasıl tasarlanacağını ele alacağız.
