Yapay Zeka Çağında Kültür Nasıl Evriliyor?
İnsanlığı yeryüzünde baskın tür yapan şey ne kaslarımız ne dişlerimiz; kültür üretme ve aktarma kapasitemiz. Ateşi bulduk, tekerleği icat ettik, yazıyı geliştirdik, barutu keşfettik, uzaya çıktık ve Ay’a gittik; ancak asıl mucize bunlar değil, bunları bir sonraki kuşağa sözlü, yazılı ve davranışsal aktarabilme yetimizdir. Hiçbir kurt yavrusu babaannesinin av tekniğini bir kitaptan okuyamaz; biz okuyabildik ve bu bizi “insan” yaptı.
Kültürel evrim, tıpkı biyolojik evrim gibi üç bacak üzerinde yürür. Birincisi çeşitlilik: Yeni şeyler üretilir, denenir, keşfedilir. İkincisi aktarım: Bulunan bilgi öğretilir, yazılır, nesilden nesile taşınır. Üçüncüsü seçilim: Bazı buluşlar tutulur, bazıları unutulur. Tarihte matbaa aktarımı kökten değiştirdi; Rönesans seçilimi yeniden biçimlendirdi; ateşten elektriğe uzanan enerji devrimleri çeşitliliği arttırdı. Büyük kırılmalar, bu üç bacaktan birini tek tek ya da birkaçını aynı anda sarsar. Bugün üçünü birden sarsan bir güç var; bu sefer faili insan değil.
Çeşitlilik: Makine Yeni Şeyler “Keşfediyor”
2016 yılında dünyanın en iyi Go oyuncusu Lee Sedol, Google’ın yapay zekası AlphaGo karşısına oturdu. Beş maçlık serinin ikincisinde AlphaGo, 37. hamlesini yaptığında oda sessizleşti; çünkü bir insanın bu hamleyi yapma olasılığı 10.000’de 1 olarak hesaplanmıştı. Yüzyıllardır oynanan bu oyunda hiçbir usta, hiçbir gelenek, hiçbir okul böyle bir hamle öğretmemişti. AlphaGo bunu kendisiyle üç günde 4,9 milyon oyun oynayarak buldu; bu, bir insanın birkaç ömürde biriktiremeyeceği ölçüde geniş bir deneyim.
Asıl çarpıcı olan ise sonrasında yaşandı. İnsan Go oyuncularının karar kalitesi, AlphaGo’nun ortaya çıkışının ardından belirgin biçimde yükseldi. Oyuncular yalnızca makinenin hamlelerini kopyalamadı; ne makinenin ne de önceki insanların yaptığı, tamamen yeni hamleler geliştirmeyi başardılar. Makine, insana göremediği bir kapıyı gösterdi; insan o kapıyı açtı ve arkasında başka atılımlarda bulundu.
Benzer bir dinamik, üretici yapay zekada da işliyor. DALL-E gibi metin-görsel modelleri, birbirinden bağımsız kavramları alıp tutarlı yeni birleşimler üretebiliyor Bir örnekle, DALL-E mükerrer biçimde yaptırılan “avokado şeklinde koltuk” komutları gibi. Amaç elbette sayısız avokado koltuk tasarımı elde etmek değil; amaç, insanın kendi başına düşünemeyeceği kavramsal rekombinasyonların algoritmik olarak ne denli farklı ölçüde makine tarafından üretilebiliyor olmasını test etmek. Thomas Edison ampulün fitilini bulmak için aylarca 6.000’den fazla malzeme denemişti; yapay zeka ise benzer bir keşif sürecini yalnızca günler içinde tamamlayabiliyor. Makinenin bu becerisi; Edison’u ve benzeri mucitleri gereksiz mi kılıyor, yoksa Edison ve benzeri mucitlerin zamanını ve yaratıcılığını serbest bırakan bir araç mı?
Aktarım: Makine Artık Bir “Öğretmen”
Kültürün aktarılması, bir kuşağın bildiklerini bir sonrakine geçirmesi demektir. İnsanlık bunu önce sözle yaptı, sonra yazıyla, sonra seri üretim matbaayla. Her yeni araç aktarımı yalnızca hızlandırmadı, aynı zamanda dönüştürdü: Matbaa sadece hızlı kopyalama yöntemi değildi; bilgiye erişimi demokratikleştirdi, Reformasyon’u tetikledi, binlerce yıldır taşlaşmış mutlaki iktidar yapılarını sarstı.
Büyük dil modelleri ise şimdi yeni bir aktarım kanalı yaratıyor. Öğrenciler ödev yaptırıyor, avukatlar sözleşme yazdırıyor, yazılımcılar kod yazdırıyor. Bu modeller, insanlığın yazılı kültürünün büyük bölümü üzerine eğitilmiş birer kolektif hafıza gibi işlev görüyor. Ancak her hafızanın kör noktaları vardır ve bu modellerin kör noktaları da küçümsenmeyecek ölçektedir.
Birinci sorun, önyargıların yeniden üretilmesidir. Model, eğitim verisindeki kalıpları yansıtır: “Doktor” dediğinizde erkek, “hemşire” dediğinizde kadın varsayar; çünkü verikümesinde bu kalıplar baskındır. İkinci bir sorun ise, küresel ağırılığı nispeten düşük seviyedeki diller için model, o kültürün kodlarını aktarmak yerine aşındırır. Yeterli veri yoksa model düzgün çalışmaz, kullanıcılar küresel ağırlığı daha yüksek olan İngilizce gibi dillere kayar. Bu kısır döngü bir anafordur; “zayıf” dillerde giderek daha az içerik üretilir ve model daha da az veriyle eğitilir.
Bir diğer konu ise; insanın aksine makineler bilgiyi sıkıştırmadan, yani kuramsallaştırmadan işleyip aktarabilmektedir. AlphaFold, protein yapısını tahmin etmek için fizik teorisine ihtiyaç duymadan elindeki verileri çözümleyerek doğrudan sonuca gitti. Bu, bilim için çığır açıcı olabilir, ancak kültürel aktarım için tehlike işareti taşımaktadır. Nitekim kültürler bilgiyi anlatılar, mitler, kuramlar aracılığıyla aktarır. Kuram gereksizdir demek, aktarımın omurgasını kırmak anlamına gelebilir. Bir toplum anlatılarını yitirdiğinde, aktaracak bilgisi olsa bile onu taşıyacak iskeleti kalmamış demektir.
Aktarımın biçimi kadar kaynağı da değişmektedir. Çocuğunuz bir konuyu büyük dil modellerine sorarak öğreniyorsa, öğretmeni kimdir? Modeli eğiten ve veriyi modele seçtiren mühendis mi, o mühendisi istihdam eden şirket mi, yoksa eğitim verisini kümülatif biçimde sanal ortamda oluşturmuş milyonlarca anonim yazar ve internet girdisi mi?
Seçilim: Makine Kimin Neyi Göreceğine Karar Veriyor
En sessiz ama en güçlü bacak seçilim bacağıdır. Makineler yalnızca içerik üretmiyor; hangi içeriğin görüneceğine, hangisinin görünmeyeceğine de karar veriyor. Spotify ne dinleyeceğinizi, YouTube ne izleyeceğinizi, X kimi takip edeceğinizi, Amazon ne satın alacağınızı öneriyor. Bunlar masum öneriler değildir; ekinsel evrimin seçilim mekanizmasını yöneten görünmez ellerdir. Manipülasyona da bittabi açıktır.
Mekanizmanın temelinde ise makineleri geliştiren firmaların iş modelleri yatmaktadır. Bu algoritmalar etkileşimi maksimize etmek üzere tasarlanmıştır. Etkileşimi en çok artıran içerik ise duygusal ve ahlaki açıdan yüklü içeriktir: Öfke, şok, korku, kızgınlık ve duygu sömürüsü. Araştırmalar, algoritmaların duygular üzerine oynayan paylaşımları sistematik olarak öne çıkardığını göstermektedir. Mekanizmanın temelini oluşturan bir diğer önemli husus ise, birtakım firmalar algoritmayı kendi dünya görüşleri çerçevesinde biçimlendirebilir. Bunun örneklerini özellikle küreselci eğilime sahip kurumların karşıt düşünceyi bastıran, ailevi ve milli değerleri aşındıran, küreselci köksüzlüğü özendiren, medeni ve hür tartışma ortamını sözde doğruculukları ile yok eden uygulamalarda görüyoruz.
Bu algoritmaların sonucunda yankı odaları oluşmaktadır. Birey yalnızca işitmek istediğiyle kuşatılıyor, karşıt görüş görünümünden siliniyor. Dünya daralan bir mercekten görünüyor ancak birey bunu genişleme sanıyor. Böyle bir dünyada sansüre gerek kalmamıştır; birey kendi sansürünü kendi inşa etmektedir. Hannah Arendt’in totaliter rejimlerin önkoşulu olarak tarif ettiği “atomize edilmiş, köksüzleştirilmiş, yalnızlaştırılmış birey”, artık fiziksel bir diktatörün eseri değil, bir algoritmanın çıktısıdır.
Makine, yine makine üretimi verikümeleri ile eğitildikçe çeşitlilik de giderek daralır; çıktılar birkaç kalıba hapsolur ve kültürel evrim durma noktasına gelir. Buna da “model çökmesi” denmektedir; çünkü evrilecek çeşitlilik ortadan kalkmıştır. Bugün okuduğunuz haberi siz mi seçtiniz, yoksa bir algoritma size “seçtirdi” mi? Yanıtı bilmiyorsanız, yanıt muhtemelen ikincisidir.
Kültürel evrimin üç bacağını olan neyin üretileceği, nasıl aktarılacağı ve neyin seçileceğini artık algoritmalar biçimlendiriyor. Bu algoritmaları birkaç şirket yazıyor, birkaç dilde eğitiyor, birkaç kültürün kodlarıyla besliyor. Ekinsel evrimde edilgen kalan toplumlar, başkalarının ürettiği çeşitliliği tüketir, başkalarının yönettiği kanallardan beslenir ve başkalarının belirlediği seçilim kriterlerine tabi olur.
İkinci Rönesans yazımızda Osmanlı’nın matbaayı kabulünde 300 yıl gecikmesinin bedelini tartmıştık. Bu sefer mesele daha büyük; nitekim matbaa bilgiyi aktarıyordu, makine destek evrilen kültür ise eşzamanlı olarak bilgiyi üretiyor, aktarıyor ve seçiyor.
Türkiye’nin bu yeni kültürel evrim düzeni ve döngüsünde özne mi yoksa nesne mi olacağı, girdiğimiz yeni çağın en kritik sorularından biridir.
