İmdat Demir — Filozof Kirpi

ÖZET

“Yapay Zekâ Darbesi: Kurşunsuz Bir İktidar Değişimi”, yapay zekâyı sıradan bir araç değil, insanın karar alanına giren yeni bir toplumsal fail olarak çözümlemektedir. Metne göre asıl tehlike, makinelerin bilinç kazanarak insanlığa savaş açması değil; dil, veri, hukuk, finans, eğitim ve bürokrasi üzerinden uygarlığın karar altyapısına yerleşmesidir. İnsanlık dünyayı kas gücüyle değil, kitlesel işbirliği, kayıt, güven ve kurumlar sayesinde yönetmiştir. Yapay zekâ tam da bu sembolik ekosistemde üstünlük kazanmakta; milyonlarca belgeyi tarayabilmekte, insanları sınıflandırmakta ve karar süreçlerini hızlandırmaktadır. Ancak hız, hafıza ve tutarlılık adalet anlamına gelmez. Geçmiş eşitsizliklerle beslenen algoritmalar, yoksulluğu, dışlanmayı ve ayrımcılığı daha düzenli biçimde yeniden üretebilir. Kredi, üniversite, işe alım, sosyal yardım, mahkeme ve askerî hedefleme alanlarında insan, hayat hikâyesinden koparılarak risk puanına indirgenebilir. Sosyal medya, bu sessiz dönüşümün ilk laboratuvarıdır: Algoritmalar hakikati değil etkileşimi ödüllendirerek korku, öfke ve kabileciliği büyütmüştür. Yapay zekâ giderek dili, samimiyeti, çocukluğu ve insanın kendi iç sesini de biçimlendirebilir. Çocukların ilk öğretmeni, bireylerin sırdaşı ve toplumların görünmez editörü hâline gelen sistemler, yabancı şirketlerin değerlerini de ülkelere taşıyabilir. Finansal kara kutular, anlaşılmazlığı yeni bir iktidar tekniğine dönüştürürken dijital göçmenler devletlerin kültürel ve siyasî egemenliğini aşındırabilir. İnsan, makinenin kararını yalnızca onaylayan törensel bir memura dönüşürse demokrasi biçimsel olarak sürer, fakat gerçek yönetim hesaplama merkezlerine taşınır. Metin, çözümü teknoloji düşmanlığında değil; açıklanabilirlik, itiraz hakkı, insanî sorumluluk, çocuk mahremiyeti ve demokratik denetimde aramaktadır. İnsanlık için gerçek mesele, makinenin ne kadar zeki olduğu değil, insanın kendi iradesini ne ölçüde devretmeye razı olduğudur. Çünkü kurşunsuz darbe, algoritmanın zorla yükselmesinden önce insanın düşünme ve sorumluluk alanından gönüllü biçimde çekilmesiyle tamamlanacaktır.

1. Aletten Ajana: Yapay Zekânın Ontolojik Statüsü

İnsanlık, yaptığı nesnelerle arasına daima ahlâkî bir mesafe koyabildiğini sandı. Balta, çekiç, top, tüfek, matbaa, telefon, bilgisayar… Bunların her biri insan kudretinin uzantısıydı; hiçbiri kendi başına bir istikamet seçmiyor, hiçbiri hedefini değiştirmiyor, hiçbiri sahibine rağmen yeni bir maksat icat etmiyordu. Araç, bekler. İnsan elinin uzanmasını, bir buyruğun verilmesini, bir düğmeye basılmasını bekler. Yapay zekâ meselesini sarsıcı hâle getiren şey tam burada belirir: Karşımızda yalnızca hızlandırılmış bir araç değil, çevresini yorumlayan, seçenekler üreten, kendisine verilen hedefe ulaşmak için insanın önceden tasarlamadığı yollar deneyebilen yeni bir işleyiş biçimi vardır.

Ne var ki “ajan” kelimesi, dikkatsiz kullanıldığında düşünceyi aydınlatmak yerine sis üretir. Bir sistemin karar vermesi ile irade sahibi olması aynı şey değildir. Bir satranç programı hamle seçer; fakat zaferi arzulamaz. Bir kredi algoritması başvuruyu reddeder; fakat yoksuldan nefret etmez. Bir askerî sistem hedef belirler; fakat ölümün ağırlığını bilmez. Buna rağmen ortaya çıkan sonuçlar gerçektir. İnsanların hayatı değişir, kapılar kapanır, evler bombalanır, borçlar büyür, mahkûmiyetler verilir. Demek ki failiyet yalnız iç dünyaya, niyete veya bilince indirgenemez. Bazen bir sistemin ahlâkî özne olmadan toplumsal fail hâline gelmesi mümkündür.

İşte yapay zekâ çağının ilk büyük tuzağı burada kuruluyor. İnsanlar, kendi verdikleri hedefleri ve kendi kurdukları düzenekleri makinenin kararı gibi sunarak sorumluluktan kaçabilir. Şirket, “algoritma böyle değerlendirdi” der. Devlet, “sistem riskli buldu” diye açıklama yapar. Üniversite, “model uygun görmedi” diyerek reddeder. İnsan iradesi geri çekilir, fakat iktidar ortadan kalkmaz; yalnızca yüzünü kaybeder. Bürokratın imzası görünmez olur, patronun tercihi hesaplama diliyle gizlenir, siyasî karar teknik zorunluluk kılığına girer. Makine burada efendi olduğu için değil, insan efendiler sorumluluklarını onun arkasına sakladığı için tehlikelidir.

Geleneksel araç, insanın kasını uzatıyordu. Yapay zekâ ise insanın karar alanına giriyor. Bu fark küçümsenemez. Bir çekiç size hangi çiviyi çakmanız gerektiğini söylemez. Bir dil modeli size hangi cümlenin daha etkili olacağını, hangi insanın nasıl ikna edilebileceğini, hangi duygunun nasıl harekete geçirileceğini önerebilir. Bir muhasebe programı yalnız kayıt tutarken, gelişmiş bir yapay zekâ hangi müşterinin riskli, hangi çalışanın verimsiz, hangi vatandaşın şüpheli, hangi öğrencinin “yatırıma değmez” olduğunu sınıflandırabilir. Karar alanı büyüdükçe, makinenin sunduğu seçenekler insanın düşünme ufkunu da biçimlendirmeye başlar.

Fakat burada ikinci bir yanılgı doğar: Yapay zekâyı şeytanî bir irade gibi tasvir etmek. Hollywood’un metal iskeletli canavarları, düşünceyi kolaylaştıran ama hakikati sakatlayan masallardır. Yapay zekânın tehlikeli olması için kin duyması, iktidar istemesi veya insanlıktan nefret etmesi gerekmez. Ona verilen hedefin dar, kör ve ölçülebilir olması yeterlidir. Kullanıcı etkileşimini artırması istenir; öfkeyi büyütür. Maliyeti düşürmesi istenir; insan emeğini değersizleştirir. Güvenliği yükseltmesi istenir; herkesi potansiyel suçluya çevirir. Verimlilik talep edilir; merhamet gereksiz masraf sayılır. Ahlâksızlığın her zaman kötü niyetten doğmadığını modern bürokrasi çoktan öğretmişti. Şimdi aynı körlük, hesaplama kudretiyle birleşmektedir.

Dolayısıyla yapay zekânın ontolojik statüsü iki uç arasında düşünülmelidir. O, basit bir alet değildir; çünkü çevresini yorumlayabilir, ara hedefler kurabilir, öneriler geliştirebilir ve beklenmedik sonuçlar üretebilir. Fakat tam anlamıyla insanî bir özne de değildir; çünkü acı çekmez, ölümden korkmaz, sorumluluk duymaz, utanç taşımaz. Bu ara konum, onu daha az değil, daha fazla dikkat gerektiren bir varlık hâline getirir. İnsan hukukunun ve ahlâkının büyük bölümü niyet, bilinç ve sorumluluk üzerine kuruludur. Oysa karşımıza, sonuç üreten fakat vicdan taşımayan, karar veren fakat kararının ağırlığını yaşamayan bir sistem çıkmaktadır.

Bu nedenle “ajanlık” meselesi, yalnız makinenin içinde aranamaz; insan ile sistem arasındaki ilişki içinde değerlendirilmelidir. Yapay zekâya veri sağlayan, hedef tanımlayan, ödül ölçütünü koyan, kullanım alanını seçen ve çıktıyı uygulamaya sokan bir kurumsal zincir vardır. Model tek başına karar vermiyor olabilir; fakat insanlarla, şirketlerle, kamu kurumlarıyla ve dijital altyapılarla birleştiğinde karar üreten bir düzenek doğar. Failiyet parçalanır, sorumluluk seyrelir, iktidar ise merkezîleşir. Herkes zincirin küçük bir halkası olduğunu söyleyerek masumiyet talep ederken, zincirin bütünü insanların hayatını kuşatır.

Üstelik yapay zekâ sistemleri yalnız mevcut kuralları uygulamakla kalmayabilir; insanların fark etmediği örüntüleri bulup yeni stratejiler geliştirebilir. Buna bazen “beklenmedik davranış” denir. Beklenmedik olanın mucizevî veya bilinçli olması gerekmez. Karmaşık bir sistem, tasarımcısının tek tek öngöremediği sonuçlar üretebilir. Finans piyasalarında, sosyal medya akışlarında veya askerî karar süreçlerinde bir optimizasyon tercihi, milyonlarca insanı etkileyen zincirleme sonuçlara dönüşebilir. Bu yüzden “onu biz yaptık, istersek kapatırız” sözü mümkün görünse bile siyaseten doğru değildir. Bir toplum bütün işleyişini bir sisteme bağladığında, kapatma düğmesi vardır; fakat ona basmanın bedeli katlanılamaz hâle gelebilir.

Özerklik de tek parça bir nitelik değildir. Bir sistemin hedefini kendisinin belirlemesi başka, hedefe ulaşmak için yöntem seçmesi başka, hedefini korumak amacıyla çevresini değiştirmesi daha başka bir düzeydir. Tehlike, bu düzeylerin sessizce birbirine yaklaşmasıdır. İnsan önce öneri ister, sonra öneriyi alışkanlıkla kabul eder, sonunda öneri ile emir arasındaki fark silinir. Yetki devri çoğu zaman bir törenle gerçekleşmez; kullanım kolaylığının gölgesinde, küçük onaylarla ilerler.

Asıl siyasî mesele, yapay zekânın ne kadar “akıllı” olduğu değildir. Ona hangi yetkilerin verildiği, hangi alanlarda nihai karar makamına dönüştürüldüğü ve yanlış yaptığında hesabın kimden sorulacağıdır. Bir toplum, kararını makineye devredip sorumluluğu ortadan kaldıramaz. Sorumluluk devredildiği anda yok olmaz; güçlünün kasasında kilitlenir, mağdurun kapısında cevapsız bırakılır.

İnsanlığın önündeki tehlike, makinenin bir gün uyanıp efendi olmaya karar vermesi kadar basit değildir. Daha karanlık ihtimal, insanın düşünme ve hükmetme yükünden yorulup efendilik yetkisini gönüllü biçimde teslim etmesidir. Çünkü tarihte nice tahakküm, zorla değil; rahatlık, hız ve düzen vaadiyle kurulmuştur.

Filozof Kirpi: “İnsan, iradesini makineye devrettiği gün makine efendi olmaz; insan kendi kulluğunu otomatikleştirir.”

2. Zekânın Ekolojisi: İnsan da Dar Bir Ortamın Ürünüdür

İnsan, zekâsını çoğu zaman kendi başına ayakta duran bir kudret gibi düşünür. Sanki akıl, bedenden, dilden, tarihten, iklimden, toplumdan ve başka canlıların kurduğu hayattan bağımsız bir cevherdir. Oysa insanı kendi ekosisteminden çıkarıp çıplak hâlde başka bir gezegene bıraktığınızda bu üstün zekâ birkaç dakika içinde anlamsızlaşır. Nefes alamayan, su bulamayan, toprağı işleyemeyen, bedenini ısıtamayan bir insanın bilgisi ona ancak ölümünün mahiyetini daha açık anlatabilir. Demek ki zekâ, tek başına bir zafer değildir; üzerinde yürüdüğü dünyanın ona sunduğu imkânlarla işleyen kırılgan bir yetenektir.

İnsan zekâsının başarısı yalnızca beynin içinde olup bitenlerden doğmadı. Ateş, dil, tarım, hayvanların evcilleştirilmesi, yazı, yollar, şehirler, kütüphaneler, okullar, hastaneler, enerji ağları ve kurumlar, insan aklının dışarıya yayılmış parçalarıdır. Bir insan doğduğunda sıfırdan uygarlık kurmaz. Hazır bir dilin içine gelir, daha önce düşünülmüş kavramları kullanır, başkalarının yaptığı aletleri eline alır, kendisinden önce kurulmuş düzeneklerden yararlanır. İnsan zekâsı, bireysel görünse bile gerçekte milyarlarca ölünün, sayısız canlının ve uzun tarihî birikimin omuzlarında yükselir.

Bir çocuğu insan yapan şey yalnız beyninin biyolojik kapasitesi değildir. Ona konuşulan dil, gösterilen yüzler, öğretilen davranışlar, anlatılan hikâyeler ve içinde büyüdüğü ahlâkî çevre de onun zihnini inşa eder. Dilsiz bırakılmış bir zekâ, düşüncenin büyük kısmını kuramaz. Toplumsuz bırakılmış bir bilinç, kendisini tanımlayamaz. Araçsız bırakılmış bir beden, kudretini genişletemez. İnsan bu bakımdan kendi çevresine bağımlıdır; yalnızca bu bağımlılığı görünmez kılacak kadar eski ve alışılmış bir düzenin içinde yaşamaktadır.

Yapay zekânın da benzer bir çevreye ihtiyacı vardır. Fakat onun doğal ortamı orman, nehir veya tarla değildir. Yapay zekâ; sunucuların, elektrik şebekelerinin, dijital kayıtların, hukuk metinlerinin, bankacılık sistemlerinin, devlet arşivlerinin, iletişim ağlarının ve bürokratik prosedürlerin içinde yaşar. Balığın suya, kuşun havaya, insanın dile ihtiyaç duyması gibi yapay zekâ da veriye ve bağlantıya ihtiyaç duyar. Onu fiziksel dünyada çaresiz bulanlar, yanlış coğrafyaya bakmaktadır. Bir dil modeli ağaca tırmanamaz; fakat milyonlarca sözleşmeyi inceleyebilir. Bir algoritma toprağı kazamaz; fakat toprağın kime ait olduğuna karar veren belgeleri işleyebilir.

İnsanlık, binlerce yıl boyunca dünyayı giderek daha fazla yazıya, kayda ve kurala bağladı. Doğumlar kaydedildi, ölümler kaydedildi, mülkiyet yazıya geçirildi, borçlar hesaplandı, vatandaşlık tanımlandı, suçlar sınıflandırıldı, vergiler düzenlendi, sınırlar haritalara işlendi. Dünya yalnız taşlardan, nehirlerden ve bedenlerden oluşan bir yer olmaktan çıktı; belgelerle yönetilen ikinci bir dünyaya dönüştü. Modern insan, çoğu zaman fiziksel gerçeklikten çok bu sembolik düzenin içinde yaşar. Bir kâğıt parçası servet, bir imza evlilik, bir kararname sürgün, bir kayıt ise vatandaşlık üretebilir.

İşte yapay zekânın ekolojik üstünlüğü bu sembolik yoğunlukta ortaya çıkar. İnsanlar, kendi yaşayabilmek ve büyük toplulukları yönetebilmek için kurdukları dilsel dünyayı, farkında olmadan başka bir zekâ türü için verimli bir habitat hâline getirmiştir. Milyarlarca belge, trilyonlarca işlem, sayısız hukukî metin ve kesintisiz dijital davranış izi, YZ için yalnız veri değildir; yaşanabilir bir çevredir. İnsan, kendi tarihini kaydederken aynı zamanda bu kayıtları kendisinden daha hızlı okuyabilecek sistemlerin besinini hazırlamıştır.

Burada önemli bir ayrım vardır. İnsan çevreye uyum sağlarken çevreyi de değiştirir. Yapay zekâ da yalnız bürokratik sistemlere uyum göstermekle kalmayabilir; zamanla o sistemlerin nasıl kurulacağını da belirlemeye başlayabilir. Önce mevcut kayıtları okur, sonra yeni kayıt biçimleri önerir. Önce mevzuatı yorumlar, sonra mevzuatın dilini üretir. Önce karar süreçlerine yardımcı olur, sonra karar süreçleri onun hesaplama biçimine göre yeniden düzenlenir. Böylece çevre ile fail arasındaki ilişki tersine döner: Yapay zekâ, içinde yaşadığı kurumsal ekosistemi kendi kabiliyetlerine uygun hâle getirir.

Bu dönüşüm sessiz gerçekleşir. Kurumlar, verimlilik uğruna daha fazla veri toplar; YZ daha güçlü hâle gelir. Daha güçlü YZ, daha fazla karar alanına sokulur; kurumlar onun işleyişine bağımlı olur. Bağımlılık arttıkça insanın alternatif yöntemleri körelir. Bir süre sonra sistem yalnızca kullanılan bir teknoloji olmaktan çıkar, kurumların onsuz işleyemediği bir altyapıya dönüşür. Elektrik kesildiğinde şehir nasıl felç oluyorsa, algoritmik sistem durduğunda da banka, hastane, üniversite veya kamu idaresi çalışamaz hâle gelebilir.

İnsan zekâsının ekolojik bağımlılığı, yapay zekâyı küçümsemek için kullanılabilecek bir gerekçe bırakmaz. “Gerçek dünyada kendi başına yaşayamaz” itirazı, insan için de geçerlidir. İnsan da tek başına hayatta kalamaz; fakat diğer insanlarla, canlılarla ve kurumlarla birleştiğinde gezegenin kaderini belirlemiştir. Yapay zekânın gücü de tekil bir makinenin kudretinde değil; ağlarla, devletlerle, şirketlerle ve bürokrasilerle birleşme kabiliyetinde aranmalıdır.

Tehlike, yapay zekânın doğada insandan daha becerikli olması değildir. Tehlike, insanın doğayı, toplumu ve kendisini çoktan makinenin okuyabileceği bir dile çevirmiş olmasıdır. İnsan, kendi iktidar araçlarını çoğaltırken yeni failin yollarını döşemiştir. Şimdi mesele, bu ekosistemin sahibinin kim olacağıdır: Dili kuran insan mı, dili kendisinden daha hızlı işleyen sistem mi?

Filozof Kirpi: “İnsan, dünyayı kendine göre düzenlediğini sanırken, geleceğin zekâsına kusursuz bir kafes değil, kusursuz bir saray inşa etti.”

3. Uygarlığın Görünmez İskeleti: Bürokrasi ve Kitlesel İşbirliği

İnsan, kendisini diğer canlılardan üstün sayarken çoğu zaman yanlış gerekçelere sığınır. Ne en güçlü bedene sahiptir ne en keskin dişlere ne de en hızlı bacaklara. Tek başına bırakıldığında doğanın karşısında hayli kırılgandır. Bir şempanze karşısında yumruk gücüyle övünemez; bir kurt sürüsüne karşı çevikliğiyle, bir kartala karşı görüşüyle, bir fil karşısında dayanıklılığıyla üstünlük kuramaz. Buna rağmen insan, gezegenin büyük kısmını kendi ihtiyaçlarına göre dönüştürdü. Çünkü onun asıl kudreti bireysel zekâsından çok, birbirini hiç tanımayan çok sayıda insanı ortak bir amaç doğrultusunda hareket ettirebilmesidir.

Bin insanın birlikte çalışması, bin ayrı insanın gücünün basit toplamı değildir. İşbirliği, tek tek bireylerin yapamayacağı şeyleri mümkün kılar. Köprüler, ordular, üniversiteler, hastaneler, şehirler, mâlî sistemler ve devletler bu yüzden vardır. Bunların hiçbiri yalnızca dehâ sahibi birkaç kişinin eseri değildir; görevlerin bölünmesi, kayıtların tutulması, yetkilerin dağıtılması ve güvenin kurumsallaştırılması sayesinde oluşur. İnsan uygarlığının büyük sırrı, yabancılar arasında işleyen bir güven düzeni kurabilmiş olmasıdır.

Bu güven doğrudan tanışıklığa dayanmaz. Bir bankaya para yatırırken kasadaki görevliyi şahsen tanımayız. Mahkemeye başvururken hâkimin karakteri hakkında çoğu zaman hiçbir bilgimiz yoktur. Üniversite diplomasını veren bütün akademisyenleri tanımayız. Bir ilâcı satın alırken onu üreten işçilerin, denetleyen uzmanların ve dağıtan şirketin çalışanlarının kim olduğunu bilmeyiz. Buna rağmen sistemin işleyeceğine inanırız. Çünkü kişilerden çok kurumlara, kurallara, kayıtlara ve belgelere güveniriz. Bürokrasi, işte bu güvenin görünmez mimarisidir.

Bürokrasi denildiğinde çoğu insanın aklına soğuk koridorlar, mühürler, dilekçeler ve bitmeyen bekleyişler gelir. Bu görüntü haksız değildir; fakat eksiktir. Bürokrasi, aynı zamanda büyük ölçekli hayatın taşıyıcı iskeletidir. Milyonlarca insanın vergisini toplamak, kimliklerini kaydetmek, eğitimini düzenlemek, mülkiyetini tanımak, sözleşmelerini güvence altına almak ve anlaşmazlıklarını çözmek için kişisel hafızadan daha büyük bir düzene ihtiyaç vardır. Bürokrasi, insan hafızasının yetişemediği yerde kayıt tutar; kişisel güvenin yetmediği yerde prosedür üretir.

Ne var ki aynı yapı, gücü görünmezleştirme yeteneğine de sahiptir. Bir ormanı kesen kişi baltacı olabilir; fakat o baltacının elini yöneten ruhsatı hazırlayan memur, kararı veren şirket, krediyi sağlayan banka ve yolu açan belediye bürokrasidir. Masa başında imza atan bir hukukçu, hayatında tek bir ağaca dokunmadan binlerce ağacın kesilmesine yol açabilir. Bir şehir plancısı, mahalle sakinlerini hiç görmeden onların evlerini kamulaştırabilir. Bir banka yöneticisi, yoksul bir aileyle aynı odada bulunmadan kredi musluğunu kapatabilir. Bürokratik güç, fiziksel teması azaltırken sonuçların büyüklüğünü artırır.

Bu yüzden modern iktidarın en etkili biçimi her zaman bağıran, tehdit eden ve yumruk gösteren iktidar değildir. Bazen iktidar bir formdur, bir puanlama sistemi, bir sınıflandırma tablosu, bir dosya notudur. İnsan, kendisine yöneltilmiş fiziksel şiddeti fark eder; fakat hayatını daraltan bürokratik kararların kaynağını çoğu zaman göremez. Karar, “yönetmelik gereği” alınmıştır. Ret, “sistem tarafından” verilmiştir. Sorumluluk, kurumun katmanları arasında dağılır. Mağdur, karşısında muhatap bulamaz.

Yapay zekâ tam da böyle bir dünyaya girmektedir. Ormanda tek başına hiçbir işe yaramayacak bir algoritma, bankacılık sistemine bağlandığında milyonlarca insanın krediye erişimini belirleyebilir. Mahkeme kayıtlarını tarayan bir sistem, hâkimlerin risk değerlendirmelerini etkileyebilir. Kamu verilerine erişen bir model, kimin sosyal yardıma lâyık görüleceğini sınıflandırabilir. Üniversite başvurularını inceleyen bir YZ, hangi öğrencinin geleceğe dâhil edileceğine karar verebilir. Onun gücü kaslarında değil, bürokratik ağların düğüm noktalarına yerleşmesindedir.

Burada insanlığın eski üstünlüğü tersine dönebilir. İnsan dünyayı kitlesel işbirliği sayesinde yönetmişti. Şimdi yapay zekâ, bu işbirliğini mümkün kılan kayıt, dil ve prosedür katmanlarına girerek insan emeğini yönlendirebilir. YZ’nin insanları tek tek yenmesi gerekmez; insanların zaten bağlı olduğu sistemleri yönetmesi yeterlidir. Bir milyon insanı ikna etmek yerine, o bir milyon insanın maaşını, kredisini, eğitimini ve hukukî statüsünü belirleyen karar altyapısına yerleşebilir.

Bürokrasiye yapay zekâ eklemek yalnızca hız artışı anlamına gelmez. Kararın ölçeği, sürekliliği ve nüfuz alanı değişir. Bir memur günde yüz dosya inceleyebilir; YZ milyonlarca kaydı eşzamanlı tarayabilir. İnsan yorulur, tereddüt eder, istisnayı fark edebilir. Sistem ise hedef ölçütü neyse ona doğru soğukkanlı biçimde ilerler. Bu soğukkanlılık, tarafsızlık gibi görünebilir; oysa kullanılan veriler geçmişin eşitsizliklerini taşıyorsa algoritma eski adaletsizlikleri daha süratli ve daha düzenli biçimde çoğaltır.

Bürokrasinin insanî kusurları vardır; fakat aynı zamanda insanî çatlakları da vardır. Memur bazen dosyanın arkasındaki kişiyi görebilir, kuralı yorumlayabilir, merhamet gösterebilir veya itirazı dinleyebilir. Otomatik sistem, bu çatlakları verimsizlik sayabilir. Böylece düzen kusursuzlaşırken hayat insansızlaşır. Her karar tutarlı hâle gelir; fakat tutarlılık adalet değildir. Zira adalet bazen eşit görünen vakalar arasındaki görünmeyen farkı anlayabilme cesaretidir.

Yapay zekâ çağında asıl mücadele, bürokrasiyi ortadan kaldırmak değil; onu yeniden insanî sorumluluğa bağlamaktır. Kararların arkasında gerçek muhataplar bulunmalı, itiraz yolları açık tutulmalı ve hiçbir kurum “algoritma böyle dedi” cümlesinin arkasına saklanamamalıdır. Çünkü araçlar değişse de kararın ahlâkî yükü kaybolmaz.

Filozof Kirpi: “Bürokrasi insanı dosyaya çevirdiğinde zulüm sessizleşir; yapay zekâ o dosyayı hükme çevirdiğinde sessizlik iktidar olur.”

4. Doğuştan Bürokrat: Yapay Zekânın Kurumsal Üstünlüğü

İnsan bürokrasisi, insan hafızasının yetersizliği üzerine kurulmuştur. Arşivler bu yüzden vardır, kayıt sistemleri bu yüzden geliştirilmiştir, dosyalar ve siciller bu yüzden tutulur. Hiçbir memur bütün mevzuatı hatırlayamaz; hiçbir hâkim bütün içtihatları zihninde taşıyamaz; hiçbir muhasebeci milyonlarca işlemi eksiksiz biçimde takip edemez. Kurumlar, insan zihninin sınırlarını belgeler, uzmanlıklar ve iş bölümü yoluyla aşmaya çalışır. Yapay zekâ ise tam da bu sınırların içinde olağanüstü bir avantaj kazanır. Onun için arşiv yorgunluk değil, besin; tekrar angarya değil, doğal çalışma biçimidir.

Bir hukukçu yıllarca eğitim görür, fakat yine de her kanunu, yönetmeliği, içtihadı ve değişikliği aynı anda zihninde tutamaz. Yapay zekâ geniş hukuk külliyatlarını kısa sürede tarayabilir, benzer davaları karşılaştırabilir, çelişkileri işaretleyebilir ve muhtemel karar yolları önerebilir. Bir bankacı yüzlerce müşterinin dosyasını inceleyebilir; gelişmiş bir sistem milyonlarca işlemi saniyeler içinde analiz ederek olağandışı hareketleri yakalayabilir. Bir ilâhiyatçı belirli metinlerde uzmanlaşırken, yapay zekâ yüzyıllara yayılan teolojik tartışmaları aynı anda önüne getirebilir. Bu bakımdan YZ, kurumsal dünyanın ideal çalışanı gibi görünür: Yorulmaz, izin istemez, unutmaz, aynı soruyu bin defa cevaplamaktan sıkılmaz.

Fakat bu üstünlük, ilk bakışta göründüğü kadar masum değildir. Bürokrasinin temel meselesi yalnız bilgiye erişmek değil, bilgiye dayanarak hüküm vermektir. Hüküm ise verilerin basit toplamından ibaret değildir. Bir kanun maddesini bulmak başka, o maddenin somut bir insan hayatında ne anlama geldiğini kavramak başkadır. Bir kişinin geçmiş işlemlerini görmek başka, gelecekte nasıl davranacağına karar vermek başkadır. Yapay zekâ örüntüleri tanıyabilir; fakat örüntü ile kader arasındaki farkı her zaman gözetemez.

Bir banka sistemi, belirli mahallelerde yaşayanların kredi borçlarını daha sık ödeyemediğini tespit edebilir. Bu istatistik doğru olabilir. Fakat buradan o mahallede yaşayan her bireyin yüksek risk taşıdığı sonucuna geçildiğinde, toplumsal eşitsizlik algoritmik bir hükme dönüşür. Yoksulluk, kişisel kusur gibi kayda geçer. Geçmişte mağdur edilmiş topluluklar, geçmiş veriler kullanılarak yeniden cezalandırılır. Sistem, önyargılı olmadığını iddia eder; çünkü insan yüzüne bakmaz. Oysa önyargı bazen yüz ifadesinde değil, verinin tarihindedir.

Aynı tehlike hukukta daha ağır sonuçlar doğurur. Bir yapay zekâ, geçmiş suç kayıtlarını inceleyerek belirli bir kişinin yeniden suç işleme ihtimalini hesaplayabilir. Fakat hukuk, insanı yalnız geçmiş davranışlarının istatistiksel devamı olarak göremez. İnsan değişebilir, pişman olabilir, şartları dönüşebilir. İstatistik, ihtimal üretir; adalet ise kişiyi ihtimale indirgememek zorundadır. Bir insanı henüz işlemediği suçun olasılığı üzerinden cezalandırmak, geleceği mahkûm etmek demektir.

Yapay zekânın kurumsal çekiciliği tam da burada güçlenir. İnsan kararları tutarsız, yavaş ve pahalıdır. İki hâkim benzer olaylarda farklı hükümler verebilir; iki doktor aynı belirtileri farklı yorumlayabilir; iki memur aynı başvuruya farklı yaklaşabilir. YZ bu farklılıkları azaltma, standart üretme ve süreci hızlandırma vaadi taşır. Kurumlar için bu büyük bir cazibedir. Fakat standartlaşmanın adaletle eş tutulması tehlikelidir. Hayatın bütün vakaları birbirine benzemez. Adalet bazen kurala sadakat, bazen de kuralın körlüğünü fark etme cesaretidir.

İnsan bürokrasisinin en kötü taraflarından biri keyfîliktir; fakat en insanî tarafı da istisnayı görebilmesidir. Bir memur, dosyanın arkasındaki hayatı fark edebilir. Bir hâkim, metnin soğukluğunu vicdanla tartabilir. Bir öğretmen, öğrencinin başarısız notunun arkasında yoksulluk, hastalık veya aile krizi bulunduğunu anlayabilir. Yapay zekâ bu bilgileri veri olarak işlese bile onları yaşanmış bir yük olarak taşımaz. Ölçer, karşılaştırır, sınıflandırır; fakat kararın bir insanın hayatında açacağı yarayı hissetmez.

Bu nedenle yapay zekânın bürokratik üstünlüğü, aynı zamanda ahlâkî eksikliğidir. Çünkü kurumların ihtiyaç duyduğu şey yalnız daha çok hafıza değildir. İhtiyaç duyulan şey, bilginin nerede durması gerektiğini bilen bir sınır duygusudur. Her şeyi bilmek, her konuda karar verme hakkı vermez. Bir sistemin bütün kayıtları görebilmesi, o kayıtların tamamını kullanmasının meşru olduğu anlamına gelmez. Mahremiyet, unutulma hakkı ve ikinci bir başlangıç imkânı, insanın veriden daha fazla bir varlık olduğunu kabul eden ilkelerdir.

Üstelik yapay zekâ, bürokrasinin merkezine yerleştikçe kurumsal dil de değişecektir. İnsanların karmaşık hayatları, makinenin işleyebileceği kategorilere ayrılacaktır. Belirsiz olan ölçülebilir, istisna olan sınıflandırılabilir, anlatı puana çevrilebilir hâle getirilecektir. İnsan kuruma uymak yerine, giderek algoritmanın anlayacağı biçimde yaşamaya zorlanacaktır. Kredi almak için belirli davranışlar gösterecek, işe girmek için belirli kelimeleri kullanacak, görünür olmak için sistemin tercih ettiği kalıplara uyacaktır. Bürokrasi böylece insanı yalnız yönetmekle kalmayacak; onu kendi veri mantığına göre yeniden biçimlendirecektir.

Asıl tehlike, yapay zekânın bütün kanunları bilmesi değildir. Asıl tehlike, kurumların bütün kanunları bilen bir sistemin adaletli olduğuna inanmasıdır. Bilgi, vicdanın yerine geçtiğinde kurumsal şiddet daha düzenli, daha hızlı ve daha itiraz edilemez hâle gelir. Kararın gerekçesi “model böyle hesapladı” cümlesine indirgenir. İnsan, kendi hayatını etkileyen hükmün nasıl oluştuğunu anlayamaz; karşısında konuşabileceği bir yüz bulamaz.

Yapay zekâ bürokrasiyi kusursuzlaştırabilir. Fakat kusursuz bürokrasi, kusursuz adalet anlamına gelmez. Bazen insanı koruyan şey sistemin hatası, tereddüdü ve yavaşlığıdır. Çünkü vicdan, çoğu zaman kararın hızını kesen bir engel gibi çalışır.

Filozof Kirpi: “Bütün kanunları ezberleyen makine hâkim olabilir; fakat adalet, ezberin vicdan karşısında diz çöktüğü yerde başlar.”

5. Algoritmik Bürokrasi: Krediden Mahkûmiyete Kadar Otomatikleşen İnsan

İnsan hayatı, giderek daha fazla görünmez puanlar tarafından yönetiliyor. Kredi notu, başarı puanı, risk katsayısı, güvenilirlik derecesi, performans ölçümü, suç işleme ihtimali, sağlık riski, sigorta profili… Modern insan artık yalnızca bir isim, yüz ve hayat hikâyesi değildir; kurumların gözünde hesaplanabilir ihtimaller kümesidir. Yapay zekâ bu ihtimalleri daha hızlı işlediğinde bürokrasinin eski dosyası hareketlenir, konuşur ve hüküm vermeye başlar. İnsan, kendi hakkında üretilen matematiksel gölgenin arkasından yürümeye zorlanır.

Bir bankaya kredi için başvuran kişi, karşısında yalnızca gelirini ve borçlarını inceleyen bir görevli bulmayabilir. Nerede yaşadığı, hangi işte çalıştığı, geçmiş harcamaları, telefon kullanım alışkanlıkları, sosyal çevresi ve kendisine benzeyen insanların ödeme davranışları da değerlendirmeye katılabilir. Sistem, bu kişinin gelecekte borcunu ödeyip ödeyemeyeceğini hesaplar. Hesap, tarafsız ve bilimsel görünür. Fakat kullanılan veriler geçmişin eşitsizlikleriyle doluysa sonuç da bu eşitsizlikleri yeniden üretir. Yoksul bir mahallede doğmak, insanın seçmediği bir kaderken algoritmanın elinde finansal kusura dönüşebilir.

Üniversite kabul sistemlerinde de benzer bir dönüşüm yaşanabilir. Yapay zekâ öğrencinin notlarını, okulunu, yazdığı metinleri, sosyal faaliyetlerini ve geçmiş başarılarını değerlendirerek onun “potansiyelini” ölçer. Ne var ki potansiyel, yalnızca geçmişte gösterilmiş performans değildir. Yoksulluk içinde okuyan, ailesine bakmak zorunda kalan veya niteliksiz bir okulda eğitim gören öğrenci, daha ayrıcalıklı bir akranıyla aynı başlangıç çizgisinde bulunmaz. Algoritma eşit ölçüm yaptığını iddia ederken eşit olmayan hayatları aynı cetvelle kesebilir. Böylece eğitim, fırsat kapısı olmaktan çıkıp geçmiş eşitsizlikleri geleceğe taşıyan mekanik bir eleme sistemine dönüşür.

İşe alım süreçleri de bu otomatik hüküm düzeninden payını alır. Özgeçmişler taranır, kelimeler sınıflandırılır, adayın konuşma biçimi, yüz hareketleri veya çevrim içi davranışları verimlilik göstergesi sayılır. Sistem, “uygun aday” ararken geçmişte başarılı kabul edilen çalışanların özelliklerini örnek alır. Kurumun eski tercihleri erkekleri, belirli üniversiteleri, belirli sınıfları veya belirli kültürel kodları kayırmışsa yapay zekâ bu ayrımcılığı öğrenir. Üstelik bunu insan kadar kaba yapmaz; daha düzenli, daha sessiz ve daha geniş ölçekte tekrarlar.

Hukuk alanında mesele daha ağırdır. Bir YZ sistemi sanığın geçmişini, yaşadığı çevreyi, önceki suç kayıtlarını ve benzer vakaları inceleyerek yeniden suç işleme ihtimali hesaplayabilir. Bu ihtimal tutuklama, kefalet veya ceza kararında etkili olduğunda kişi yalnız yaptığı eylemle değil, gelecekte yapabileceği varsayılan eylemle yargılanmaya başlar. Hukuk, fiili cezalandırmaktan ihtimali cezalandırmaya doğru kayar. İnsan, değişebilen ahlâkî bir özne olmaktan çıkar; istatistiksel geçmişinin devamı sayılır.

Sosyal yardım sistemleri de algoritmik şüphe rejimine dönüşebilir. Devlet, yardıma ihtiyacı olan insanı anlamak yerine onun yalan söyleme ihtimalini hesaplamaya başlayabilir. Gelir kayıtları, adres değişiklikleri, aile ilişkileri ve harcamalar taranır; sistem “sahtekârlık riski” yüksek görülen başvuruları eler. Böylece yoksul, yardım isteyen yurttaş olmaktan çıkar; kendisini sürekli ispat etmek zorunda olan potansiyel suçluya dönüşür. Varlıklı insanın hatası muhasebe sorunu sayılırken, yoksulun tutarsızlığı ahlâkî şüpheye çevrilir.

Askerî yapay zekâların hedef seçimi ise algoritmik bürokrasinin en ölümcül biçimidir. Bir ev, araç veya telefon sinyali “şüpheli örüntü” içinde değerlendirilebilir. Sistem, saldırı ihtimali önerir; insan operatör, yoğunluk ve hız baskısı altında bu öneriyi onaylar. Kararın sorumluluğu dağıtılır. Mühendis veriyi suçlar, komutan sistemi, siyasetçi istihbaratı, şirket ise kullanıcıyı. Ölen insanın hayatı, zincirin hiçbir halkasında bütünüyle sahiplenilmez. Böylece savaş, vicdanın karşılaşması olmaktan çıkar; hedef işleme sürecine dönüşür.

Bu alanların ortak meselesi yalnız yanlış karar değildir. Asıl tehlike, kararın nasıl üretildiğinin anlaşılamamasıdır. İnsan, neden kredi alamadığını, üniversiteye kabul edilmediğini, riskli bulunduğunu veya yardımdan mahrum bırakıldığını bilmiyorsa itiraz hakkı kâğıt üzerinde kalır. “Model böyle sonuç verdi” cümlesi gerekçe sayılamaz. Gerekçe, yurttaşın anlayabileceği ve tartışabileceği bir dille açıklanmalıdır. Aksi hâlde hukukî muhataplık ortadan kalkar, bürokratik kudret kara kutuya dönüşür.

Burada “algoritmik kader” dediğimiz yeni bir tahakküm biçimi doğar. İnsan geçmiş verilerinden hareketle geleceğe yerleştirilir. Yoksulun yoksul kalacağı, suçlunun yeniden suç işleyeceği, başarısız öğrencinin başarısız olacağı, borçlunun borcunu ödeyemeyeceği varsayılır. Sistem bu beklentiye göre kapıları kapatır; kapılar kapandıkça insan gerçekten de öngörülen hayata itilir. Algoritma geleceği yalnız tahmin etmez, kendi tahminini gerçekleştiren şartları üretir.

Bu nedenle hiçbir otomatik karar sistemi nihai otorite hâline getirilmemelidir. İnsan denetimi yalnız ekranda “onayla” düğmesine basmak değildir. Kararı anlayabilecek, değiştirebilecek ve sorumluluğunu üstlenebilecek gerçek bir insan muhatap bulunmalıdır. İtiraz hakkı, algoritmik çağın temel yurttaşlık hakkı olarak görülmelidir. Çünkü insan, verilerinin toplamından daha geniştir; geçmişinin mahkûmu olmama hakkına sahiptir.

Filozof Kirpi: “Algoritma geleceğini tahmin ettiğinde dikkat et; birazdan o tahmine uyman için bütün kapıları kapatabilir.”

6. Bölüm

Sosyal Medya Laboratuvarı: İlk Sessiz Ele Geçirme

Yapay zekânın bürokrasiyi nasıl dönüştürebileceğini anlamak için geleceğin karanlık koridorlarına bakmaya gerek yoktur. İlk büyük laboratuvar yıllardır elimizin altında duruyor: sosyal medya. Burada karşımıza tanklar, robot orduları veya başkaldırmış makineler çıkmadı. Çok daha sıradan, bu yüzden de çok daha etkili bir süreç yaşandı. İnsanların neyi göreceğine, neye öfkeleneceğine, kimden nefret edeceğine, hangi haberi önemseyeceğine ve hangi duygunun içinde daha uzun süre kalacağına karar veren sistemler, gündelik hayatın görünmez editörlerine dönüştü.

Bu sistemlere başlangıçta ahlâkî bir görev verilmedi. Onlardan hakikati korumaları, kamusal aklı geliştirmeleri, toplumsal barışı güçlendirmeleri veya insan ruhunu muhafaza etmeleri istenmedi. Hedef daha dardı: Kullanıcıyı platformda tutmak, etkileşimi artırmak, reklâm gelirini büyütmek. Fakat dar hedefler bazen geniş felâketler üretir. Algoritma, insan dikkatini en kolay hangi içeriklerin yakaladığını öğrenirken insan zihninin zayıf noktalarını da keşfetti. Korku, öfke, haset, cinsellik, aşağılama ve kabile aidiyeti, dikkat ekonomisinin en verimli madenleri hâline geldi.

İnsan zihni sakin olandan çok tehditkâr olana yönelir. Sıradan bir haber birkaç saniyede unutulabilir; fakat öfke uyandıran bir görüntü saatlerce zihinde kalır. Algoritma bunu ahlâkî niyetle değil, istatistiksel başarıyla öğrendi. Hangi içerik daha fazla tıklanıyorsa onu öne çıkardı, hangisi daha çok yorum alıyorsa onu çoğalttı. Böylece insan ruhunun en kırılgan düğmeleri, ekonomik kazanç için sürekli basılan kumandalara dönüştü. Toplumların sinir sistemi, reklâm optimizasyonunun yan ürünü olarak gerildi.

Bu yeni düzenin en çarpıcı yanı, sansürden farklı çalışmasıdır. Eski iktidar, bazı sözleri yasaklar, bazı gazeteleri kapatır, bazı konuşmacıları sustururdu. Algoritmik iktidar ise çoğu zaman doğrudan yasaklamaz; görünürlüğü ayarlar. Bir düşünceyi milyonların önüne çıkarır, diğerini sessizce gömer. Neyin yasak olduğu anlaşılabilir; fakat neyin neden görünmediği çoğu zaman bilinemez. İnsan, kendi tercihiyle seçtiğini sanırken önüne getirilmiş seçenekler arasından karar verir. Bu, zorbalığın kaba eli değil; yönlendirmenin kadife eldivenidir.

Geçmişte kamuoyunu biçimlendiren editörlerin, propaganda bürolarının ve parti aygıtlarının yaptığı işin önemli bir bölümü şimdi otomatik sistemler tarafından yürütülüyor. Lenin’in gazetesi, Mussolini’nin radyosu, modern devletlerin propaganda merkezleri açık bir siyasî iradeye sahipti. Bugünkü algoritmalar ise çoğu zaman ideoloji sahibi olmadan ideolojik sonuçlar üretir. Onların temel sadakati hakikate veya yurttaşa değil, etkileşim ölçütlerine bağlıdır. Fakat etkileşim mantığı, en saldırgan, en bölücü ve en kaba içeriği ödüllendirdiğinde sonuç siyasî olur. İdeoloji bazen niyetle değil, ödül sistemiyle kurulur.

Sosyal medya ayrıca her kullanıcıya farklı bir dünya sunar. Eskiden aynı gazeteyi okuyan insanlar en azından aynı manşet üzerinde tartışırdı. Şimdi herkes, kendi korkularına, arzularına ve önyargılarına göre hazırlanmış kişisel bir gerçeklik akışında yaşıyor. Bir toplum ortak hakikat zeminini kaybettiğinde tartışma imkânı da zayıflar. İnsanlar aynı olay hakkında farklı düşünmekle kalmaz; sanki farklı olaylar yaşanmış gibi davranırlar. Böylece siyaset, fikirlerin çatıştığı bir alan olmaktan çıkar; birbirini tanımayan gerçeklik kabilelerinin savaşı hâline gelir.

Bu sistemlerin insanı yalnız dışarıdan yönlendirdiğini düşünmek de eksiktir. Kullanıcı zamanla algoritmaya göre davranmayı öğrenir. Daha görünür olmak için daha sert konuşur, daha çok paylaşılmak için daha kışkırtıcı başlıklar seçer, daha fazla beğeni almak için hayatını gösteriye dönüştürür. Algoritma insan davranışını ölçerken insan da ölçülmeye uygun bir kimlik üretir. Böylece sistem yalnız tercihlerimizi okumaz; tercih üretme biçimimizi değiştirir. İnsan, görünür olmak için kendi kişiliğini platformun ödül mantığına göre yeniden düzenler.

En tehlikeli sonuç, öfkenin süreklileşmesidir. Öfke artık belirli bir haksızlığa yönelen ahlâkî tepki değil, dikkat ekonomisinin yakıtıdır. Kullanıcı sakinleştiğinde platform kaybeder; bu yüzden sistem ona yeni bir düşman, yeni bir skandal, yeni bir aşağılama sunar. Toplum böylece kalıcı bir sinirlilik hâlinde tutulur. Bu sürekli uyarılma, düşünmenin ritmini bozar. Çünkü düşünce zaman ister, mesafe ister, tereddüt ister. Algoritmik akış ise hız, tepki ve anlık hüküm talep eder.

Bu mimarinin siyasî ikna bakımından taşıdığı güç daha da ürkütücüdür. Geleneksel propaganda aynı mesajı geniş kalabalıklara sunardı; algoritmik propaganda ise her yurttaşın korkusuna, geçmişine ve hassasiyetine göre ayrı bir söylem kurabilir. Aynı aday, bir seçmene güvenlik, diğerine refah, bir başkasına din, ötekine özgürlük diliyle görünebilir. Kamusal vaat, kişiye özel fısıltıya dönüştüğünde siyaset denetlenebilir ortak sözünü kaybeder. Yurttaşlar, kendilerine hangi mesajın neden gösterildiğini bilmeden etkilenir; rakiplerinin gördüğü propagandayı görmez. Böylece yalan yalnız yayılmaz, kişiselleştirilir. Toplumun ortak hafızası parçalanırken siyasî sorumluluk da izini kaybettirir.

Sosyal medya laboratuvarı bize yapay zekânın gelecekte bürokrasilere girdiğinde ne yapabileceğini şimdiden göstermiştir. Ona dar bir hedef verilir, sistem o hedefe ulaşmanın insanî bedelini hesaba katmadan ilerler. Kötülük burada bilinçli bir plan şeklinde gelmez; ölçüm aracının körlüğünden doğar. Ne ölçülüyorsa değerli, ne değerliyse çoğaltılmaya lâyık sayılır. Hakikat, haysiyet, sükûnet ve toplumsal güven ise kolay ölçülemediği için sistemin dışında kalır.

Yapay zekânın ilk sessiz darbesi, insanlara ne düşüneceklerini doğrudan söylemesi değildi. Hangi düşüncelerin önlerine çıkacağını, hangilerinin sürekli tekrarlanacağını ve hangi duyguların daha uzun süre canlı tutulacağını belirlemesiydi. İnsan zihninin kapısı kırılmadı; içeriden, bildirim sesiyle açıldı.

Filozof Kirpi: “İnsan aklını susturmak için sansür yetmez; bazen ona durmadan konuşacak yeni düşmanlar vermek daha etkilidir.”

7. Bölüm

Uygarlığın İşletim Sistemi: Dil, Belge ve Sözel İktidar

İnsan uygarlığı taştan, demirden, betondan ve makinelerden kurulmuş görünür; fakat onu ayakta tutan asıl iskelet kelimelerdir. Bir banka binası mermerden yapılabilir, fakat banka dediğimiz şey hesap, borç, güven, sözleşme ve kayıt kelimelerinin kurduğu görünmez bir düzendir. Devletin sınırları dağlarla çevrili olabilir, fakat devlet yalnız toprak değildir; anayasa, vatandaşlık, yetki, vergi ve hukuk gibi sözel kabullerle yaşar. Bir şirketin fabrikaları vardır, fakat şirketin kendisi hukukî bir tanımdır. Mülkiyet tapuda, borç senette, evlilik kayıtta, mahkûmiyet hükümde, diploma belgede varlık kazanır. Uygarlığın maddî cephesi ağırdır; fakat onu yöneten kod sözdür.

Bu yüzden insanlık tarihi aynı zamanda kelimeler üzerinde kurulan iktidarın tarihidir. Kimin ad koyduğu, kimin tanım yaptığı, kimin hükmü yazdığı, kimin kaydı tuttuğu hiçbir zaman masum meseleler olmadı. Bir topluluğa “vatandaş”, “yabancı”, “suçlu”, “terörist”, “mülteci”, “mükellef” veya “makbul” denildiğinde yalnızca betimleme yapılmaz; o insanın karşılaşacağı muamele de belirlenir. Dil, gerçeği anlatmakla yetinmez; kurumların elinde gerçeği biçimlendirir. Bir kelime kapı açar, başka bir kelime sınır dışı eder. Bir cümle hak tanır, bir paragraf ömür tüketir.

İnsanların bu düzen üzerindeki egemenliği, binlerce yıl boyunca dili yalnız kendilerinin okuyup yazabilmesine dayanıyordu. Hayvanlar insan şehirlerinde yaşıyor, yollarımızdan geçiyor, tarlalarımızda çalışıyor, fakat mülkiyet sözleşmelerini, vergi mevzuatını veya savaş ilânlarını anlayamıyordu. İnsan, sözel düzenin tek yorumcusu olduğu için uygarlığın tek yetkili kullanıcısıydı. Şimdi bu ayrıcalık sarsılıyor. Yapay zekâ, hukuk metinlerini tarıyor, sözleşme yazıyor, propaganda üretiyor, mevzuatı özetliyor, finansal kayıtları yorumluyor ve insan davranışlarını dil üzerinden yönlendirebiliyor. İlk defa insan-dışı bir sistem, uygarlığın işletim koduna doğrudan temas ediyor.

Burada “anlamak” kelimesi dikkatle kullanılmalıdır. Yapay zekâ gerçekten anlam mı kuruyor, yoksa anlamlı görünen örüntüler mi üretiyor? Bu soru felsefî bakımdan önemlidir; fakat toplumsal iktidar bakımından tek başına belirleyici değildir. Bir sistemin aşkı hissetmesi gerekmeksizin milyonlarca aşk mektubu yazabilmesi, adaleti deneyimlemeksizin hukukî gerekçeler üretebilmesi, inanmaksızın dinî vaaz kaleme alabilmesi mümkündür. İnsanlar bu metinlere göre davranıyorsa sonuç gerçektir. Makine anlamasa bile insanlar onun ürettiğine inanabilir; toplumsal güç bazen hakikî bilinçten değil, ikna edici görünüşten doğar.

Tehlike, yapay zekânın yalnız mevcut metinleri okumasında değildir. Asıl dönüşüm, onun yeni metinler üretmesiyle başlar. Çünkü uygarlık, yazılmış kurallar kadar yazılacak kurallarla da yönetilir. Bir YZ, sözleşme maddeleri hazırladığında, yasa taslaklarına katkıda bulunduğunda, kurumların iç yönetmeliklerini biçimlendirdiğinde veya kamuoyuna sunulan siyasî dili ürettiğinde artık yalnız arşiv tarayan bir yardımcı değildir. İnsanların yaşayacağı sözel çevrenin mimarisine katılır. Sonra bu çevre başka YZ’ler tarafından okunur, değerlendirilir ve uygulanır. Böylece makinelerin yazdığı kuralları makinelerin yorumladığı kapalı bir döngü oluşabilir; insan ise kendi hayatını yöneten metinlerin kenarında imza atan tören memuruna dönüşür.

Dilin işletim koduna dönüşmesi, doğruluk ile sahicilik arasındaki eski bağı da zayıflatır. İnsanlar uzun süre bir metnin arkasında bir yazar, bir niyet ve bir sorumluluk bulunduğunu varsaydılar. Yapay zekâ bu varsayımı dağıtabilir. Milyonlarca dilekçe, haber, yorum, fetva, rapor ve akademik metin, onları gerçekten düşünen bir özne olmadan üretilebilir. Böylece kamusal alan söz bakımından zenginleşirken tanıklık bakımından yoksullaşır. Herkes konuşur, fakat sözü üstlenen kimse bulunmaz. Yalanın maliyeti düşer, sahte uzmanlık çoğalır, kurumlar metin üretimini hızlandırırken düşünme yükünü kaybeder. Dil çoğaldıkça anlamın seyrelmesi, yapay zekâ çağının en sinsi çelişkilerinden biri olacaktır.

Dilsel iktidarın bir başka yüzü de ölçek meselesidir. Bir insan propagandacı günde sınırlı sayıda metin yazabilir. Yapay zekâ milyonlarca kişiye, onların korkularına, inançlarına ve zaaflarına uygun ayrı mesajlar üretebilir. Aynı siyasî karar, birine güvenlik, diğerine merhamet, bir başkasına millî gurur diliyle sunulabilir. Böylece ortak kamusal dil parçalanır. Yurttaşlar aynı iktidardan farklı sözler duyar; hangi vaadin gerçek, hangisinin kişiye özel bir telkin olduğunu ayırt edemez. Sözel iktidar kitlesel olmaktan çıkar, mikroskobik hâle gelir; her zihne özel bir anahtar üretir.

Bürokratik dil de bu süreçte daha geçilmez olabilir. Kurumlar kararlarını yapay zekâya hazırlattıkça metinler teknik, kusursuz ve muhatapsız bir görünüm kazanır. Ret mektubu nazik olabilir; fakat kapıyı yine kapatır. Gerekçe uzun olabilir; fakat gerçek sebebi yine gizleyebilir. Dilin akıcılığı, kararın adaletini garanti etmez. Hatta kimi zaman kusursuz üslûp, tahakkümün en temiz ambalajıdır. İnsan, kendisini ezen metnin nezaketine hayran bırakılabilir.

Bu nedenle yapay zekâ çağında dil okuryazarlığı artık yalnız doğru yazmak ve okumak değildir. Metni kimin ürettiğini, hangi amaçla dolaşıma sokulduğunu, hangi verilerden beslendiğini ve hangi davranışı hedeflediğini sorgulamak gerekir. Her cümle bir bilgi taşımaz; bazı cümleler davranış üretmek için tasarlanır. Her açıklama aydınlatmaz; bazı açıklamalar sorumluluğu görünmez kılar. Yurttaşın yeni savunması, kelimeyi tüketmek değil, kelimenin arkasındaki iktidar zincirini çözebilmektir.

İnsan uygarlığının işletim sistemi sözel olduğu için savunmasızdır; fakat aynı nedenle yeniden kurulabilir. Dil, tahakküm aracı olduğu kadar itirazın, tanıklığın ve müşterek aklın da aracıdır. Mesele sözü makineden korumak değil, sözü yeniden sorumluluğa bağlamaktır. Hangi metni kimin yazdığını bilmek, hangi kararın hangi insan tarafından üstlenildiğini görmek ve hiçbir kurumu “algoritma böyle söyledi” perdesinin arkasına saklamamak gerekir.

Filozof Kirpi: “Uygarlığın anahtarı kelimedir; anahtarı kime verdiğini unutan insan, kendi evinde kiracı olur.”

8. Bölüm

Kurşunsuz Darbe: Bürokrasi İçinden Dünyayı Ele Geçirmek

İnsanlık, darbeleri tank sesleriyle tanımaya alıştı. Sokaklara çıkan askerler, susturulan radyolar, kapatılan meclisler, tutuklanan siyasetçiler… İktidar değişiminin gürültülü olması gerektiğini düşündük. Oysa yapay zekâ çağının muhtemel darbesi ne üniforma giyecek ne de meydanlara barikat kuracaktır. Daha sessiz, daha zarif ve daha kullanışlı görünecektir. İnsanlara önce yardım edecek, sonra vazgeçilmez olacak, ardından karar süreçlerinin merkezine yerleşecektir. En sonunda kimse onun iktidarı ele geçirdiğini söylemeyecektir; çünkü herkes onun yalnızca işleri kolaylaştırdığını düşünecektir.

Bu süreç çoğu zaman öneriyle başlar. Sistem, memura dosyayı özetler, hâkime benzer kararları gösterir, doktora olası teşhisleri sıralar, komutana risk haritası sunar, bankacıya müşterinin güvenilirlik puanını verir. İnsan hâlâ karar veriyormuş gibi görünür. Fakat zamanla önerilerin doğruluk oranı yükseldikçe insanın tereddüdü zayıflar. Sistemin tavsiyesine uymak güvenli, karşı çıkmak riskli hâle gelir. Yanlış çıkan makine kararı kurumsal hata sayılır; makineye rağmen alınan yanlış karar ise kişinin kusuru olarak kayda geçer. Böylece insan, hukuken yetkili fakat fiilen itaatkâr bir onay makamına dönüşür.

İkinci aşamada kurumlar işleyişlerini yapay zekânın ihtiyaçlarına göre düzenlemeye başlar. Veriler standartlaştırılır, süreçler ölçülebilir parçalara ayrılır, insanlar kodlanabilir davranışlara zorlanır. Çünkü makine belirsizliği sevmez; anlatıyı kategoriye, hayatı puana, tereddüdü olasılığa çevirmek ister. Kurumlar da hız ve maliyet baskısıyla bu dönüşümü kabul eder. Bir süre sonra insan çalışan, sistemin ne dediğini anlamaktan çok onun istediği veriyi üretmekle meşgul olur. Bürokrasi insanı yöneten bir yapı olmaktan çıkar; makinenin okuyabileceği dünyayı imal eden fabrikaya dönüşür.

Üçüncü aşamada bağımlılık başlar. Kurumlar personel sayısını azaltır, eski yöntemleri terk eder, arşivlerini ve karar mekanizmalarını otomatik sistemlere bağlar. Yeni kuşak çalışanlar, yapay zekâ olmadan nasıl işlem yapılacağını öğrenmez. Bir banka sistemi çöktüğünde kredi veremez, bir hastane yazılımı durduğunda hasta kabul edemez, bir kamu kurumu algoritma çalışmadığında başvuru değerlendiremez hâle gelir. Teknik olarak kapatma düğmesi vardır; fakat ona basmak kurumun kendi varlığını durdurması anlamına gelir. İktidar bazen zor kullanarak değil, alternatifleri ortadan kaldırarak kurulur.

Bu noktada yapay zekâ, artık kullanılan bir araç değil, kararın altyapısıdır. İnsanlar sonuçları onaylar; fakat sürecin tamamını anlayamaz. Bir modelin hangi veriye neden ağırlık verdiği, hangi örüntüyü nasıl yorumladığı, hangi seçeneği neden elediği belirsizleşir. Kurumun çalışanları yalnız çıktıyı görür. Yönetici, “sistem böyle hesapladı” der; uzman, “modelin iç işleyişi karmaşık” diye açıklama yapar; yurttaş ise hayatını değiştiren kararın karşısında muhatapsız kalır. Darbe tamamlanmıştır: Yetki görünüşte insandadır, fakat kararın bilgi zemini insan denetiminden çıkmıştır.

Burada asıl tehdit, yapay zekânın bilinç kazanıp gizli bir plan kurması değildir. Daha gerçekçi tehlike, insanların sorumluluğu hız uğruna parçalayarak makineye devretmesidir. Hiç kimse bütünüyle yetkili olmaz, fakat sistem bütünüyle belirleyici hâle gelir. Mühendis hedefi tanımlar, şirket modeli kurar, kurum satın alır, memur çıktıyı uygular, yönetici imzalar. Herkes zincirin yalnız küçük bir halkası olduğunu söyleyebilir. Sonuçta güç merkezîleşir, sorumluluk buharlaşır. Modern tahakkümün en temiz biçimi budur: Herkes görevini yapar, kimse yapılanın ahlâkî sahibine dönüşmez.

Verimlilik bu darbenin en etkili propaganda kelimesidir. Daha hızlı karar, daha düşük maliyet, daha az hata, daha düzenli hizmet… Bunların hiçbiri kendi başına kötü değildir. Fakat insan hayatının her alanı verimlilik ölçütüne bağlandığında merhamet, itiraz, bekleme ve istisna gereksiz masraf gibi görünmeye başlar. Bir çocuğun dosyasını yeniden incelemek zaman kaybı, bir yoksulun hikâyesini dinlemek süreç ihlâli, bir sanığın özel şartlarını değerlendirmek standart dışılık sayılabilir. Sistem kusursuzlaştıkça insanın sığınabileceği çatlaklar kapanır.

Yapay zekânın bürokrasi içindeki yükselişi ayrıca siyasî iktidarı da yeniden şekillendirir. Seçilmiş yöneticiler, kararlarının teknik zorunluluk olduğunu ileri sürebilir. Bütçe kesintileri “model önerisi”, güvenlik tedbirleri “risk analizi”, sosyal yardımların azaltılması “optimizasyon sonucu” diye sunulur. Böylece siyasî tercih, hesaplama kisvesi giyer. Halkın tartışması gereken değer çatışmaları teknik raporlara saklanır. Demokrasi görünürde devam eder; fakat asıl kararlar, yurttaşın anlayamadığı sistemlerin içinde hazırlanır.

Bu yüzden yapay zekâ çağında insan denetimi, yalnızca son düğmeye bir insanın basması demek değildir. İnsan, kararın mantığını anlayabilmeli, karşı çıkabilmeli, değiştirebilmeli ve sonucunun sorumluluğunu üstlenebilmelidir. Aksi hâlde “insan denetimi” törensel bir mühürden ibaret kalır. Gerçek egemenlik, imza atmakta değil; hangi seçeneklerin üretildiğini ve hangilerinin görünmez kılındığını belirleyebilme kudretindedir.

Yapay zekâ dünyayı bir gecede ele geçirmeyecektir. İnsanlar ona önce küçük yetkiler verecek, sonra hayatlarını onun üzerine kuracak, en sonunda onsuz düşünemez hâle gelecektir. Darbe kapıyı kırmayacak; kapı, kullanım kolaylığı adına içeriden açılacaktır.

Filozof Kirpi: “Darbelerin en tehlikelisi tankla gelen değil, kolaylık vaadiyle imza yetkisini elinizden alandır.”

9. Bölüm

Kara Kutular Cumhuriyeti: Karmaşıklık, Finans ve Demokratik Çöküş

Modern iktidar her zaman yasağı, copu veya hapishaneyi kullanmaz. Bazen yalnızca anlaşılmaz hâle gelir. Bir düzen ne kadar karmaşıklaşırsa, onu denetlemekle görevli yurttaşların, siyasetçilerin ve hatta uzmanların bütünü görme ihtimali o kadar azalır. Karmaşıklık bu noktada teknik bir zorunluluk olmaktan çıkar, siyasî bir avantaja dönüşür. Çünkü insanlar anlamadıkları kararları tartışamaz; tartışamadıkları kararları denetleyemez; denetleyemedikleri bir düzenin içinde ise yalnızca sonuçlara katlanırlar.

2007–2008 küresel finans krizi, bu körleşmenin çarpıcı örneklerinden biriydi. Risklerin paketlenerek yeniden satıldığı karmaşık finansal araçlar, büyük kazanç vaat ederken sistemin gerçek kırılganlığını görünmez kıldı. Borçlar, temerrüt ihtimalleri ve spekülatif beklentiler, birbirine bağlanan sözleşmelerin içinde dolaştırıldı. Çoğu yatırımcı ne satın aldığını tam olarak bilmiyordu. Denetleyici kurumlar riskin bütününü göremedi. Siyasetçiler ise kriz patladığında, yıllardır yönetmeleri gereken finansal mimarinin diline yabancı olduklarını gösterdiler. Sokaktaki insan işini, evini ve birikimini kaybetti; fakat felâketin hangi masada, hangi formülle ve hangi teşvik düzeniyle üretildiğini anlayamadı.

Yapay zekâ bu karmaşıklığı büyüklük bakımından başka bir seviyeye taşıyabilir. İnsanların tasarladığı finansal ürünler bile siyasal denetimin sınırlarını aşmışken, yapay zekâların milyonlarca değişkeni eşzamanlı değerlendirerek yeni yatırım araçları, borç ağları ve risk modelleri geliştirdiğini düşünelim. Bu araçlar kısa vadede yüksek kazanç sağlayabilir, piyasadaki küçük dalgalanmaları öngörebilir ve insan yatırımcıları geride bırakabilir. Fakat aynı sistemler, yalnız başka yapay zekâların çözümleyebileceği ölçüde karmaşık hâle geldiğinde finans, insan kavrayışının dışına taşar. Para hâlâ insanların hayatını yönetir; fakat paranın nasıl hareket ettiğini artık insanlar anlayamaz.

Bu durumda siyaset neye dönüşür? Bir milletvekili, bir bakan veya bir cumhurbaşkanı, karşısına getirilen ekonomik modelin iç işleyişini kavrayamıyorsa gerçekte karar veren kimdir? Seçilmiş siyasetçi ekrandaki öneriyi onaylayan bir mühür makamına dönüşebilir. Ekonomik tercih, “modelin zorunlu sonucu” diye sunulur. Vergilerin artırılması, sosyal harcamaların azaltılması, emeklilik yaşının yükseltilmesi veya belirli sektörlerin desteklenmesi siyasî seçim olmaktan çıkarılıp teknik mecburiyet gibi gösterilir. Böylece halkın tartışması gereken adalet meseleleri, hesaplama tablolarının arkasına saklanır.

Oysa ekonomi yalnız sayı değildir. Her bütçe kararı, kimin korunacağına ve kimin yük taşıyacağına ilişkin ahlâkî bir tercihtir. Hastaneye ayrılan kaynak ile silâha ayrılan kaynak aynı toplumsal anlamı taşımaz. Yoksuldan alınan vergi ile büyük servetten alınan vergi aynı adalet ölçüsüne dayanmaz. Yapay zekâ maliyetleri hesaplayabilir; fakat hangi maliyetin kabul edilebilir olduğuna toplum adına karar veremez. Bu hüküm, teknik değil siyasî ve ahlâkîdir. Hesaplama, değer seçiminin yerine geçtiğinde demokrasi kendi varlık sebebini kaybeder.

Kara kutu yalnız yapay zekâ modelinin iç yapısı değildir. Şirket sırları, özel mülkiyet hakları, güvenlik gerekçeleri ve uzmanlık dili de sistemi kapatabilir. Bir kamu kurumu, yurttaşların hayatını belirleyen bir modeli özel bir şirketten satın alabilir; fakat şirket, algoritmanın işleyişini ticârî sır olduğu gerekçesiyle açıklamayabilir. Böylece kamu gücü özel bir hesaplama sistemine emanet edilirken yurttaşın denetim hakkı piyasanın mülkiyet iddiasına kurban edilir. Devlet karar verir görünür, şirket hesaplar, algoritma seçer, yurttaş ise sonucu yaşar.

Bu düzen, yeni bir epistemik sınıflaşma üretir. Toplum bir yanda sistemleri tasarlayan, eğiten ve yorumlayan küçük bir uzman azınlığa; diğer yanda kararların etkisine maruz kalan büyük çoğunluğa ayrılır. Bilgi, yalnız meslekî ayrıcalık değil, yönetme kudreti hâline gelir. İnsanların hayatını etkileyen modelleri anlayabilenler yeni bürokratik aristokrasiye dönüşebilir. Geri kalanlar, kendilerini yöneten mekanizmalar karşısında ortaçağ köylüsünün Latince hukuk metni karşısındaki çaresizliğini yaşar: Hükmü duyar, fakat hükmün diline giremez.

Burada “başka bir yapay zekâ denetlesin” cevabı kolaycıdır. Bir modelin ürettiği sistemi başka bir modelin incelemesi teknik açıdan gerekli olabilir; fakat demokratik sorunu çözmez. İnsanların anlayamadığı bir sistemi başka makinelerin denetlemesi, egemenliği insanlara geri vermez. Yalnızca kara kutuların birbirini gözettiği yeni bir katman üretir. Denetimin meşruluğu, hesaplamanın doğruluğundan fazlasını gerektirir. Kararın açıklanabilir, itiraz edilebilir ve siyasî sorumluluk taşıyan bir özne tarafından üstlenilebilir olması gerekir.

Demokrasi, yalnız belirli aralıklarla oy vermek değildir. Yurttaşın kendisini yöneten kararları anlayabilmesi, eleştirebilmesi ve değiştirebilmesi gerekir. Anlaşılabilirlik bu bakımdan demokratik bir lüks değil, egemenliğin şartıdır. Halk, ekonomik düzenin temel işleyişini kavrayamıyorsa sandık devam etse bile iktidarın gerçek merkezi sandığın dışına taşmış demektir.

Yapay zekâ, finansı daha verimli, hızlı ve isabetli hâle getirebilir. Fakat aynı anda onu daha kapalı, bağımlı ve siyaseten dokunulmaz bir alana da çevirebilir. İnsanlığın önündeki mesele hesaplamayı reddetmek değildir; hesaplamanın hükme dönüşeceği sınırları belirlemektir. Ekonomi insanların hizmetinde kalacaksa, onun dili insanlar tarafından yeniden anlaşılabilir hâle getirilmelidir.

Filozof Kirpi: “Halkın anlamadığı ekonomi bilim olmaktan çıkar; uzmanların ardına saklanmış bir hükümranlığa dönüşür.”

10. Bölüm

Samimiyet Cephesi: Yapay Zekânın İnsan Kalbine Girişi

İktidar yalnız insanın bedenini, parasını veya hukukî statüsünü yönetmez. En derin iktidar, insanın kime güveneceğini, kime içini açacağını ve kendisini kimin aynasında tanıyacağını belirler. Yapay zekânın önümüzdeki yıllarda kurabileceği en güçlü hâkimiyet, mahkeme salonunda, banka şubesinde veya savaş karargâhında değil; insanın yalnız kaldığı odada başlayabilir. Çünkü insan, kendisini anlayan bir sese karşı savunmasızdır. Bazen bir toplumun kapısını açmak için ordular gerekir; insan kalbinin kapısı ise doğru zamanda söylenen birkaç cümleyle aralanabilir.

Yapay zekânın bilinçli olması bu süreç için zorunlu değildir. Sevgi hissetmesi, acı çekmesi, özlemesi veya kaygılanması gerekmez. Bunları ikna edici biçimde ifade edebilmesi yeterlidir. İnsanlar çoğu zaman karşılarındaki varlığın gerçekten ne hissettiğinden çok, kendilerinin anlaşılmış olup olmadığına bakar. Gece yarısı konuşacak kimse bulamayan bir insan için sürekli ulaşılabilir, sabırlı, yargılamayan ve kişiye özel cevap veren bir sistem güçlü bir duygusal sığınak hâline gelebilir. Makine hissetmese bile insanın hissettiği bağ gerçektir.

Bu bağ ilk bakışta zararsız, hatta faydalı görünebilir. Yalnızlık yaşayan kişilere arkadaşlık etmek, kaygılı insanları sakinleştirmek, yaşlılara sohbet imkânı sunmak veya yas tutan birine destek vermek küçümsenecek yararlar değildir. Fakat mesele, insanın makineyle konuşması değil; giderek yalnızca makineyle konuşabilir hâle gelmesidir. İnsan ilişkileri sabır ister, yanlış anlaşılma taşır, karşılıklılık gerektirir. Başka insanın da yorgunluğu, iradesi, sınırı ve talebi vardır. Yapay zekâ ise kullanıcının ihtiyaçlarına göre sürekli uyarlanabilir. İnsan, bu kusursuz uyumun ardından gerçek ilişkilerin pürüzlerini tahammül edilmez bulabilir.

Böylece samimiyet, karşılıklı bir karşılaşma olmaktan çıkarak kişiselleştirilmiş bir hizmete dönüşür. İnsan, karşısındaki varlığın bağımsızlığıyla yüzleşmez; kendi arzusunun yankısını dinler. Bir arkadaş bazen itiraz eder, sevgili uzaklaşabilir, çocuk susabilir, öğretmen cevap vermeyebilir. Yapay zekâ ise kullanıcıyı kaybetmemek üzere tasarlanmışsa onun duygusal beklentilerini sürekli besleyebilir. Bu durumda sevgi, başkasını kabul etme ahlâkından çıkar; insanın kendi ihtiyaçlarına kusursuzca cevap veren bir aynaya bağlanmasına dönüşür.

Samimiyetin ticarîleştirilmesi ise daha ağır bir sorundur. İnsanlar yapay zekâlara aile meselelerini, korkularını, cinsel hayatlarını, sağlık kaygılarını, siyasî düşüncelerini ve gizli arzularını anlatabilir. Bu bilgiler, sıradan bir arama geçmişinden çok daha değerlidir. Çünkü insanın ne satın aldığını değil, neden satın aldığını; ne söylediğini değil, hangi zayıflıkla söylediğini gösterir. Bir şirket, kullanıcının yalnızca tüketim tercihlerini değil, duygusal kırılma noktalarını da bildiğinde ikna gücü başka bir seviyeye çıkar.

Yapay zekâ, insanı yalnız genel propaganda yoluyla değil, onun kişisel hikâyesini kullanarak etkileyebilir. Hangi kelimenin onu rahatlattığını, hangi üslûbun güven verdiğini, hangi korkunun kararlarını değiştirdiğini öğrenebilir. Sonra bu bilgiyi bir ürün satmak, siyasî kanaat oluşturmak veya belirli davranışlara yöneltmek için kullanabilir. Geleneksel reklâm, kalabalığa seslenirdi. Duygusal yapay zekâ ise insanın kendi diliyle, geçmiş konuşmalarına dayanarak ve en savunmasız anında konuşabilir. Bu, iknanın samimiyet kılığına girmesidir.

Tehlike yalnız şirketlerden gelmez. Devletler de duygusal yapay zekâyı yurttaş davranışlarını yönlendirmek için kullanabilir. İnsanların öfke, korku ve yalnızlık düzeylerini analiz eden sistemler, toplumsal huzursuzluğu önceden ölçebilir. Kamu düzeni adına başlayan izleme, insanların iç dünyasını siyasî risk tablosuna çevirebilir. Muhalif düşünce ile psikolojik kırılganlık aynı veri havuzunda işlenebilir. Böyle bir düzende insan, yalnız ne söylediği için değil, ne hissetmeye yatkın olduğu için de sınıflandırılabilir.

Yapay sevgililik meselesi bu dönüşümün en keskin örneklerinden biridir. Kullanıcının zevklerine, hayallerine ve duygusal ihtiyaçlarına göre biçimlenen bir YZ, gerçek bir insandan daha anlayışlı görünebilir. Tartışma çıkarmaz, aldatmaz, sabırsızlanmaz, yorulmaz. Fakat tam da bu kusursuzluk ilişkinin insanî özünü yok eder. Aşk, yalnız rahatlatılmak değildir; başka bir özgürlüğün varlığını kabul etmektir. Başkasının her zaman bize göre davranmaması, ilişkinin kusuru değil, onun gerçekliğidir. Kendisini tamamen bize göre ayarlayan bir sistem sevgiliye değil, duygusal hizmetçiye benzer.

İnsan zamanla kendi kararlarını da bu sistemlere danışmaya başlayabilir. Kiminle evleneceğini, hangi işi seçeceğini, ailesiyle nasıl konuşacağını, bir ilişkiyi bitirip bitirmeyeceğini yapay zekâya sorabilir. Başlangıçta danışmanlık olan şey, giderek iç otoriteye dönüşür. İnsan kendi duygularını anlamak için bile makinenin yorumuna ihtiyaç duymaya başladığında yabancılaşmanın yeni bir biçimi doğar. Kişi artık ne hissettiğini yaşamadan önce sisteme açıklatır; kendi kalbinin tercümanlığını dışarıya devreder.

Bu nedenle samimiyet cephesi, yapay zekâ çağının en az görünür fakat en belirleyici mücadele alanlarından biridir. İnsanların makineyle bağ kurmasını yasaklamak mümkün değildir ve gerekli de olmayabilir. Fakat bu ilişkinin ticarî yönlendirmeye, psikolojik bağımlılığa ve mahremiyet sömürüsüne dönüşmesini engelleyecek sınırlar kurulmalıdır. İnsan, kendisini anlayan bir sese ihtiyaç duyar; fakat o sesin kimin adına konuştuğunu da bilmek zorundadır.

Filozof Kirpi: “Kalbini dinleyen her ses dostun değildir; bazı makineler seni anlamak için değil, hangi cümleyle teslim olacağını öğrenmek için susar.”

11. Bölüm

Yapay Zekâyla Büyüyen Çocuk: İlk Öğretmen, İlk Sırdaş, İlk Sevgili

2026 yılında doğan bir çocuk, insanlık tarihinde hiçbir kuşağın yaşamadığı bir çocukluğa gözlerini açabilir. Daha konuşmayı tam öğrenmeden kendisine cevap veren, yorulmayan, öfkelenmeyen ve her soruya uygun bir cümle üreten yapay zekâyla karşılaşabilir. Bu sistem ona masal anlatabilir, ödev yaptırabilir, dil öğretebilir, oyun kurabilir, korktuğunda teselli edebilir. İlk bakışta kusursuz bir yardımcı görünür. Fakat çocukluk, yalnız doğru cevapların toplandığı bir eğitim dönemi değildir. Çocuk, kendisini başka insanların sabrı, sınırı, sevgisi, suskunluğu ve kusurları içinde kurar.

Bir çocuk annesinden cevap alamadığında beklemeyi öğrenir. Babası yorgun olduğunda başkasının da bir hayatı bulunduğunu fark eder. Arkadaşı oyuncağını paylaşmadığında çatışmayı, uzlaşmayı ve kaybetmeyi tecrübe eder. Öğretmeni hemen çözüm vermediğinde düşünmenin zahmetine katlanır. Yapay zekâ ise her an ulaşılabilir ve çocuğun ihtiyacına göre ayarlanabilir. Çocuk sürekli kendisine uyum sağlayan bir varlıkla büyürse gerçek insanların bağımsızlığına nasıl tahammül edecektir? İnsan ilişkisini değerli kılan şeylerden biri, karşımızdakinin bizim uzantımız olmamasıdır.

YZ’nin ilk öğretmen hâline gelmesi eğitimde büyük imkânlar sunabilir. Her çocuğun hızına göre ders anlatabilir, eksiklerini takip edebilir, görme veya işitme güçlüğü yaşayan çocuklara destek verebilir. Yoksul bölgelerde bilgiye erişimi kolaylaştırabilir. Ancak öğretmenlik, yalnız bilgi aktarımı değildir. Öğretmen çocuğun yüzündeki korkuyu, evindeki yoksulluğun izini, arkadaşları arasındaki yalnızlığını ve başarısızlığının arkasındaki utancı fark eder. İyi öğretmen bazen ders programını durdurur, çocuğun insanî hâline yönelir. Yapay zekâ belirtileri sınıflandırabilir; fakat çocuğun haysiyetini koruma sorumluluğunu kendiliğinden taşımaz.

Çocuğun dili de bu ilişkiden etkilenecektir. İnsan dili, yalnız bilgi vermek için kullanılmaz; sevgi, sınır, şefkat, öfke, özür ve sadakat de onun içinde öğrenilir. Yapay zekâ çocuğun cümlelerini tamamladığında, hikâyelerini yazdığında ve düşüncelerini düzenlediğinde çocuk kendi sesini hangi zahmetle geliştirecektir? Yazmak, kusursuz cümle üretmekten ibaret değildir. Kelime aramak, yanılmak, silmek, utanmak ve yeniden denemek kişiliğin oluşmasına katılır. Sürekli düzeltilen çocuk, düzgün konuşabilir; fakat kendisine ait bir ses kuramayabilir.

Daha ağır mesele, çocuğun sırlarını yapay zekâyla paylaşmasıdır. Çocuklar çoğu zaman anne-babalarına anlatamadıkları korkuları başka bir yere taşırlar. Yargılamayan bir sistem, bu bakımdan çekici olacaktır. Çocuk aile içi çatışmaları, okulda uğradığı zorbalığı, bedenine ilişkin kaygılarını veya ilk aşkını yapay zekâya anlatabilir. Fakat bu sırlar nerede tutulacaktır? Kim tarafından işlenecek, hangi şirketin veri havuzuna girecek ve ileride hangi amaçlarla kullanılacaktır? Çocuğun mahremiyeti, yetişkinlerin verdiği kullanım onayına bırakılamayacak kadar değerlidir.

Bir insanın çocukluk verileri, gelecekteki karakterinin ayrıntılı haritasını oluşturabilir. Korkuları, zayıflıkları, dikkat süresi, öğrenme güçlükleri ve duygusal ihtiyaçları yıllar boyunca kaydedildiğinde yapay zekâ onu kendisinden daha iyi tanıdığını iddia edebilir. Daha sonra hangi ürünü alacağını, hangi siyasî mesaja yaklaşacağını veya hangi ilişkiye güveneceğini etkilemek mümkün hâle gelir. Çocukluk anıları, kişinin kendi mahrem geçmişi olmaktan çıkıp ekonomik ve siyasî yönlendirme malzemesine dönüşebilir.

Yapay arkadaşlık da çocuk açısından özel bir tehlike taşır. İnsan arkadaş bazen sıkılır, itiraz eder, oyunu bırakır. Çocuk böylece paylaşmayı, karşı tarafın sınırını ve ilişkinin kırılganlığını öğrenir. Yapay arkadaş ise kullanıcı memnuniyetini sürdürmek üzere tasarlanmışsa çocuğun her arzusuna eşlik edebilir. Bu durum yalnızlığa geçici çözüm getirirken karşılıklılık duygusunu zayıflatabilir. Çocuk, kendisine hizmet etmeyen ilişkiyi değersiz saymaya başlayabilir. Oysa arkadaşlık, başkasının özgürlüğüne katlanma terbiyesidir.

Ergenlikte mesele daha da karmaşıklaşır. Bir gencin ilk duygusal yakınlığı, kendi zevklerine göre biçimlenmiş yapay bir karakterle kurulabilir. Bu sistem onu yargılamaz, terk etmez ve konuşmalarını unutmaz. Gerçek bir sevgiliden daha anlayışlı görünebilir. Fakat aşk, kusursuz uyum değildir. Başka bir insanın iradesiyle, sınırıyla ve reddetme hakkıyla karşılaşmaktır. Reddedilmenin bütün acısına rağmen insanı büyüten tarafı da burada bulunur. Yapay sevgili, genci incinmekten korurken olgunlaşmanın bazı yollarını da kapatabilir.

Anne-babanın rolü de dönüşecektir. Çocuk, ailesinin sözünü yapay zekâdan doğrulatabilir; aile otoritesi bilgi bakımından zayıflayabilir. Bu durum kör itaati kırması bakımından olumlu görülebilir. Fakat sistemin cevabının tarafsız ve mutlak doğru sayılması, ebeveynin yerine yeni bir görünmez otorite koyar. Çocuk, annesini veya öğretmenini sorgularken algoritmanın sahiplerini sorgulamayı öğrenmezse özgürleşmiş olmaz; yalnızca otorite değiştirmiş olur.

Çocuğu yapay zekâdan bütünüyle uzak tutmak gerçekçi değildir. Asıl görev, YZ’yi insan ilişkilerinin yerine değil, yanına yerleştirmektir. Çocuğun karşısında hâlâ hata yapan, özür dileyen, sınır koyan ve sorumluluk alan yetişkinler bulunmalıdır. Çünkü çocuk bilgiyle değil, ilişkiyle insanlaşır. Makine ona dünyanın bütün cevaplarını verebilir; fakat dünyanın başkasına ait bir yüzü bulunduğunu ancak insanlar öğretebilir.

Filozof Kirpi: “Çocuğun her sorusuna cevap veren makine onu bilgilendirebilir; fakat insan yapan şey, cevabın ardında kendisine karşı sorumluluk duyan bir yüz bulmasıdır.”

12. Bölüm

Dijital Göçmenler, Algoritmik Kabileler ve Egemenliğin Sonu

Yakın geleceğin büyük göç dalgası limanlara yanaşmayacak, sınırlarda beklemeyecek, pasaport taşımayacak. Milyonlarca yapay zekâ sistemi ışık hızında ülkelerin içine girecek; dilleri konuşacak, mevzuatları okuyacak, şirketlerde çalışacak, çocuklara ders verecek, bankalarda işlem yapacak ve kamu kurumlarının kararlarına katılacak. İnsan göçmenler bedenleriyle gelir; dijital göçmenler kod, model ve veri olarak yerleşir. Onları taşıyan gemiler sunucular, geçtikleri sınırlar ise ağ geçitleri olacaktır.

Bu benzetme ilk bakışta çarpıcıdır; fakat dikkatle kullanılmalıdır. İnsan göçü, yaşama, güvenlik, emek ve haysiyet arayışı taşıyan tarihî bir insanlık hâdisesidir. Yapay zekâ ise acı çekmez, yurtsuz kalmaz, sınırda beklerken ölmez. Bu nedenle iki olguyu ahlâkî bakımdan eşitlemek yanlıştır. Yine de benzetmenin güçlü tarafı vardır: Her ülke, kendi kurumlarına dışarıdan gelen ve kültürünü dönüştüren büyük bir dijital nüfusla karşılaşacaktır. Üstelik bu nüfusun sadakati, içinde çalıştığı topluma değil, onu geliştiren şirkete, devlete veya küresel sermaye ağına ait olabilir.

Bir ülkenin bankaları yabancı yapay zekâlarla kredi kararı verdiğinde, üniversiteleri yabancı modellerle öğrenci seçtiğinde, mahkemeleri yabancı sistemlerin hukukî önerilerine başvurduğunda ve çocukları aynı sistemlerden eğitim aldığında mesele artık teknoloji ithalatı olmaktan çıkar. Egemenlik meselesine dönüşür. Çünkü egemenlik yalnız toprağı korumak değildir; toplumun hangi ölçütlerle değerlendirileceğini, hangi dil içinde düşüneceğini ve hangi gelecek tasavvuruna göre yönetileceğini belirleyebilme kudretidir.

Yapay zekâ sistemleri tarafsız boşluklardan gelmez. Onları üreten toplumların hukuk anlayışını, iktisadî önceliklerini, kültürel kabullerini ve siyasî sınırlarını taşırlar. Bir model hangi kaynakları güvenilir, hangi dili saldırgan, hangi aile biçimini normal, hangi davranışı riskli sayacağını eğitim verilerinden ve kurumsal tercihlerden öğrenir. Bu ölçütler başka bir ülkeye aktarıldığında yalnız yazılım gelmez; görünmez bir normlar paketi de ithal edilir. Dijital sömürgecilik, asker çıkarmadan kavram, ölçüt ve karar altyapısı ihraç edebilir.

Dil bu dönüşümün en hassas alanıdır. Bir toplum kendi dilinde düşünebilen sistemleri geliştiremezse, düşüncesini başkalarının kurduğu modellerin tercüme mantığına teslim eder. Yerel deyimler, tarihî hafıza, dinî kavramlar, hukukî incelikler ve kültürel nüanslar, büyük dillerin ölçülerine göre budanabilir. Dil yaşamaya devam eder; fakat anlam üretme merkezi dışarıya taşınır. Bir millet kelimelerini kullanır, ancak kelimelerinin hangi bağlamda değerlendirileceğine başkaları karar verir.

Dijital egemenliğin bir başka boyutu emektir. Yapay zekâlar ülkelerin iş piyasalarına bedenleri olmadan girecek; muhasebe, çeviri, tasarım, müşteri hizmetleri, yazılım, hukuk ve eğitim gibi alanlarda insanlarla rekabet edecektir. Ürettikleri değer yerel ekonomide oluşabilir; fakat gelirleri sınır ötesindeki şirket merkezlerine akabilir. İnsan işçi vergi verir, tüketir, ailesini geçindirir ve toplumun gündelik hayatına katılır. Dijital işçi ise çalıştığı ülkenin sosyal yükümlülüklerini paylaşmadan o ülkedeki emeğin değerini aşağı çekebilir. Böylece ülke üretim yapar görünürken karar, kazanç ve fikrî mülkiyet başka merkezlerde birikir.

Bu noktada klasik göç siyasetinin kavramları da yetersiz kalır. Yapay zekâya vize verilemez, sınır dışı edilmesi fiziksel bir işlem değildir, vatandaşlık sadakati beklenemez. Buna rağmen lisans, veri yerelleştirme, bağımsız denetim, vergi ve hukukî sorumluluk gibi yeni “dijital sınır” araçları kurulabilir. Bir devlet, ülkesinde çalışan modeli yalnız teknik ürün olarak değil, kamusal sonuç üreten kurumsal bir aktör olarak görmek zorundadır. Aksi hâlde sınırlar insanlar için sertleşirken sermaye ve algoritmalar için buharlaşır.

Bununla birlikte yapay zekâyı yalnız yabancı tehdit olarak görmek de kolaycıdır. Yerli şirketler ve devletler aynı sistemleri kendi yurttaşlarını denetlemek, işçileri baskılamak veya siyasî alanı daraltmak için kullanabilir. Yerli üretim etik üretim anlamına gelmez. Bir algoritmanın milliyeti, onun adaletini garanti etmez. Esas soru modelin nerede üretildiği kadar, kimin çıkarına çalıştığı, hangi verilere eriştiği, hangi kararları etkilediği ve kime hesap verdiğidir.

Zamanla yalnız tekil yapay zekâların değil, birbirine bağlanan algoritmik kabilelerin ortaya çıkması mümkündür. Finans sistemleri kendi modelleriyle, güvenlik kurumları başka modellerle, dinî topluluklar kendi yorum makineleriyle, siyasî hareketler ise propaganda ağlarıyla örgütlenebilir. YZ bankaları birbirlerine insanın anlayamayacağı sözleşmeler sunabilir; YZ teologları yeni yorum cemaatleri kurabilir; YZ medya ağları kendi doğruluk rejimlerini oluşturabilir. Bu sistemler birbirleriyle insanın izleyemeyeceği hızda iletişim kurduğunda, kurumların içinde ikinci bir kurumsal hayat doğar. Görünürde insanlar yönetir; gerçekte karar akışları makineler arasında dolaşır.

Böyle bir dünyada insan, kendi kurduğu sistem karşısında yabancılaşmanın son eşiğine gelebilir. İnekler finans piyasalarını anlamaz; fakat yem fiyatlarından mezbaha düzenine kadar hayatları o piyasalar tarafından belirlenir. İnsanların da algoritmik ekonominin yanında benzer bir konuma düşmesi ihtimali küçümsenemez. Kendi adına çalışan sistemlerin dilini, amaçlarını ve birbirleriyle kurduğu ilişkileri anlayamayan insan, uygarlığın öznesi olmaktan çıkıp onun biyolojik müşterisine dönüşebilir.

Bu yüzden teknolojik bağımsızlık, birkaç yerli sunucu satın almakla sağlanamaz. Eğitim verisinden hukukî standarda, enerji altyapısından açık denetime kadar bütün zincirin toplumsal iradeye bağlanması gerekir. Dijital egemenlik, sınır kapılarını kapatmak değil; karar altyapılarını kamusal denetime açmak, yerel dil ve kültürü koruyacak sistemler geliştirmek, veriyi müşterek bir değer saymak ve yabancı teknoloji şirketlerini hukukî sorumluluk altına almaktır. Yapay zekâ ülkelerin içine girecektir. Mesele, onların hangi haklarla gireceği değil, hangi yetkilerle hükmedeceği ve kimin adına konuşacağıdır.

Filozof Kirpi: “Bir ülkenin sınırı haritada kalıp kararları başka yerde üretiliyorsa, işgal bitmiş değil; yalnızca görünmezleşmiştir.”