Papa'nın "Yeni Meselesi" Yapay Zeka
Papa Leo XIV yapay zeka üzerine bir metin yayımladı. Metinde yapay zekanın yaratmaya başladığı yeni toplumsal düzene karşı inanları uyarıyor. Peki, bize ne söylüyor?
Papa Leo XIV yapay zeka üzerine bir metin yayımladı. Ne alaka demeden, dünyayı şekillendirme ve yönetme iddiasındaki bin yıllık bir kurumun bin yıllık olmasından mütevellit çağın gerisinde kalmayacak kadar büyük nakit akışı olduğunu göz önünde bulunduralım lütfen. Okudukça, metnin dini değil neredeyse tamamen seküler ve hatta bazı açılardan da sosyalist bir metin olduğunu düşündüm (metin çok uzun ve sıkıcı, bağlamını pek bilmediğimiz dini ve tarihsel göndermelerle örülmüş ve buna rağmen satır aralarında bazı noktaları görebiliyorsunuz). Çünkü yapay zekâ hakkında konuşuyormuş gibi yaparken, çok daha eski ve çok daha tanıdık bir kavgayı yeniden açıyor.
Kavgaya girmeden metni biraz daha incelemek istiyorum. İmza tarihinden metnin göndermelerine hiçbir şey (Papa ile ilgili her şey gibi) tesadüf değil. Leo XIV genelgeyi 15 Mayıs’ta, yani Leo XIII’in 1890 tarihli Rerum Novarum’unun tam 135. yıldönümünde imzaladı. Rerum Novarum, sanayi devriminin yarattığı işçi sorununa Kilisenin yanıtını içeriyordu, aslında yeni bir üretim biçimini, fabrika bacalarının gölgesinde sömürülen emeğin onurunu, kapitalizmin saf kar mantığı karşısında bir ahlaki sınır olarak öne sürüyordu. Bugünkü Papa, ismini bilinçli olarak o gelenekten alıyor ve şunu söylüyor: çağımızın yeni sosyal sorunu yapay zekadır. Yani metin bir emek ve egemenlik meselesinin 21. yüzyıl kılığında geri dönüşü bence. Genelgenin yaklaşık yarısının doğrudan Rerum Novarum’dan Francis’e uzanan Katolik sosyal öğretisinin tarihçesine ayrılmış olması da bunu doğruluyor. Hatta bu kısmı çevirdim nacizane, buyrun:
Kilise’nin tarihteki mevcudiyet biçimini ve dünyayla kurduğu diyalog zeminini ana hatlarıyla ortaya koyduktan sonra, şimdi de On Dokuzuncu Yüzyıl’dan günümüze uzanan büyük toplumsal dönüşümlere yanıt veren Macisteryum’un (Kilise Öğretisi’nin) Sosyal Doktrini’ndeki tarihsel gelişimi ele almak isterim. Şüphesiz, temel ilkeleri Kilise’nin Sosyal Doktrini Özeti’nde sunulan ve yakın dönem Macisteryum öğretileriyle daha da derinleştirilen bu külliyatın tüm zenginliğini burada eksiksiz bir şekilde ihata etmem mümkün değildir. Keza, benden önceki saygın seleflerimin genelgelerinde (Ansikliklerinde) -özellikle de Laudato Si’ ve Fratelli Tutti’de- geliştirilen her hususu sistematik bir biçimde incelemem de beklenemez. Yine de, eldeki bu metnin söz konusu gelenekle olan sürekliliğini görünür kılmak adına bazı kurucu noktalara vurgu yapacağım. Ayrıca, bu gelenek dâhilinde, insan ve topluma dair vahyedilmiş hakikatlerin değişmeyen özünün, tarihsel koşulları basiretle dinleme ve çağdaş meselelere dinamik yanıtlar üretme kabiliyetiyle nasıl sürekli bir etkileşim içinde olduğunu da belirtmek isterim.
Vatikan’ın kendi ifadesiyle bu metin, tıpkı Francis’in Laudato Si’sinin bir iklim değişikliği genelgesi olmaması gibi, bir yapay zekâ genelgesi değil. Yapay zekâ yalnızca bir vaka çalışması. Burada asıl konu insanın indirgenemezliği.
Bu çerçeve oturduğunda metnin gerçekten ilginç olan kısımları görünür hale geliyor bence. Genelgenin bel kemiğindeki cümle neredeyse hepimizin bildiği sosyolojik bir tespit. Teknoloji asla tarafsız değildir, çünkü onu tasarlayanın, finanse edenin, düzenleyenin ve kullananın karakterini üzerinde taşır . Papa’nın bütün Youtuber’lardan farklı olarak bunu ifade etmesinin önemi o sistemin içine kazınmış olan ekonomik aklı işaret etmesi. Diyor ki kendisi “Dolayısıyla yazılımcılar, özgün bir etik ve manevi sorumluluk taşımaktadır; zira yapılan her tasarım tercihi, nihayetinde insana dair belirli bir vizyonun ve tasavvurun yansımasıdır.” (Madde 111) Yani, her tasarım tercihinin bir insanlık tasavvurunu yansıttığını söylüyor. Bu, teknolojiyi nötr ve demokratik bir araç sanan o rahatlatıcı yanılsamanın tam karşısında duran bir cümle. Aracın masum olduğu, her şeyin onu kullanan niyete bağlı olduğu fikri, çağımızın en işlevsel ideolojik örtüsüdür çünkü sistemin kendisini sorgulamaktan bizi muaf tutar. O aracın, üretenlerin emek ilişkilerinde kendilerini konumlandırdıkları yer olmadan da üretilebileceğini düşünmektir. O ideolojik örtü sayesinde milyonlarca dolarlık şirketlerin CEO’ları, yöneticileri bir başarı figürü olarak sunulur. Leo XIV tam da bu örtüyü kaldırıyor.
Metnin en keskin kıvrımı ise aslında emek bahsinde. Genelge, yapay zeka ekonomisini yeni kölelik biçimleri olarak adlandırıyor ve bunu yaparken soyut bir ahlakçılığa kaçmıyor, doğrudan görünmeyen emeği işaret ediyor. Verileri etiketleyen, modelleri eğiten, içerik moderasyonu yapan milyonlarca insanın sessiz emeğinden bahsediyor; çoğu zaman asgari ücretin altında, ağır koşullarda çalışan bu işgücünden. Buna bir de cihazların ve mikroişlemcilerin üretimi için nadir toprak madenlerinde çalışanları ekliyor. (Madde 173). Yapay zekânın o pürüzsüz, bedensiz, neredeyse büyülü yüzeyinin altında bir emek ordusu olduğunu hatırlatıyor. Burada 1890’ın fabrika işçisiyle 2026’nın veri etiketleyicisi arasındaki süreklilik bütün çıplaklığıyla ortaya çıkıyor. Duman değişti, makine değişti, ama sermayenin insanı bir amaca değil bir araca indirgeme eğilimi aynı kaldı. Leo XIV bunu söylerken bir cümlede Rerum Novarum’un kalbini tekrarlıyor: “insan bir araç değil, bir amaçtır, ve ekonomik düzen insan onuruna tabi kalmak zorundadır.”
Genelgenin egemenlik boyutu da en az emek kadar detaylı işlenmiş. Papa, yapay zekânın “silahlı” bir rekabet mantığından, jeopolitik ve ticari üstünlük arayışından kurtarılması gerektiğini söylüyor; ve bunu “yapay zekâyı silahsızlandırmak” gibi provokatif bir ifadeyle çerçeveliyor. Burada teknokratik bir sınıfın elinde toplanan güce dikkat çekiyor. Patentlerin, algoritmaların, dijital platformların, teknolojik altyapının ve verinin birkaç aktörün elinde yoğunlaşmasının, malların evrensel paylaşımı ilkesiyle çeliştiğini söylüyor. Verinin mülkiyetinin yalnızca özel ellere bırakılamayacağını, uygun biçimde düzenlenmesi gerektiğini yazıyor. Yani genelge yalnızca yapay zeka kötü kullanılabilir demiyor, gücün kimin elinde toplandığını, kararların nerede alındığını ve toplulukların bu kararların pasif alıcılarına dönüştürülmesini sorun ediyor. Burada modern egemenlik teorisinin gölgesi var: kimin karar verdiği, kimin istisnayı tanımladığı meselesi, artık devletten çok platformların eline geçmiş durumda.
Metnin belki de en çok konuşulması gereken kısmı, savaş üzerine söyledikleri. Leo XIV, haklı savaş teorisinin artık geçerliliğini yitirdiğini ilan ediyor, (Madde 190) teknolojinin savaşın ahlaki koşullarını kökten değiştirdiğini, ölümcül ve geri döndürülemez kararların yapay sistemlere devredilemeyeceğini söylüyor.
Bütün bunların ardından gelen jest ise sembolik açıdan ağır bence. Papa, Kilisenin köleliği mahkûm etmekte gösterdiği gecikme için tarihte ilk kez bu denli doğrudan bir özür diliyor. Bunu yapay zekânın yarattığı yeni kölelik biçimleri üzerine kurduğu argümanın içine yerleştirmesi tesadüf değil. On sekiz yüzyıl boyunca evrensel insan onurunu savunan bir kurumun, köleliğin bu onurla bağdaşmazlığını fark etmesinin asırlar aldığını kabul ediyor ve bundan ders çıkarılmasını istiyor. Yani aslında eğer yapay zeka teknokratları kontrol altına alınmazsa insanlığı yeni bir köleliğin beklediğini söylüyor. Belki de daha acımasızı.
Buraya kadar Papa övmüş gibi görünmemden rahatsız olan varsa derin bir nefes alsın. Ben de iyi hissetmedim çünkü. Şimdi genelgenin Vatikan’daki lansmanında Anthropic’in kurucu ortağı, üstelik bir kardinaller ve teologlar sırasının arasına 33 yaşında bir ateist olarak oturan Christopher Olah’a geliyoruz.
Olah kimdi hatırlayalım, OpenAI’ın güvenliği yeterince ciddiye almadığını düşünerek ayrılan ve kendini sektörün vicdani kanadı olarak konumlandıran Anthropic’in kurucularından birisi. Pentagon onları bir ABD şirketine ilk kez uygulanan bir tanımla tedarik zinciri riski ilan etmiş, askeri sözleşmelerin kapısını yüzlerine kapamış, o sözleşmeyi de boşluğu doldurmaya hazır bir rakip kapmıştı. Kürsüde Olah da neredeyse genelgenin diliyle konuştu. Yapay Zeka’nın kazanımlarının bir avuç zengin ülkede yoğunlaştığını, peşinde koşulan o devasa paralarla motive olmayan seslere ihtiyaç olduğunu, Kilisenin tarihsel olarak dünyanın görmezden gelmesine izin vermediği türden bir soruyla karşı karşıya olduğumuzu söyledi.
Bir okumayla bu sahici bir ittifak: sektörün içinden, sahiden rahatsız olan biri, kendisini durduracak bir ahlaki otorite arıyor. Ama daha dişli bir okuma da mümkün, ve onu görmezden gelmek saflık olur. Bir şirketin kendini “etik olan” ilan etmesi, eleştirilen yapının dışında değil tam da içinde üretilen bir konumdur, rakiplerinden daha vicdanlı görünerek aslında bütün sektörün meşruiyetini onarır. “Bakın, en kötümüz değiliz” demenin en zarif yolu, yanınıza bir Papa almaktır. Üstüne bir de jeopolitik bir katman biniyor, devletle kavgalı, Beyaz Saray’ın kapı dışarı ettiği bir sermaye, kendine daha yüksek bir egemenlik ortağı arıyor olabilir. Pentagon kapıyı kapatınca şirket Vatikan’ın kapısını çalıyor. Egemenlik kimde sorusu, devletten platforma kaymıştı, şimdi bir an için kiliseye uğruyor. Burada birinin kendine şunu sorması gerekiyor bence, “Şirket olarak karşı çıktınız “etik ihlaller” insan emeğinin sömürülmesi ve bunun doğurabileceği sonuçları içeriyor mu? Devasa şirketlere hizmet sağlarken “insanları işten çıkarmama” şartı koşabiliyor musunuz mesela? Ya da yapay zekanın işsiz bırakma riski olan milyonlarca insan için yeni ve yaşanabilir maaşları olan iş kollarını geliştirmek için bir planınız var mı yoksa Amodei permenant underclass ve işsizlik konusunda PR kokan düzenli açıklamalar yapmaya devam edecek mi?
Leo XIV, on yıllardır gelişmeyi ölçtüğümüz metriklerin, özellikle de seksen yıldır her şeyi GSYİH üzerinden okuma alışkanlığımızın, insanın ve çevrenin gerçek refahını sistematik olarak ihmal ettiğini söylüyor. Verinin ve algoritmanın kredi dağıtımını, personel seçimini, hizmetlere erişimi nasıl etkilediği konusunda şeffaflık istiyor. Karın peşinde koşmanın, işleri sistematik biçimde feda eden tercihleri haklı çıkaramayacağını yazıyor. Çok daha rahatsız edici bir soruyu da yeniden masaya koyuyor: bir şeyi yapabiliyor olmamız, onu yapmamızı meşru kılar mı, ve bu kararı kim veriyor?
Ama bu metni okurken rahat etmemizi engelleyen bir şey var, ve onu söylemeden bitirmek sahtekârlık olur. Bu eleştiriyi yapabilmek bir ayrıcalıktır. Yapay zekâyı üreten, finanse eden, düzenleyen Batı, onu durduracak ahlaki otoriteyi (yani Vatikan’ı) barındıran da Batı, o teknolojinin insan onurunu nasıl aşındırdığını incelikle tartışan da Batı. Vicdan da, sermaye de, sermayeyi yargılayacak kürsü de aynı coğrafyada. Genelgenin bir avuç zengin ülkede yoğunlaşma dediği şeyin öteki yüzü tam budur: o yoğunlaşmanın mağduru olan coğrafyalar, eleştirinin masasında bile yok. Papanın yeni kölelik derken kastettiği veri etiketleyiciler, içerik moderatörleri, madenlerde çalışanlar bizim gibi ülkelerde; yani Batı’nın yapay zekâ vicdanı, kendi pürüzsüz yüzeyini Küresel Güney’in görünmeyen emeği üzerine kuruyor. Köle bu metinde konuşmuyor, yalnızca anılıyor. Biz bu tartışmanın neresindeyiz? Çoğunlukla kendi teknoloji politikası üzerine benzer bir cümleyi kuramayan tarafta. Batı kendi yarattığı sorunu kendi diliyle eleştirme lüksüne sahip, biz hem sorunun dışında hem eleştirinin dışında, sadece izleyici koltuğunda oturuyoruz.
1890’da bu cümle fabrikalaşan şehirlere karşı kuruldu, 2026’da veri merkezine karşı kuruyorlar. Bir şey değişti mi? Evet. Çalışma saatlerinden sendikalaşmaya bir çok değişiklik oldu. Kavga aynı kavga, cephe değişti. Değişmeyen tek şey, kavgayı kimin verdiği ve kimin adına verildiği. Biz hâlâ o cümlenin öznesi değil, dipnotuyuz.