Yapay Zeka Yanılıyor mu, Yorumluyor mu?

Felsefeci Gadamer yaşasa yapay zeka ve halüsinasyonları hakkında ne yazar, hakikatin tanımını yeniden yapar mıydı yoksa yine "ufukları mı kaynaştırırdı" sorusuna bir cevap aradım, bulamadım.

Yapay Zeka Halüsinasyonları, Hakikat ve Gadamer’in Gölgesinde Bilmek Üzerine

Yapay zekâya güvenebilir miyiz? konulu TheExecutives yayınımızda yine konu dönüp dolaşıp YZ ve bilgi konusuna geldi. Dış dünyaya ilişkin bilgimizin doğruluğunun kaynağı ve aslında bunun bir şeyi değiştirip değiştiremeyeceği konusu…

Son zamanlarda hep yayınlara atıf yaptığımın farkındayım. Öyle gelişiyor çünkü ufuk açan sohbetler yapabilmek için çokça okuyor ve araştırıyoruz (kusura bakmayın mütevazi olamayacağım bu konuda.) Konuya dönüyorum, herkes en az bir defa yapay zeka tarafından sinirden delirtecek derecede yanlış bilgiye maruz kalmıştır. Ki bu konuda efsanevi hatalar, deneyler var, (detaya çok girmek istemiyorum yayında izlersiniz) ve hepsi genel olarak yapay zeka halüsinasyonü olarak adlandırılıyor. Sanki yz bir an için gerçeklikten kopmuş, kendine özgü bir iç dünyada gezinmeye başlamış gibi. Ama bu metafor ne kadar doğru? Ve daha önemlisi: “bu arıza bize bilgi ve hakikat hakkında ne söylüyor?”

Halüsinasyon Kelimesinin Yanılsaması

Halüsinasyon kavramı, aslında bir teşhis değil. Makineyi hasta ilan etmek, soruyu ertelemek demek. Bir bakıma da bir gün düzelebilecek bir şeymiş gibi yaklaşmak demek. Bir yapay zeka modeli yanlış bir cümle kurduğunda ne olmuştur, tam olarak?

Kognitif bilimci ve yapay zeka eleştirmeni Gary Marcus, tam da bu noktada duruyor. Marcus’a göre büyük dil modelleri temelden yanlış kurulmuş sistemlerdir ve halüsinasyon bir hata değil, sistemin doğal çıktısıdır. Dolayısıyla da düzelmeyecektir. Bir tür balondur YZ. Modeller sembolleri anlayarak değil, ilişkilendirerek işler. Güneş kelimesinin ne anlama geldiğini bilmezler; sadece hangi kelimelerle birlikte geçtiğini bilirler. Marcus buna yüzeysel örüntü eşleştirme diyor ve şunu ekliyor: “Bu sistemler ne kadar büyürse büyüsün, anlama değil, taklit üretmeye devam edecekler. Tesadüfi bir doğruluğa sahip olacağız ve ancak yapsal olarak güven duyabiliriz.” (çeviri bana ait, linkteki yazıdan aldım ve hata varsa affımı rica ederim)

Büyük dil modelleri, metinleri istatistiksel örüntüler olarak işler. Her kelime, bir öncekinin ardından gelmesi en olası kelimedir yani olasılık ağırlıklı bir seçim yapar. Model, doğru cümle üretmez; “bu bağlamda tutarlı görünen cümle” üretir. Yani temelde şunu sorar: Bu kelimelerin bu sırayla gelmesi ne kadar muhtemel?

Bu noktada felsefi bir kuyuya düşüyorum ben: Peki ya biz? Konuşurken, yazarken, anlatırken; biz gerçekten “hakikate ulaşıp onu aktarıyor” muyuz? Yoksa biz de, kendi bilinç ve belleğimizin örüntülerinden en tutarlı görüneni mi seçiyoruz? Yapay zekayı kullanırken de kendi bilincimizden hareketle, kendi düşünme yapımızı mı yansıtıyoruz?

Gadamer’in Sorusu: Bilmek mi, Yorumlamak mı?

Hans-Georg Gadamer, 1960 yılında yayımladığı Wahrheit und Methode (Hakikat ve Yöntem) adlı eserinde, bilginin doğasına dair bizi derinden rahatsız eden bir iddiada bulunur: Anlamak, yorumlamaktır. Bunun ötesine geçemeyiz.

Gadamer’e göre hiçbir şeyi boş bir zihinle, tarafsız bir gözlemci olarak kavrayamayız. Her anlama eylemi, tarihsel bir ufuktan başlar. Bizi şekillendiren dil, kültür, gelenekler için Gadamer önyargı demekten çekinmez ve bu kavramı olumlu bir içerikle yeniden inşa eder. Önyargı dünyayı anlamanın ön koşuludur.

Antje Rieck - Horizontverschmelzung -Installation view 2019

Gadamer’in en güçlü imgesi ufukların kaynaşmasıdır: Horizontverschmelzung. Metni anladığımızda, metnin ufku ile bizim ufkumuz iç içe geçer. Anlam ne metinde ne de bizde hazır bekler. İkisi arasındaki diyalogdan, o gerilimden doğar. Dolayısıyla anlam her defasında yeniden üretilir. Hakikat, bir şeye ulaşmak değil, bir şeyle birlikte olmaktır.

Şimdi bunu yapay zekaya taşıyalım.

Makine Hangi Ufuktan Bakıyor?

Yayın kaydında tam olarak anladığım bir şey var: Bir dil modeli, milyarlarca cümleyi sindirmiş bir varlıktır. Bu metinlerin içinde hatalar da var, mitler de, keskin analizler de, dezenformasyon da. Model bu dünyanın içinden öğrenir, tıpkı bir insanın, içinde doğduğu kültürün dilinden, hikayelerinden, kalıplarından öğrenmesi gibi.

Bu açıdan bakıldığında yapay zeka modellerinin bir ufku var. Ama bu ufuk son derece tuhaf bir ufuk: Kimsenin ufku değil, herkesin ufkunun istatistiksel ortalaması. Herkes kadar ırkçı, herkes kadar gerici, herkes kadar yalancı… Kendi yaşanmış deneyimi, bedensel varoluşu, zaman içindeki değişimi yok. Gadamer’in söylediği şeyden eksik olan tam da bu: deneyimin tarihselliği.

İnsan için önyargı, yaşanmış bir tarihin izleridir. Gadamer için bu yük aynı zamanda bir zenginliktir, bizi dünyanın içine yerleştirir, anlamamızı mümkün kılar. Oysa yapay zekanın önyargısı yaşanmamış bir tarihin kalıplarıdır. Bellek değil, frekanstır. Deneyim değil, dağılımdır.

Marcus ile Gadamer burada ilginç biçimde buluşuyor. Marcus teknik bir itiraz yöneltiyor. Model, ona göre anlayamaz, çünkü sembolü dünyayla bağdaştıracak referans çerçevesi yoktur. Gadamer ise yaşasa felsefi bir itiraz yöneltirdi kesin: Model anlayamaz, çünkü yaşanmış bir tarihten yoksundur. Kendi ufku olmadığı için anlama da olmaz.

İşte halüsinasyon anladığım kadarıyla bu uçurumda doğuyor. YZ kendi içinde tutarlı görünen ama doğru olmayan bir şey ürettiğinde bir bakıma ufkunu kaybediyor. Dilini bildiği ama kültürüne dair hiçbir fikri olmayan bir ülkede kaybolmuş bir seyyah gibi. Çünkü o ufuk zaten hiçbir zaman tam anlamıyla onun değildi.

Ama İnsan da Yanılıyor

Burada kendimizi fazla rahatlatmamalıyız.

Elizabeth Loftus’un çığır açan deneyleri var önümüzde. İnsan belleği de bir kayıt cihazı değil, her hatırlamada yeniden inşa edilen bir sistemdir. İnsanlar da hiç yaşamadıkları olayları son derece canlı biçimde hatırlayabildiklerler… Tanık ifadeleri yanlış, yönlendirmeye açık (siyasete girmemeliyim, siyasete girmemeliyim, siyasete girmemeliyim). Geçmişi anlatırken şimdimiz onu şekillendiriyor.

Yani insan da bir bakıma halüsinasyon üretiyor ama sadece buna başka isimler koyuyoruz. Yanlış hatırlama*, öznel yorum, kültürel çerçeveleme, ideolojik körlük gibi. (*siyasete girmemeliyim, siyasete girmemeliyim, siyasete girmemeliyim)

Gadamer bunu bilirdi ve bunda trajik bir şey görmezdi. Ona göre bu kısıtlılık, aynı zamanda anlamanın koşuludur. Sonsuz bilgiye sahip olan bir varlık, Gadamer’in anlamında hiçbir şeyi anlayamaz, çünkü anlamak, bir yerde durmayı, bir bakış açısına sahip olmayı, bir şeyle ilişkiye girmeyi gerektirir. Hakikat mekansız değildir.

Peki, Hakikat Bir Performans mı?

Yapay zekanın yarattığı en derin felsefi rahatsızlık belki de bu ya da benim için öyle. YZ hakikat performans gösterir. Bir şeyi bilir gibi konuşur. Emin görünür. Güven telkin eder. Arada da egomuzu okşayarak sorgulama mekanizmamızı akamete uğratır. Ama bu güven epistemik değil, biçimseldir, cümle yapısının, kelime seçiminin, teslimin güvenidir.

Bunu ilk fark ettiğimizde şaşırıyoruz. Ama sonra kendi konuşmalarımıza bakıyoruz ve rahatsız edici bir yansımayla karşılaşıyoruz veya karşılaşmalıyız. Biz de çoğu zaman güveni hakikatin yerini tutacak biçimde kullanmıyor muyuz? Plaza jargonu, retorik öfke, kurumsal otorite gibi durumlar da birer hakikat performansı değil mi?

Austin’in söz eylem teorisini hatırlayalım isterseniz; konuşmak bir şey yapmaktır. Ben sana söz veriyorum cümlesi bir gerçekliği aktarmaz, bir gerçeklik yaratır. Belki halüsinasyon da böyle bir şeydir. Model bir gerçekliği aktarmıyor ama dil aracılığıyla geçici, ikna edici, işlevsel bir gerçeklik inşa ediyor.

Ve işte burada Gadamer’e geri dönüyoruz: Bu inşa sürecine katılan bir okuyucu/kullanıcı yoksa, hakikatin yokluğu fark edilmiyor. Anlam yalnız doğmuyor; bir diyalog gerektiriyor.

Ufkumuzu Kaybetmemek

Peki bu bizi nereye bırakıyor?

Yapay zeka bize bir ayna tutuyor, bütünüyle ve uygarlık olarak bize. Bu, çarpık ama aydınlatıcı bir ayna. Bilginin ne olduğunu, neyin hakikat saydığımızı, güveni nereden türettiğimizi sorgulatıyor. Bu model yalan mı söylüyor? sorusu, kaçınılmaz olarak biz neyi ne zaman biliyoruz ki? sorusuna dönüşüyor.

Gadamer’in dersini ciddiye aldığımızda hakikatin verili bir gerçeklik değil, bir ilişki olduğuna varıyoruz. Ve bu ilişki, anlayanın tarihsel konumunu, sorumluluğunu, merakını gerektirir. Makine bu konumdan yoksun olduğu sürece yani her zaman onun ürettiği şey bilgi değil, bilginin gölgesidir. Bunu bilmek, onu nasıl kullanacağımızı da belirler.

Ama belki daha önemlisi bu farkındalık bizi de daha dikkatli yapıyor. Kendi halüsinasyonlarımıza karşı da, kendi performatif hakikatlerimize karşı da. Ve umarım ki kendi ufuklarımızın sınırlarına karşı da…

Her anlama, yeniden sormaktır. Yapay zeka bu soruyu bize geri veriyor, istemeden, mekanik olarak, ama yine de güçlü biçimde.

Belki de en iyi yaptığı şey bu.