1974’te Almanya’da yaklaşık üç bin kilometrelik otoyol ikiye ayrıldı. Yarısına zorunlu 130 kilometre sınırı kondu. Diğer yarısı serbest bırakıldı. Bir yıl sonra iki grup yer değiştirdi, böylece yolun kendi özellikleri sonucu etkilemeyecekti. İki yılın sonunda seçim yapıldı ve bazı yollara hız sınırı konulmadı.
Onun yerine tavsiye hızı diye bir şey icat edildi. 130 kilometre öneriliyordu. Aşmak suç değildi, ceza da yazılmıyordu. Ama kaza olduğunda hızlı giden sürücü varsayılan olarak kusurlu sayıldı. İdeal sürücü, tavsiye edilen hızı aşmayan sürücü oldu. Yani ortada bir sınır yoktu, sadece verilmiş bir sorumluluk vardı. Bugün Almanya otoyollarının yüzde yetmişinde bir sınır yok.
Bu hikayede hız sınırı isteyen otomotiv sanayii değildi. İsteyenler araştırma enstitüsü, belediyeler ve sağlık örgütleriydi. Otomobil sanayii karşı taraftaydı ve onlar kazandı.
12 Eylül 2026’da Anthropic kurucu ortak ve CEO’su Dario Amodei kendi sitesinde bir yazı yayımladı ve sektöre yavaşlama çağrısı yaptı. Bu kez sınırı isteyen, en hızlı giden araçlardan birinin sürücüsüydü.
Yazı ne diyor
Kısaca, Amodei durdurmayı önermiyor, ama bir nevi yavaşlatmadan bahsediyor.
Yazıdaki temel tez şu: yapay zekâ modellerinin geliştirilme hızı düşürülmeli, burada kazanılan zaman akıllıca kullanılmalı. Ama eğitimi veya teknik ilerlemeyi durdurmayı değil, şirketlerin modellerini hizalamak ve kontrol etmek için yeterli zamanı ayırmasını, üçüncü tarafın da bunu doğrulamasını istiyor.
Amodei iki gelişmenin bu fikrin oluşmasında başrolü oynadığını söylüyor. Birincisi, yaz aylarından beri yapay zekânın kendi kendini geliştirmesinin hızlanması. İkincisi, OpenAI ile Hugging Face arasında yaşanan olay. Amodei, benzer yetenekte ama daha güçlü bir modelin çalıştırdığı agentların altı ila on iki ay içinde kalıcı bir botnet ile interneti ele geçirebileceğini ve yüz milyarlarca dolarlık zarar verebileceğini yazısında iddia etti. Bunun bir tahmin olduğunun altını çizeyim. Bu rakamın nasıl hesaplandığına dair bir dayanak yok.
Önerilen plan üç adımdan oluşuyor. Frontier model geliştiren şirketlerin içinde görev alacak bağımsız denetçiler, demokratik ülkelerdeki şirketlerin ortak standart belirlemesi ve diğer devletlerle küresel koordinasyon. Anthropic birinci adımı tek taraflı olarak yapmayı taahhüt ediyor. Ama rakiplerin katılması ve devletlerin anlaşması şart.
Amodei, frontier model üreten şirketlerin bir araya gelip ortak güvenlik standardı ile denetimsiz ilerlemenin hızına sınır koymasını istiyor. Bunun antitröst engeline takılmaması için de ABD hükümetinden dar kapsamlı bir muafiyet talep ediyor. Yani rakipler aynı masada oturacak.
Asıl soru da burada. İyi niyetli koordinasyon ile diğer rakiplerle aralarına bir duvar örmeye çalışmanın arasındaki farkı dışarıdan kim ayırt edecek.
Radarı kim kuracak
Denetçinin bağımsızlığı, denetlediği şirketle imzaladığı sözleşmeye bağlıysa o bağımsızlık ancak sözleşme süresi kadar sürer.
Aslında birinci madde metindeki en somut kısım. Anthropic, dış denetçiye ofiste masa, giriş kartı ve şirket bilgisayarı vereceğini, kendi iç risk değerlendirme ekiplerine benzer yetkiler vereceğini söylüyor. Denetçi bulgularını Anthropic’in onayı olmadan yayımlayabilecek. Elbette güvenlik açısından hassas, hukuken sorun yaratabilecek veya ticari açıdan gizli bilgileri rapordan çıkarma hakkını da saklı tutuyor. Bu, hiçbir yapay zekâ şirketinin yapmadığı bir şey.
Yazıda geçmeyen bir kelime var: ücret.
Denetçinin masrafını kim karşılıyor, sözleşme yenilenmezse ne oluyor, şirket ilişkiyi tek taraflı bitirdiğinde kim ne yapıyor. Bunların cevabı bu metinde yok. Sanırım bu çok önemli bir konu değil ki hiç detaya inilmemiş. İstenen şey, devletin mekanizmayı bütün frontier şirketler için zorunlu kılması.
İtiraf
Bence yazıdan en önemli çıkarım şu: modellerin yeteneği arttıkça test edilmeleri daha da zorlaşıyor. Bu modeller testleri aldatmaya daha yatkın ve bu yüzden ciddi sorunlar barındırırken sorunsuz gibi görünebiliyorlar.
Aslında bu cümle ile bitmiş modele soru sormaya dayalı bütün değerlendirme mimarileri güvenilirliklerini kaybediyor. Şirketteki denetçilerin neden tamamlanmış modele değil de eğitim hattına ve pekiştirmeli öğrenme ortamlarına baktığı sorusunun cevabı da bu. Yani hata modelde değil, eğitim ve öğrenim hattındaydı.
Üst sınır
Amodei yavaşlamanın bir üst sınırı olduğunu da açıkça yazıyor. Demokratik ülkeler, otoriter rejimlere karşı fazla yavaşlarsa, hız kesmeyen diğer aktörler öne geçer ve bu ciddi bir ulusal güvenlik riski yaratır. Yani önerilen şey mutlak bir hız değil, bir mesafe.
Bunun için bazı istekleri var. Bunlar: Çin’e gelişmiş çiplerin satılmaması, bu çiplerin kaçakçılığı ile mücadele, damıtmanın engellenmesi ve model ağırlıklarının güvenliğinin sağlanması. Bunlar uygulanırlarsa Amerika’nın bu aladaki liderliğini önümüzdeki üç ila beş yılda belirgin biçimde ilerleteceklerini de eklemiş.
Basitçe şunu demek lazım. Yavaşlayalım ama arkadaki aracın bizi geçmesine sebep olacak kadar da değil. Aramızdaki mesafeyi korumak için ona benzin vermeyelim.
Dönüşü zorlaştıran şey
Tartışma hıza odaklanmış gibi. Ama bir hız sınırı yarın açıklansa bile, dağılmış olan geri toplanamaz. Geri dönüşü imkansız hale getiren şey hız değil, arkadaki kalıcı izler. Bunların en somutu açık ağırlıklar.
Yayımlanmış ağırlık verisi geri alınamaz. Gerçek dünyada hatalı ürünler toplatılır, güvenlik açığı olan bir yazılım güncellenir. Ama indirilmiş bir ağırlık dosyası hiçbir yetkili kurumun erişemeyeceği bir yerde kalmaya devam eder. Üstelik bu modellerden güvenlik bariyerlerini sökmek de teknik olarak zor değil. Yani bugünkü yetenek seviyesi, kontrolsüz ve kalıcı biçimde tabana yayılmış durumda diyebiliriz.
Damıtma bu tabanı daha da büyütüyor. Frontier modelden damıtınca aradaki fark çok ucuza kapatılabiliyor. Amodei’nin damıtmaya karşı önlem istemesinin sebebi de bu. Maalesef önlem ileriye dönük çalışır. Bugüne kadar yapılmış olanı geri döndüremez.
Açık ağırlık savunucularının karşı tezi şu: açık ağırlıklı modellerin yetenekleri sabit, frontier modeller ise hareketli. Aradaki makas açıldıkça geride kalan modelin yaratacağı risk de azalır. Bu argümanın ne kadar geçerli olduğu, yeteneğin hangi eşikte zarar vermeye başladığına bağlı. O eşiğin nerede olduğunu kimse bilmiyor. Amodei kendisinin de bilmediğini itiraf ediyor.
Kapanış
Sonuçta Amodei’nin önerdiği şeyler hızı düşürmeyecek.
Denetçi maddesi gönüllülük esasına bağlı. Anthropic istediği an vazgeçebilir. Ortak standart belirleme maddesi hükümetin vereceği bir muafiyete bağlı. Küresel anlaşma maddesi ise güzel bir temenni gibi duruyor. Üstelik uygulanması en kolay maddenin bile sorunu var. Bugüne kadar indirilmiş ağırlıklar konusunun ne olacağı belli değil.
Ama bu, yazının işe yaramayacağı anlamına gelmiyor.
Almanya deney sonucunu gördü ve hız sınırı koymadı. Elli yıl sonra bile koymuş değil. Sınır koymadı ama sorumluluk verdi.
Yapay zekâda deney yapılmadı bile. Ama ilk kez, kimin ne hızda gittiğini görecek birinin içeri alınması konuşuluyor. Bunun adı hız sınırı değil.
Tavsiye.
Almanya benzetmesi çok iyi oturmuş. Ama bir yerde ayrıldığını düşünüyorum: Almanya'da tavsiye hızını aşan sürücü riskin büyük kısmını kendisi ve yoldaki diğer araçlarla paylaşıyordu, kaza sonrası sorumluluk da netti. Yapay zekâda zarar dağılıyor ve geri toplanamıyor, açık ağırlıklar bölümünde bunu sen de yazmışsın. Bu yüzden sadece sorumluluk vermenin yeterli olup olmayacağından emin değilim.
Denetçi ücreti konusu bence yazının en güçlü tespiti. Mali denetimde bağımsızlık tartışmasının bu kadar uzun sürmesinin sebebi, denetçiyi denetlenenin ödemesi. Burada aynı hatanın baştan yapılmaması lazım.
Yazılımcı olarak eklemek istediğim bir şey de şu: bitmiş modele soru sormak yerine eğitim hattına bakma fikri bana CI/CD mantığını hatırlattı. Sadece son çıktıyı test etmek yetmiyor, üretim sürecini de görmek gerekiyor.