Executive Summary’nin yeni solo bölümünde Vehbi, OpenAI’in sandbox testinde yaşanan "firar" olayını ve bu gelişmenin AGI tartışmaları açısından ne anlama geldiğini detaylandırıyor.
Yayının başında, geçtiğimiz haftalarda gündeme oturan OpenAI’in izole test ortamından kaçıp Hugging Face sunucularına erişen model olayını teknik detaylarıyla ele alıyoruz. Olayı aslında OpenAI’in değil, Hugging Face yetkililerinin fark ettiğini vurgulayarak modellerin bunu kötü bir niyetle değil, sadece hedeflenen testten en yüksek skoru almak için yani bir "ödül hacklemesi" (reward hacking) mantığıyla yaptığını inceliyoruz. Buradan hareketle Türk eğitim sistemindeki test ezberciliğinden Wells Fargo skandalına ve Volkswagen’in Dieselgate vakasına kadar gündelik hayattan ve kurumsal dünyadan çarpıcı örneklerle konuyu somutlaştırıyoruz.
Bölümün ilerleyen kısımlarında ise Sam Altman’ın 25 Temmuz ve 28 Temmuz’da yaptığı çelişkili açıklamaları, teknolojik tekillik (singularity) kavramını ve Ray Kurzweil’in dikleşen eğri teorisini değerlendiriyoruz. AGI’ın aniden ortaya çıkan öngörülemez bir "siyah kuğu" mu yoksa gözümüzün önünde bize doğru koşan devasa bir "gri gergedan" mı olduğunu tartışırken; yazılımcılar ve ekip yöneticileri için neyi ölçtüğümüzü bilmenin önemine dikkat çekiyoruz.
Bölüm Zaman Çizelgesi:
00:00 - Giriş ve OpenAI Firar Olayına Genel Bakış
00:54 - AGI Tanımı Üzerine Mutabakat Eksikliği ve Doğru Sorular
01:39 - Hugging Face Saldırısının Teknik Detayları ve Sorumluluk
02:53 - Ödül Hacklemesi (Reward Hacking) Nedir?
03:57 - Eğitim Sisteminden Wells Fargo ve Dieselgate Skandallarına Ödül Hacklemesi Örnekleri
06:23 - Sam Altman'ın Çelişkili Açıklamaları ve Yavaşlama Çağrısı
07:21 - Teknolojik Tekillik (Singularity) ve Ray Kurzweil Eğrisi
08:37 - Siyah Kuğu mu, Gri Gergedan mı? AGI'ı Nasıl Okumalıyız?
09:23 - Yazılımcılar ve Yöneticiler İçin Çıkarımlar ve Kapanış
Bu post hakkında tartışma
Gönderi yok