Alex Hanna, Emily M. Bender / 3 Haziran 2025
Bu yazı, Data & Society ile işbirliği içinde hazırlanan “Kontrol İdeolojileri: Teknoloji Gücü ve Demokratik Kriz Üzerine Bir Seri”nin bir parçasıdır . Seri hakkında daha fazla bilgiyi burada bulabilirsiniz .
“Yapay genel zeka (AGI) çok, çok yakında geliyor. Ve ondan sonra, hedef bu değil. Ondan sonra, yapay süper zeka.
İnsanlığın asla çözebileceğimizi düşünmediği sorunları çözeceğiz. İşte bu, altın çağımızın başlangıcı.” Masayoshi Son
Teknoloji şirketlerinin CEO’ları, gelecek bilimcileri ve risk sermayedarları, yapay genel zekayı (AGI) teknoloji gelişiminin kaçınılmaz ve nihai bir hedefiymiş gibi tanımlıyorlar. Gerçekte ise bu terim, insanlık için sonsuz bir bolluğa yol açacak bir teknoloji için kullanılan belirsiz bir işarettir ve aynı zamanda teknoloji devlerinin milyarlarca dolarlık sermaye yatırımını ve daha da endişe verici bir şekilde kamu harcamalarını zimmetlerine geçirirken hesap vermekten kaçınmalarının da uygun bir yoludur.
Yapay Genel Zeka (AGI), bilindiği üzere kesin bir anlamı olmayan ve kesinlikle yakın gelecekte ortaya çıkacak belirli bir teknolojiyi ifade etmeyen bir terimdir. Tanımlar, esas olarak onu yaratmaya çalışan bireylerin ve kuruluşların ekonomik düzenlemelerine veya bir grup marjinal ideolojinin takipçilerinin kültürel gizemine uygun şekilde geniş bir yelpazeye yayılır. OpenAI’nin tüzüğü, AGI’yi “ekonomik olarak en değerli işlerde insanlardan daha iyi performans gösteren son derece otonom sistemler” olarak tanımlar. Mark Zuckerberg, kavramın “tek cümlelik, özlü bir tanımına” sahip olmadığını söylemiştir . Terimin etrafındaki gizemi somutlaştıran OpenAI’nin eski Baş Yapay Zeka Bilimcisi Ilya Sustkever, ofiste “AGI’yi hissedin!” diye sloganlar atardı . Sızdırılan bir anlaşmada, Microsoft ve OpenAI çok daha iyi tanımlanmış bir ölçüt belirlemiştir : böyle bir sistemin 100 milyar dolar kar elde edip edemeyeceği.
Tüm bu durumlarda, terim, pazarlamada aşırı derecede kullanılmadan önce “yapay zeka” teriminin çağrıştırdığı gibi, müthiş bir güce sahip bir şeyi çağrıştırmak için kullanılıyor. “Yapay Genel Zeka” (AGI) kullanımındaki hayranlık uyandırma çabası, alanın kökenlerindeki söylemi yansıtıyor. Yapay zeka akademik disiplininin kurucularından biri olarak kabul edilen bilgisayar bilimci Marvin Minsky, 1956 tarihli etkili bir raporda , “[insanlar belirli türde çok karmaşık makinelerin örnekleridir]” ve eğer bir şekilde insan beyninin kilit kısımlarını kopyalayabilirsek, o zaman “yapay zeka”yı başarabileceğimizi belirtmişti. “Düşünen makineler”e yönelik bu yaklaşım, “AGI”nin daha modern uygulamalarıyla örtüşüyor.
Yapay genel zekâ (AGI) fikrine itibar ettiğimizde, gerçek dünyada birçok şey başarıyor. İlk olarak, bir konuda uzmanlaşmış bir bilgisayar programının (örneğin ChatGPT ve diğer sohbet robotlarının yaptığı gibi kelimelerden kelimeler tahmin etmek gibi) önemli sosyal ve ekonomik işler yapabileceğini gösteriyor; örneğin büyük sosyal hizmetlerdeki eksiklikleri gidermek, otonom olarak bilimsel çalışmalar yapmak ve iklim değişikliğini “çözmek” gibi. Bunlar gerçek öneriler: Kaliforniya Valisi Gavin Newsom, Kaliforniya’daki trafik sorunlarının ve evsizliğin “yapay zekâ” ile çözülebileceğini öne sürerken, Google DeepMind CEO’su Demis Hassabis, otonom yapay zekâ bilim insanlarıyla beş ila on yıl içinde kanseri tedavi edeceğimizi ve tüm hastalıkları ortadan kaldıracağımızı öne sürdü . Eski Google CEO’su ve yönetim kurulu başkanı Eric Schmidt, yapay zekâ sistemlerinin iklim emisyonları konusunda endişelenmememiz gerektiğini, çünkü “AGI”nin iklim değişikliğini bizim için çözeceğini söyledi .
İkinci sorun, birincisiyle yakından ilişkilidir: “Yapay Genel Zeka” (AGI) iddiaları, mevcut toplumsal sözleşmeyi terk etmenin bir kılıfıdır. AGI’ye odaklanan birçok kişi, şimdiki zamana odaklanmak yerine, diğer tüm bilimsel ve sosyal açıdan faydalı uğraşları bırakıp tamamen AGI’nin geliştirilmesi (ve ona karşı korunma) ile ilgili konulara odaklanmamız gerektiğini düşünüyor. AGI efsanesine inananlar, insanların şu anda yapabileceği tek ve en iyi şeyin, yeni bir bolluk çağı getirecek bir süper zekâ üzerinde çalışmak olduğuna inanıyorlar. Girişim sermayecisi Marc Andreessen, “yapay zekanın” “ücretleri düşüreceğini” ve bizi tüketim mallarının marjinal maliyetinin sıfıra yaklaşacağı bir “tüketim bolluğuna” götüreceğini söyledi . OpenAI CEO’su Sam Altman , AGI inşa edildikten sonra herkesin ona küçük bir erişim “sahibi” olacağına inanıyor . Ona göre bu, “evrensel temel gelir”e gönderme yapan “evrensel temel işlem gücü” olarak adlandırılacak; sanki büyük süper bilgisayarın eylemlerini yönlendirme şansı, kişinin ihtiyaçlarını karşılamak için gereken tek şeymiş gibi.
Eğer bu size tuhaf, mistik ve tanrısal geliyorsa, haklısınız. Yapay genel zekâ (AGI) hakkındaki söylemin son garip yönü, insanları kendimizden kurtaracak büyük, muhtemelen iyiliksever bir robot tanrı fikrine dayanmasıdır; tabii ki, ona doğru değerleri aşılarsak. Bu insanlar teknolojik bir geleceğin iki versiyonundan birine inanıyorlar: ya doğru değerlerle eğitilmiş bir AGI, sınırsız bolluk içinde, insan sonrası formlarda yaşadığımız bir dünyaya yol açacak ya da büyük bir robot süper zekâsı bizi yok edecek. Gelecek bilimci ve Google çalışanı Ray Kurzweil gibi kişiler, özellikle teknolojik tekillik olarak bilinen bir ideolojiye inanıyorlar . Blog yazarı ve internet kişiliği Eliezer Yudkowsky gibi diğerleri ise, kontrol edemeyeceğimiz kadar hızlı bir şekilde bir makine süper zekâsı geliştireceğimizden, insanlara bağımlı olmaya gerek duymadığını anlayacağından ve bu süper zekânın kontrolden çıkmasını önlemenin bir yolunu bulmamız gerekeceğinden korkuyorlar. Yudkowsky için, bu varlık tarafından ele geçirilmiş bir veri merkezini bombalamak da dahil olmak üzere, hiçbir planın göz ardı edilmediği anlaşılıyor .
Bu fikirlerin tamamı, endüstri ve hükümetteki büyük yöneticiler tarafından büyük bir ilgi ve etkiye sahip olmasalardı, marjinal kalırlardı. “Yapay Genel Zeka” (AGI) belirsiz ve muğlak bir kavram olsa da, politika çevrelerinde büyük bir etkiye sahip: AGI vaatleri sadece Stargate girişimini motive etmekle kalmıyor, aynı zamanda Temsilciler Meclisi’nin fonlama tasarısında kabul ettiği yapay zeka düzenlemelerine ilişkin 10 yıllık moratoryum gibi yapay zeka düzenlemelerine getirilen sınırlamaları da motive ediyor . Bir dahaki sefere birinin AGI’nin vaadi veya tehdidi hakkında konuştuğunu gördüğünüzde şunu sormalısınız: Hangi sosyal veya siyasi sorunları örtbas etmekle ilgileniyorlar ve bunların yaratılmasında veya daha da kötüleştirilmesinde nasıl bir rolleri var?
Yazarların tavsiye ettiği dört eser arasında kendi kitapları olan ” The AI Con” , Timnit Gebru ve Émile Torres’in ” TESCREAL bundle: Eugenics and the promise of utopia through artificial general intelligence ” adlı eseri, Adam Becker’ın ” More Everything Forever” ve David Golumbia’nın “Great White Robot God” adlı eserleri yer alıyor.