Makinelerin insanlar kadar zeki olacağı veya insanlardan daha zeki olacağı fikri,
koca bir sektörü ele geçirdi. Ancak yakından bakarsanız, komplo teorilerinin varlığını sürdürmesinin birçok aynı nedeni yüzünden bunun bir efsane olduğunu göreceksiniz.
Will Douglas Heaven / 30 Ekim 2025
Bunu hissediyor musun?
Duyduğuma göre çok yakınmış: iki yıl, beş yıl—belki de gelecek yıl! Ve duyduğuma göre her şeyi değiştirecekmiş: hastalıkları iyileştirecek, gezegeni kurtaracak ve bolluk çağını başlatacakmış. Henüz hayal bile edemediğimiz şekillerde en büyük sorunlarımızı çözecekmiş. İnsan olmanın ne anlama geldiğini yeniden tanımlayacakmış.
Durun bir dakika—ya bu çok güzel bir şeyse ve gerçek olamayacak kadar iyiyse? Çünkü duyduğuma göre kıyameti getirecek ve hepimizi öldürecekmiş…
Her iki durumda da ve zaman çizelgeniz ne olursa olsun, büyük bir şey olmak üzere.
İkinci Geliş’ten bahsediyor olabilirdik. Ya da Cennet Kapısı sakinlerinin bir UFO tarafından alınıp aydınlanmış uzaylılara dönüştürüleceklerini hayal ettikleri günden. Ya da Donald Trump’ın nihayet Q’nun vaat ettiği fırtınayı gerçekleştirmeye karar verdiği andan . Ama hayır. Elbette yapay genel zeka’dan, yani AGI’den bahsediyoruz; (duyduğuma göre) insan beyninin yapabileceği hemen hemen her şeyi yapabilecek olan, yakın gelecekteki varsayımsal bir teknolojiden.
Bu öykü , MIT Technology Review’ın ” Yeni Komplo Çağı ” serisinin bir parçası olup , komplo teorilerindeki mevcut patlamanın bilim ve teknolojiyi nasıl yeniden şekillendirdiğini ele almaktadır.
Birçok kişi için yapay genel zeka (AGI) sadece bir teknolojiden daha fazlası. Silikon Vadisi gibi teknoloji merkezlerinde, mistik terimlerle bahsediliyor. OpenAI’nin kurucu ortağı ve eski baş bilim insanı Ilya Sutskever’in, ekip toplantılarında “AGI’yi hissedin!” diye bağırdığı söyleniyor. Ve o bunu herkesten daha fazla hissediyor: 2024 yılında, misyonu AGI’nin tüm insanlığa fayda sağlamasını sağlamak olan OpenAI’den ayrılıp, sözde kontrolden çıkmış bir AGI’den nasıl kaçınılacağını (veya ortaya çıktığında nasıl kontrol edileceğini) bulmaya adanmış bir girişim olan Safe Superintelligence’ı kurdu. Süper zeka, AGI’den bahsetmenin yaygınlaşmasıyla ortaya çıkan yeni ve popüler bir kavram ; AGI’nin daha iyisi!
Sutskever, kendini yapay genel zeka savunucusu ilan eden birçok kişinin sergilediği karmaşık motivasyonların da bir örneğini teşkil ediyor. Kariyerini, şimdi korkutucu bulduğu geleceğin teknolojisinin temellerini atmaya adadı. OpenAI’den ayrılmadan birkaç ay önce bana, “Bu muazzam, dünyayı sarsacak bir şey olacak; bir öncesi ve bir sonrası olacak” demişti . Ona neden çabalarını bu teknolojiyi kontrol altına almaya yönlendirdiğini sorduğumda ise, “Bunu kendi çıkarım için yapıyorum. Herhangi birinin inşa ettiği süper zekanın kontrolden çıkmaması elbette çok önemli. Açıkçası.” diye yanıtladı.
Bu abartılı, hatta kıyametvari düşünce tarzında yalnız değil.
Her çağın inananları vardır; büyük bir şeyin gerçekleşmek üzere olduğuna, öncesi ve sonrası olduğuna dair sarsılmaz bir inanca sahip insanlar; bu dönemi yaşama ayrıcalığına (ya da mahkumiyetine) sahiplerdir.
Bizim için bu, yapay genel zekanın (AGI) vaat edilen gelişi. Edinburgh Üniversitesi’nde teknoloji etiği üzerine çalışan Shannon Vallor, “İnsanlar bunun veya şunun bir sonraki büyük şey olduğunu duymaya alışkınlar” diyor. “Eskiden bilgisayar çağıydı, sonra internet çağıydı ve şimdi de yapay zeka çağı” diye ekliyor. “Size bir şey sunulup bunun geleceğin teknolojisi olduğu söylenmesi normal. Tabii ki farklı olan şey, bilgisayarlar ve internetin aksine, yapay genel zekanın henüz var olmaması.”
İşte bu yüzden yapay genel zekayı hissetmek, bir sonraki büyük buluşu desteklemekle aynı şey değil. Daha tuhaf bir şeyler oluyor. Benim düşüncem şu: Yapay genel zeka bir komplo teorisine çok benziyor ve çağımızın en önemli komplo teorisi olabilir.
On yılı aşkın süredir yapay zekâ üzerine haber yapıyorum ve yapay genel zeka (AGI) fikrinin, bir zamanlar gerçekleşmesi imkansız bir hayalken, şimdi dünyanın en değerli şirketlerinin ve dolayısıyla ABD borsasının kar marjlarını destekliyor. Bu hayalin gerçekleşmesi için gerekli olduğu söylenen yeni enerji santralleri ve veri merkezleri için yapılan baş döndürücü ön ödemeleri haklı çıkarıyor. Bu varsayımsal teknolojiye odaklanan yapay zekâ firmaları, bize bunu yoğun bir şekilde pazarlıyor.
Bazı şirketlerin yöneticilerinin bize söylediklerine bir kulak verin. Yapay genel zeka (AGI), “dahilerden oluşan bir ülke” kadar zeki olacak (Anthropic CEO’su Dario Amodei); “insanlığın en üst düzeyde geliştiği, yıldızlara yolculuk ettiğimiz ve galaksiyi kolonileştirdiğimiz bir çağı” başlatacak (Google DeepMind CEO’su Demis Hassabis); “bolluğu ve refahı büyük ölçüde artıracak”, hatta insanları hayattan daha çok zevk almaya ve daha çok çocuk sahibi olmaya teşvik edecek (OpenAI CEO’su Sam Altman). Bu gerçekten de harika bir ürün.
Ya da değil. Elbette diğer yüzünü de unutmayalım. Bu insanlar ütopya için propaganda yapmadıkları zaman, bizi cehennemden kurtarıyorlar. 2023’te Amodei, Hassabis ve Altman, 22 kelimelik bir bildiriye imza attılar : “Yapay zekanın yol açabileceği yok olma riskini azaltmak, salgın hastalıklar ve nükleer savaş gibi diğer toplumsal risklerle birlikte küresel bir öncelik olmalıdır.” Elon Musk, yapay zekanın insanları yok etme olasılığının %20 olduğunu söylüyor .
Yapay zekâ araştırmacılarını alanları hakkında anket yapan bir kuruluş olan AI Impacts’in baş araştırmacısı Katja Grace, “Son zamanlarda, kamuoyunda ciddiye alınmak istiyorsanız kesinlikle bahsetmemeniz gereken bir kavram olduğunu düşündüğüm süper zekanın, görünüşe göre bunu inşa etmeyi planlayan teknoloji CEO’ları tarafından sıkça kullanıldığını fark ettim,” diyor. “Bunun sorun olmadığını düşünmek kolay. Ayrıca bunun bizi öldüreceğini söylüyorlar, ama bunu söylerken gülüyorlar.”
Kabul etmelisiniz ki, bunların hepsi biraz komplo teorisi gibi geliyor. Bir komplo teorisi kuruyorsanız, birkaç şeye ihtiyacınız var: işler planlandığı gibi gitmediğinde bile inancı sürdürebilecek kadar esnek bir düzen; inananların gizli gerçekleri ortaya çıkarmasıyla gerçekleşebilecek daha iyi bir gelecek vaadi; ve bu dünyanın dehşetlerinden kurtuluş umudu.
Yapay genel zeka (AGI) neredeyse tüm bu kriterleri karşılıyor. Bu fikri ne kadar çok kurcalarsanız, o kadar çok komplo teorisi gibi görünmeye başlıyor. Elbette ki tam olarak öyle değil. Ve bu paralelliği, bu alanda çalışan birçok insanın, özellikle de AGI’ye inananların elde ettiği çok gerçek, çoğu zaman hayret verici sonuçları küçümsemek için kurmuyorum.
Ancak yapay genel zekanın gerçek komplo teorileriyle ortak noktalarına odaklanarak, tüm kavramı daha iyi bir şekilde ele alıp gerçekte ne olduğunu ortaya çıkarabiliriz: bazı derin köklü inançlara yerleşmiş ve kurtulması zor hale gelmiş, teknolojik bir ütopik (ya da teknolojik distopik – hangisini tercih ederseniz) ateşli rüya.
Bu sadece kışkırtıcı bir düşünce deneyi değil. Yapay genel zekâ (AGI) hakkında bize anlatılanları sorgulamak önemli çünkü bu fikre inanmak zararsız değil. Şu anda AGI, teknoloji dünyasında ve bir ölçüde küresel ekonomide en önemli anlatı. AGI fikrinin nereden geldiğini, neden bu kadar ilgi çekici olduğunu ve teknolojiyi genel olarak nasıl düşündüğümüzü nasıl şekillendirdiğini anlamadan yapay zekâda neler olup bittiğini anlayamayız.
Anlıyorum, anlıyorum—yapay genel zekayı bir komplo olarak adlandırmak mükemmel bir benzetme değil. Ayrıca birçok insanı da kızdıracak. Ama gelin, bu tavşan yuvasından birlikte inelim ve size ışığı göstereyim.
Silikon Vadisi yapay genel zekaya nasıl kapıldı?
Kulağa hoş geliyordu.
Tipik bir komplo teorisi genellikle uç noktalarda başlar. Belki de sadece birkaç kişi bir mesaj panosunda “kanıt” topluyordur. Belki de çölde dürbünle gökyüzünde parlak ışıklar görmeyi bekleyen birkaç kişidir. Ancak bazı komplo teorileri, tabiri caizse, şanslıdır: Daha geniş çapta yayılmaya başlarlar; biraz daha kabul edilebilir hale gelirler; iktidardaki insanları etkilemeye başlarlar. Belki de artık hükümet oturumlarında resmen ve açıkça tartışılan UFO’lar (özür dilerim, “tanımlanamayan hava olayları”)dır. Belki de resmi politika haline gelen aşı şüpheciliğidir (evet, çok daha tehlikeli bir örnek). Ve yapay genel zekanın, daha açıkça komplo teorisi içeren kardeşleriyle oldukça benzer bir yörünge izlediğini görmezden gelmek imkansızdır.
2007 yılına geri dönelim; o zamanlar yapay zeka ne çekiciydi ne de havalıydı . Amazon ve Netflix (ki o zamanlar hala posta yoluyla DVD gönderiyordu) gibi şirketler, müşterilerine film ve kitap önermek için makine öğrenimi modelleri, yani günümüzün devasa yapay zeka makinelerinin prototiplerini kullanıyordu. Ama hepsi bu kadardı.
Ben Goertzel’in çok daha büyük planları vardı. Yaklaşık on yıl önce, yapay zeka araştırmacısı, erken internet ortamında bir tür dijital bebek beyni olarak düşündüğü şeyi eğitmek için Webmind adında bir dot-com girişimi kurmuştu. Çocuksuz kalan Webmind kısa süre sonra iflas etti.
Ancak Goertzel, insan benzeri yapay zekâ, yani insanların yapabildiği birçok şeyi (ve daha iyisini) yapabilen çok amaçlı bir bilgisayar programı inşa etmeyi yıllardır hayal eden, marjinal bir araştırmacı topluluğunda etkili bir isimdi. Bu vizyon, Netflix’in denediği teknoloji türünün çok ötesine geçiyordu.
Goertzel bu vizyonu tanıtan bir kitap yayınlamak istiyordu ve o dönemdeki sıradan yapay zekâdan farklı kılacak bir isme ihtiyacı vardı. Webmind’in eski bir çalışanı olan Shane Legg, Yapay Genel Zeka (Artificial General Intelligence) ismini önerdi . Kulağa hoş geliyordu.
Birkaç yıl sonra Legg, Demis Hassabis ve Mustafa Süleyman ile DeepMind’ı kurdu. Ancak o dönemdeki çoğu ciddi araştırmacı için, yapay zekanın bir gün insan yeteneklerini taklit edeceği iddiası biraz şaka gibiydi. Sutskever bana, “Yapay genel zeka (AGI) eskiden kötü bir kelimeydi” dedi . Google Brain’in kurucusu ve Çinli teknoloji devi Baidu’nun eski baş bilim insanı Andrew Ng, bunun çılgınca olduğunu düşündüğünü söyledi .
Peki ne oldu? Geçen ay Goertzel ile görüştüm ve uçuk bir fikrin nasıl çılgınca olmaktan çıkıp yaygın hale geldiğini sordum. “Ben karmaşık kaotik sistemlerle ilgilenen biriyim, bu yüzden memosferdeki doğrusal olmayan dinamiklerin gerçekte ne olduğunu bildiğimi pek sanmıyorum,” dedi. (Çeviri: Çok karmaşık.)
Goertzel, bu fikrin yaygınlaşmasında birkaç etkenin etkili olduğunu düşünüyor. Bunlardan ilki, kitabının yayınlanmasından bir yıl sonra, 2008’de kurulmasına yardımcı olduğu, araştırmacıların yıllık bir toplantısı olan Yapay Genel Zeka Konferansı’dır. Konferans, genellikle Yapay Zeka Geliştirme Derneği konferansı ve Uluslararası Yapay Zeka Ortak Konferansı gibi önde gelen akademik toplantılarla eş zamanlı olarak düzenleniyordu. Goertzel, “Eğer sadece ‘ AGI’ adında bir kitap yayınlasaydım , muhtemelen gelip geçerdi,” diyor. “Ancak konferans her yıl düzenleniyor ve giderek daha fazla öğrenci katılıyordu.”
Sırada, bu terimi DeepMind’a da taşıyan Legg var. Goertzel, “Bence yapay genel zekâdan bahseden ilk ana akım kurumsal kuruluş onlardı,” diyor. “Üzerinde durdukları asıl konu bu değildi, ama Shane ve Demis zaman zaman bundan bahsediyorlardı. Bu kesinlikle bir meşruiyet kaynağıydı.”
Beş yıl önce Legg ile yapay genel zeka (AGI) hakkında ilk konuştuğumda şöyle demişti: “2000’lerin başlarında AGI hakkında konuşmak sizi uç noktalara itiyordu… 2010’da DeepMind’ı kurduğumuzda bile konferanslarda inanılmaz derecede göz devirmeyle karşılaştık.” Ancak 2020’ye gelindiğinde rüzgar yön değiştirmişti. Bana, “Bazı insanlar bundan rahatsız, ama soğuktan içeri giriyor,” dedi.
Goertzel’in işaret ettiği üçüncü nokta, erken dönem yapay genel zeka (AGI) savunucuları ile büyük teknoloji şirketlerinin güçlü isimleri arasındaki örtüşmedir. Webmind’i kapatmak ve AGI kitabını yayınlamak arasındaki yıllarda Goertzel, Peter Thiel’in hedge fonu Clarium Capital’de onunla birlikte çalıştı. Goertzel, “Çok konuştuk,” diyor. San Francisco’daki Four Seasons’da Thiel ile bir gün geçirdiğini hatırlıyor. Goertzel, “Ona AGI’yi anlatmaya çalışıyordum,” diyor. “Ama aynı zamanda Eliezer’den AGI’nin herkesi öldüreceğini de duyuyordu.”
Felaket tellalları sahneye giriyor.
Bu da Eliezer Yudkowsky, yapay genel zekâ fikrini desteklemek için Goertzel kadar, hatta belki de daha fazla çaba sarf etmiş etkili bir isim. Ancak Goertzel’in aksine, Yudkowsky yapay genel zekânın gelişiminin bir felaket olma ihtimalinin çok yüksek olduğunu düşünüyor; hatta %99,5 gibi bir rakam ortaya atıyor.
2000 yılında Yudkowsky, yapay zekâ için Singularity Enstitüsü (daha sonra Makine Zekâsı Araştırma Enstitüsü olarak yeniden adlandırıldı) adlı kar amacı gütmeyen bir araştırma kuruluşunun kurucu ortağı oldu ve bu kuruluş oldukça hızlı bir şekilde felaket senaryolarını önlemeye kendini adadı. Thiel, kuruluşun ilk destekçilerinden biriydi.
Başlangıçta Yudkowsky’nin fikirleri pek ilgi görmedi. O zamanlar her şeye gücü yeten bir yapay zekâ fikri -hele ki tehlikeli bir yapay zekâ- tamamen bilim kurguydu. Ancak 2014’te Oxford Üniversitesi’nde felsefeci olan Nick Bostrom, Süper Zekâ adlı bir kitap yayınladı .
Goertzel, “Bu kitap yapay genel zeka (AGI) konusunu gündeme getirdi,” diyor. “Yani, Bill Gates, Elon Musk gibi birçok teknoloji endüstrisi yapay zeka uzmanı bu kitabı okudu ve Nick, Eliezer’in karamsar bakış açısına katılıp katılmamalarına bakılmaksızın, Eliezer’in kavramlarını çok kabul edilebilir bir şekilde özetledi.”
Goertzel, “Bütün bunlar yapay genel zekaya kabul edilebilirlik damgası vurdu,” diye ekliyor. “Böylece, vahşi doğada bağıran aykırıların tamamen saçma sapan fikirleri olmaktan çıktı.”
Yudkowsky 25 yıldır aynı şeyi tekrarlıyor; günümüzün önde gelen yapay zeka şirketlerindeki birçok mühendis, özellikle teknoloji endüstrisinin ateşli rasyonalist ve etkili fedakâr topluluğunun popüler bir merkezi olan LessWrong’da, onun görüşlerini okuyarak ve tartışarak büyüdü .
Bugün bu görüşler her zamankinden daha popüler ve Montreal Üniversitesi’nde araştırmacı olan ve daha önce İngiltere’deki Yapay Zeka Güvenlik Enstitüsü’nde araştırma direktörü olarak görev yapmış David Krueger gibi genç bir kıyamet tellalı kuşağının hayal gücünü cezbediyor. Krueger bana, “Bence kesinlikle herkesi öldürecek insanüstü yapay zeka sistemleri kurma yolundayız,” diyor. “Ve bence bu korkunç ve derhal durdurmalıyız.”
Yudkowsky , New York Times gibi yayın organlarında “Silikon Vadisi’nin kıyamet vaizi” olarak nitelendirilerek yer alıyor. Makine Zekası Araştırma Enstitüsü başkanı Nate Soares ile birlikte yazdığı yeni kitabı ” Eğer Biri İnşa Ederse, Herkes Ölür ” , az kanıtla desteklenen çılgın iddialar ortaya koyuyor: Eğer geliştirme çalışmalarına son vermezsek, yakın gelecekte yapay genel zeka (AGI) küresel bir kıyamete yol açacak. İkilinin görüşü aşırı: Uluslararası bir yasağın her ne pahasına olursa olsun, hatta nükleer misillemeye kadar varacak şekilde uygulanması gerektiğini savunuyorlar. Sonuçta, Yudkowsky ve Soares’in yazdığı gibi, “veri merkezleri nükleer silahlardan daha fazla insanı öldürebilir.”
Bu konu artık niş bir alan değil. Kitap, New York Times’ın çok satanlar listesinde yer alıyor ve eski ABD İç Güvenlik Bakanlığı yetkilisi Suzanne Spaulding ve şu anda İngiliz hükümetine danışmanlık yapan eski Beyaz Saray Ulusal Güvenlik Konseyi kıdemli direktörü Fiona Hill gibi ulusal güvenlik uzmanlarından; Max Tegmark ve George Church gibi ünlü bilim insanlarından; ve Stephen Fry, Mark Ruffalo ve Grimes gibi tanınmış isimlerden övgüler alıyor. Yudkowsky artık sesini duyurabileceği bir platforma sahip.
Yine de, bazı kulaklarda duyulan o ilk sessiz sözler en önemli sonuçları doğurabilir. Yudkowsky’nin Thiel’i DeepMind’ın kurucularıyla tanıştırdığı ve Thiel’in de şirketin ilk büyük yatırımcılarından biri olduğu söyleniyor. Google ile birleşmesinin ardından, DeepMind artık teknoloji devi Alphabet’in bünyesindeki yapay zeka laboratuvarı konumunda.
Musk’ın yanı sıra Thiel de 2015 yılında OpenAI’nin kurulmasında önemli rol oynadı ve yapay genel zekayı (AGI) inşa etme ve onu güvenli hale getirme gibi tek bir hedef üzerine kurulu bir girişime milyonlarca dolar yatırım yaptı. 2023’te OpenAI CEO’su Sam Altman, X’te şunları yazdı : “Bence Eliezer, AGI’yi hızlandırmak için herkesten daha fazlasını yaptı. Kesinlikle birçoğumuzu AGI’ye ilgi duymaya teşvik etti.” Altman, Yudkowsky’nin bunun için bir gün Nobel Barış Ödülü’nü hak edebileceğini de ekledi. Ancak bu noktada, Thiel’in “yapay zeka güvenliği savunucularından” ve kazandıkları güçten endişe duymaya başladığı anlaşılıyor. 2023’ün sonlarında bir akşam yemeğinde Altman’a, “Eliezer’in şirketinizdeki insanların yarısını bu şeylere inanmaya nasıl programladığını anlamıyorsunuz,” dediği bildiriliyor. ” Bunu daha ciddiye almanız gerekiyor.” Wall Street Journal muhabiri Keach Hagey’e göre Altman “gözlerini devirmemeye çalıştı” .
OpenAI, yarım trilyon dolarlık değeriyle şu anda dünyanın en değerli özel şirketi konumunda.
Ve dönüşüm tamamlandı: En güçlü komplo teorilerinin tümü gibi, yapay genel zeka da ana akıma sızdı ve yerleşti.
Büyük Yapay Genel Zeka Komplosu
“Yapay Genel Zeka” (AGI) terimi 20 yıldan daha kısa bir süre önce popülerleşmiş olabilir, ancak ardındaki efsane yaratma süreci bilgisayar çağının başlangıcından beri var; küstahlık ve pazarlamanın kozmik bir arka planı gibi.
Alan Turing, ilk elektronik bilgisayar olan ENIAC’ın 1945’te inşa edilmesinden sadece beş yıl sonra makinelerin düşünebilip düşünemeyeceğini sormuştu. Ve işte Turing’in biraz sonra, 1951’deki bir radyo yayınında söyledikleri: “Makine düşünme yöntemi bir kez başladıktan sonra, zayıf yeteneklerimizi geride bırakmasının uzun sürmeyeceği muhtemel görünüyor. Makinelerin ölmesi söz konusu olmayacak ve zekalarını keskinleştirmek için birbirleriyle konuşabilecekler. Bu nedenle, bir aşamada makinelerin kontrolü ele geçirmesini beklememiz gerekecek.”
Ardından, 1955’te bilgisayar bilimcisi John McCarthy ve meslektaşları, kaderlerini değiştirecek şekilde “yapay zekâ” adını verdikleri bir şey yaratmak için ABD hükümetinden fon talep ettiler; o zamanlar bilgisayarlar bir oda büyüklüğünde ve bir termostat kadar aptaldı, bu da oldukça zekice bir isim seçimiydi. Yine de, McCarthy’nin fon başvurusunda yazdığı gibi: “Makinelerin dil kullanmasını, soyutlamalar ve kavramlar oluşturmasını, şu anda insanlara özgü olan türden sorunları çözmesini ve kendilerini geliştirmesini sağlamanın yollarını bulmaya çalışılacaktır.”
Yapay genel zekâ komplosunun kökeninde bu efsane yatıyor. Her şeyi yapabilen, insandan daha zeki bir makine bir teknoloji değil. Gerçeklikten kopuk bir hayal. Bunu anladığınızda, komplo teorisi düşüncesiyle olan diğer paralellikler de hemen göze çarpıyor.
Yapay genel zeka gibi şekil değiştiren bir fikri çürütmek imkansız.
Yapay genel zeka (AGI) hakkında konuşmak bazen, zihninizi hangi uyuşturucuların (veya gökyüzündeki parçacıkların) kontrol ettiğine dair hevesli bir Reddit kullanıcısıyla tartışmaya benziyor. Her noktanın, sizin doğru kabul ettiğiniz şey hakkındaki algınızı zayıflatmaya çalışan bir karşı noktası var. Sonuçta, bu kanıta dayalı akıl yürütme değil, dünya görüşlerinin çatışmasıdır. AGI de böyledir; kaygan bir konudur.
Sorunun bir kısmı, tüm paraya, tüm konuşmalara rağmen kimsenin onu nasıl inşa edeceğini bilmemesidir. Dahası: Çoğu insan yapay genel zekanın (AGI) gerçekte ne olduğu konusunda bile hemfikir değil ; bu da insanların bize hem dünyayı kurtarabileceğini hem de yok edebileceğini söylemelerinin nasıl mümkün olduğunu açıklıyor. Çoğu tanımın özünde, geniş bir yelpazedeki bilişsel görevlerde insanlarla eşleşebilen bir makine fikri bulunur. (Ve unutmayın, süper zeka, AGI’nin parlak yeni yükseltmesidir: bizi geride bırakabilen bir makine .) Ama bunu bile parçalara ayırmak kolaydır: Hangi insanlardan bahsediyoruz? Ne tür bir bilişsel görev? Ve ne kadar geniş bir yelpaze?
“Bunun gerçek bir tanımı yok,” diyor yapay zeka sağlık girişimi Lirio’nun baş yapay zeka bilimcisi ve Oak Ridge Ulusal Laboratuvarı’nda bilgisayar bilimi ve matematik bölümünün eski başkanı Christopher Symons. “‘İnsan zekası seviyesinde’ derseniz, bu sonsuz sayıda şey olabilir; herkesin zeka seviyesi biraz farklıdır.”
Symons’a göre, bu yüzden tuhaf bir yarış içindeyiz… Peki tam olarak neyi inşa etmeye çalışıyoruz? “Bunun ne yapmasını sağlamaya çalışıyorsunuz?”
2023 yılında, Legg’in de aralarında bulunduğu Google DeepMind’deki bir araştırma ekibi, insanların yapay genel zeka (AGI) için önerdiği çeşitli tanımları sınıflandırmaya çalıştı . Bazıları bir makinenin öğrenme yeteneğine sahip olması gerektiğini söylerken; bazıları para kazanabilmesi gerektiğini; bazıları ise bir bedene sahip olması ve dünyada hareket edebilmesi (ve belki de kahve yapabilmesi) gerektiğini söyledi.
Legg bana, Goertzel’e kitabının başlığı için bu terimi önerdiğinde, belirsizliğin bir bakıma amaç olduğunu söyledi. “Özellikle net bir tanımım yoktu. Gerçekten gerekli olduğunu düşünmedim,” demişti o zaman. “Aslında bunu bir eserden ziyade bir çalışma alanı olarak düşünüyordum.”
Yani, sanırım onu gördüğümüzde anlayacağız? Sorun şu ki, bazı insanlar onu zaten gördüklerini düşünüyor.
2023’te, Microsoft’tan bir araştırma ekibi, OpenAI’nin büyük dil modeli GPT-4’ün ön sürümüyle ilgili deneyimlerini anlatan bir makale yayınladı. Buna ” Yapay Genel Zekanın Kıvılcımları ” adını verdiler ve bu makale sektörde kutuplaşmaya yol açtı .
Bu, birçok araştırmacının hayrete düştüğü ve gördüklerini anlamaya çalıştığı bir andı. Goertzel, “İşler beklediklerinden çok daha iyi gidiyordu,” diyor. “Yapay genel zeka kavramı gerçekten daha akla yatkın görünmeye başladı.”
Yine de, LLM’lerin tüm dikkat çekici kelime oyunlarına rağmen, Goertzel bunların aslında yapay genel zekanın (AGI) kıvılcımlarını içerdiğini düşünmüyor. “Bu araçların arka planda nasıl çalıştığına dair derin teknik anlayışa sahip bazı kişilerin hala bunların insan seviyesinde AGI’ye dönüşebileceğini düşünmesi beni biraz şaşırtıyor,” diyor. “Öte yandan, bunun doğru olmadığını da kanıtlayamazsınız.”
Ve işte sonuç: Bunun doğru olmadığını kanıtlayamazsınız . Edinburgh Üniversitesi’nden Vallor, “Yapay genel zekanın (YGI) geleceği, çok yakında olacağı ve kaçınılmaz olduğu fikri, gerçeklikten birçok sapmaya izin verdi,” diyor. “Ama bunun için gerçekten hiçbir kanıtımız yok.”
Komplo teorileri yeniden ortaya çıkıyor. Yapay genel zekanın ne zaman geleceğine dair tahminler, kıyameti sayan numerologların hassasiyetiyle yapılıyor. Ortada gerçek bir risk olmadığı için, son tarihler omuz silkilerek gelip geçiyor. Bahaneler üretiliyor ve zaman çizelgeleri tekrar tekrar ayarlanıyor.
Bunu, OpenAI’nin bu yaz büyük yankı uyandıran GPT-5’i piyasaya sürdüğünde gördük. Yapay zeka hayranları, şirketin amiral gemisi teknolojisinin yeni sürümünün bekledikleri çığır açıcı değişim olmamasından hayal kırıklığına uğradılar. Ancak bunu, yapay genel zekanın (AGI) ulaşılamaz olduğuna dair bir kanıt olarak görmek yerine –ya da en azından bir LLM ile ulaşılamaz olduğuna dair– inananlar, AGI’nin ne kadar sürede geleceğine dair tahminlerini ortaya koydular. Gelecekti – sadece, biliyorsunuz, bir dahaki sefere.
Belki de haklılar. Ya da belki de insanlar bir fikri savunmak için bulabildikleri her türlü kanıtı kullanacak ve ona karşı olan kanıtları göz ardı edeceklerdir. Kanada’daki McMaster Üniversitesi’nde teknoloji çevrelerindeki komplo düşüncesini inceleyen Jeremy Cohen, bu kusurlu kanıt toplama yöntemini komplo düşüncesinin bir özelliği olarak tanımlıyor.
Cohen, araştırma kariyerine Arizona çölünde, üyelerinin ölümsüz olduğuna inanan People Unlimited adlı bir topluluğu inceleyerek başladı. Bu inanç, aksine kanıtlara karşı bağışıktı. Üyeleri doğal nedenlerle öldüğünde (iki kurucusu da dahil), bunun hak edilmiş bir ölüm olduğu düşünülüyordu. Cohen, “Genel kanı, her ölümün intihar olduğu yönündeydi,” diyor. “Eğer ölümsüzseniz ve kanser olup ölürseniz, mutlaka bir şeyleri yanlış yapmışsınız demektir.”
Cohen o zamandan beri transhümanizm (teknolojinin insanların doğal sınırlarını aşmalarına yardımcı olabileceği fikri) ve yapay genel zeka (AGI) üzerine yoğunlaşmış durumda. “Birçok paralellik görüyorum. AGI etrafındaki popüler hayal gücünün bir parçası olduğunu düşündüğüm bir tür büyülü düşünce var,” diyor. “Bu, günümüzdeki komplo teorilerinde gördüğünüz dini hayal gücüyle çok iyi bağlantı kuruyor.”
İnananlar yapay genel zekanın sırrını biliyorlar.
Belki bazılarınız benim aptal olduğumu düşünüyor: Hiçbir şey anlamıyorsunuz, haha. Ama asıl söylemek istediğim de bu zaten. İçeriden olanlar ve dışarıdan olanlar var. Yapay genel zekayı (AGI) sanki zaten var olan bir şeymiş gibi konuşmaya dahil etmekten mutluluk duyan araştırmacılar veya mühendislerle konuştuğumda, sanki benim bilmediğim bir şey biliyorlarmış gibi geliyor. Ama hiç kimse bana o şeyin ne olduğunu söyleyemedi.
Gerçeğin orada bir yeri var, yeter ki nereye bakacağınızı bilin. Komplo teorileri öncelikle gizli bir gerçeği ortaya çıkarmakla ilgilidir, diye anlatıyor Cohen: “Bu, komplo düşüncesinin gerçekten temel bir parçası ve insanların yapay genel zeka hakkında konuşma biçiminde de bunu görüyorsunuz.”
Geçen yıl, 23 yaşında, eski bir OpenAI çalışanı ve yatırımcı olan Leopold Aschenbrenner, “Durumsal Farkındalık” başlıklı, çokça incelenen 165 sayfalık bir manifesto yayınladı. Fikri anlamak için okumanıza gerek yok: Yaklaşan gerçeği ya görürsünüz ya da görmezsiniz. Ve soğuk, somut gerçeklere de ihtiyacınız yok; hissetmek yeterli . Hissetmeyenler henüz aydınlanmayı görmemişlerdir.
Bu fikir, Goertzel ile yaptığım konuşmanın da kenarında dolaştı. Örneğin, insanların yapay genel zekaya neden şüpheyle yaklaştığı konusunda onu sıkıştırdığımda şöyle dedi: “İnsan uçuşundan elektrik enerjisine kadar her büyük teknik başarıdan önce, bir sürü bilge uzman size bunun asla gerçekleşmeyeceğini söylerdi. Gerçek şu ki, çoğu insan sadece gözlerinin önünde gördüklerine inanır.”
Bu, yapay genel zekayı (AGI) bir inanç meselesi gibi gösteriyor. Bunu, AGI’nin gelişinin belki beş yıl sonra olacağına inanan Krueger’e sordum. Alaycı bir şekilde, “Bence bu tamamen yanlış,” dedi. Ona göre, inanç meselesi, bunun gerçekleşmeyeceği fikridir ; apaçık olanı inkar etmeye devam edenler şüphecilerdir. (Yine de, şöyle bir çekince koyuyor: Kimse kesin olarak bilmiyor, diyor, ancak AGI’nin gelmeyeceğine dair açık bir neden yok.)
Gizli gerçekler, her zaman görebildikleri şeyleri ortaya çıkarmaya kararlı gerçek arayıcılarını çeker. Ancak yapay genel zeka (AGI) söz konusu olduğunda, gizli bir şeyi ortaya çıkarmak yeterli değildir . Burada, vahiy, eşi benzeri görülmemiş bir yaratım eylemi gerektirir . Eğer AGI’nin ulaşılabilir olduğuna inanıyorsanız, onu yapanların insan zekasına denk veya onu aşacak makinelerin ebeleri olduğuna inanıyorsunuz demektir. Vallor, “Makine tanrıları doğurma fikri açıkçası egoyu çok okşayan bir şeydir,” diyor. “Kendinizin bu aşkınlığın ilk temellerini attığınızı düşünmek inanılmaz derecede baştan çıkarıcı bir şey.”
Bu, komplo teorileriyle olan bir başka örtüşme noktası. Çekiciliğinin bir kısmı, anlamsız hissettirebilen karmaşık bir dünyada bir amaç duygusuna duyulan arzu; önemli bir insan olma özlemi.
Berkeley’de yaşayan Krueger, yapay zekâ üzerinde çalışan ve bu teknolojiyi doğal halefimiz olarak gören insanları tanıdığını söylüyor. “Bunu çocuk sahibi olmaya benzer bir şey olarak görüyorlar,” diyor. “Not: Genellikle çocukları olmuyor.”
Yapay genel zeka (AGI) bizim tek gerçek kurtarıcımız olacak (ya da kıyameti getirecek).
Cohen, birçok modern komplo teorisi ile 1970’ler ve 80’lerde etkisinin zirvesine ulaşan Yeni Çağ hareketi arasında paralellikler görüyor. Bu hareketin savunucuları, insanlığın ruhsal esenlik ve genişlemiş bilinç çağına ulaşmanın eşiğinde olduğuna ve bunun daha barışçıl ve müreffeh bir dünyaya yol açacağına inanıyorlardı. Kısacası, insanların astroloji ve kristallerin özenle saklanması gibi bir dizi sözde dini uygulamaya katılarak sınırlamalarını aşacakları ve bir tür hippi ütopyasına girecekleri fikri vardı.
Günümüzün teknoloji endüstrisi kristaller yerine hesaplama gücüne dayanıyor, ancak tehlikenin boyutuna dair anlayışı da bir o kadar önemli: “Biliyorsunuz, temel bir değişim yaşanacak, bin yıllık bir dönüşüm olacak ve teknolojik bir ütopya geleceğine doğru ilerleyeceğiz fikri var,” diyor Cohen. “Ve yapay genel zekanın (AGI) nihayetinde insanlığın karşı karşıya olduğu sorunların üstesinden gelmesini sağlayacağı fikri de var.”
Birçok kişinin anlatımına göre, yapay genel zeka (AGI) birdenbire ortaya çıkacak. Yapay zekadaki kademeli ilerlemeler birikerek, bir gün yapay zeka kendi kendine daha iyi yapay zeka üretmeye başlayacak kadar iyi hale gelecek. Bu noktada -FOOM- o kadar hızlı ilerleyecek ki, AGI genellikle zeka patlaması olarak adlandırılan bir şekilde ortaya çıkacak ve geri dönüşü olmayan bir noktaya, yani Tekillik’e ulaşacak; bu, AGI çevrelerinde yıllardır popüler olan tuhaf bir terim. Fizikten bir kavramı ödünç alan bilim kurgu yazarı Vernor Vinge, teknolojik tekillik fikrini ilk olarak 1980’lerde ortaya attı. Vinge, teknolojik ilerlemenin yolunda, insanların kendi yarattıkları makinelerin üstel kendi kendini geliştirme hızıyla hızla geride kalacakları bir olay ufku hayal etti.
Buna yapay zekânın Büyük Patlaması diyelim; bu da bize bir öncesi ve bir sonrası, bildiğimiz insanlığın sonsuza dek (iyi ya da kötü yönde) değiştiği aşkın bir an sunuyor. AI Impacts’ten Grace, “İnsanlar bunu bir olay olarak hayal ediyor” diyor.
Vallor’a göre, bu inanç sistemi, teknolojiye olan inancın insanlara olan inancın yerini almasıyla dikkat çekiyor. Yeni Çağ düşüncesi, tüm bu mistik unsurlara rağmen, en azından insanların dünyayı kendi başlarına değiştirebilecek yeteneğe sahip oldukları, sadece bu potansiyeli kullanabildikleri fikrinden motive olmuştu. Yapay genel zekanın (AGI) peşinde koşmakla birlikte, bu özgüveni geride bıraktık ve sadece teknolojinin bizi kurtarabileceği fikrine kapıldık, diyor Vallor.
Bu, birçok insan için ilgi çekici, hatta rahatlatıcı bir düşünce. Vallor, “İnsan yaşamlarının ve toplumlarımızın maddi olarak iyileştirilmesi için diğer yolların tükendiği bir çağdayız” diyor.
Teknoloji bir zamanlar daha iyi bir geleceğe giden bir yol vaat ediyordu: İlerleme, insan ve toplumsal refaha doğru tırmanacağımız bir merdivendi. Vallor, “Bunun zirvesini geçtik,” diyor. “Bence birçok insana umut veren ve geleceğe dair bu tür bir iyimserliğe geri dönmelerini sağlayan tek şey yapay genel zekadır.”
Vallor’a göre, bu fikri sonuca götürürsek, yapay genel zeka (AGI) yine bir tür tanrı haline gelir; dünyevi acılardan kurtuluş sunabilen bir tanrı.
Kuzey Carolina Üniversitesi’nde sosyolog olan ve kültürel, politik ve ekonomik inançların teknolojiyi düşünme ve kullanma biçimimizi nasıl şekillendirdiğini inceleyen Kelly Joyce, yapay genel zekâ hakkındaki tüm bu çılgın tahminleri daha sıradan bir şey olarak görüyor: teknoloji endüstrisinin uzun vadeli aşırı vaatler verme alışkanlığının bir parçası. “Bana ilginç gelen şey, her seferinde bu tuzağa düşmemiz,” diyor. “Teknolojinin insanlardan daha iyi olduğuna dair derin bir inanç var.”
Joyce, bu yüzden, abartı başladığında insanların buna inanmaya meyilli olduğunu düşünüyor. “Bu bir din,” diyor. “Teknolojiye inanıyoruz. Teknoloji Tanrı’dır. Buna karşı çıkmak gerçekten zor. İnsanlar bunu duymak istemiyor.”
Yapay genel zekanın bir sektörü nasıl ele geçirdiği
İnsanların yapabileceği hemen her şeyi yapabilen bilgisayarlar fantezisi cezbedici. Ancak birçok yaygın komplo teorisi gibi, bunun da çok gerçek sonuçları var. Mevcut teknoloji patlamasının (ve potansiyel çöküşünün) ardındaki riskler hakkındaki düşüncelerimizi çarpıttı. Hatta endüstriyi raydan çıkararak, teknolojinin daha acil ve pratik uygulamalarından kaynakları uzaklaştırmış olabilir. Her şeyden önemlisi, bize tembellik için bir izin veriyor. Çözümü zor, dünya çapında sorunları çözmek için gereken gerçek zorlu çalışmadan kaçınabileceğimizi düşünmemize neden oluyor; bu sorunlar uluslararası işbirliği, uzlaşma ve pahalı yardımlar gerektirecek. Her şeyi bizim için çözecek makinelerimiz varken neden bunlarla uğraşalım ki?
Bu büyük projeye yatırılan kaynakları düşünün. Daha geçen ay, OpenAI ve Nvidia, çip devinin ChatGPT’nin doymak bilmeyen talebini karşılamak üzere en az 10 gigawatt enerji sağlayacağı 100 milyar dolara varan bir ortaklık duyurdu . Bu, nükleer santral rakamlarından bile daha yüksek. Bir yıldırım bile bu kadar enerji açığa çıkarabilir. Dr. Emmett Brown’ın DeLorean zaman makinesinin içindeki akı kapasitörü, Marty’yi geleceğe göndermek için sadece 1,2 gigawatt enerjiye ihtiyaç duyuyordu. Ve sadece iki hafta sonra, OpenAI, çip üreticisi AMD ile altı gigawatt daha enerji için ikinci bir ortaklık duyurdu.
CNBC’de Nvidia anlaşmasını tanıtırken Altman, ciddi bir ifadeyle, bu tür veri merkezi yatırımları olmadan insanların kanser tedavisi ile ücretsiz eğitim arasında seçim yapmak zorunda kalacaklarını iddia etti. “Kimse böyle bir seçim yapmak istemez,” dedi. (Sadece birkaç hafta sonra, ChatGPT’ye erotik sohbetlerin geleceğini duyurdu.)
Bu maliyetlere, bugün, yarın ve daha sonraki günlerde hayatları değiştirebilecek daha acil teknolojilere yapılan yatırımların kaybını da ekleyin. Lirio’dan Symons, “Bana göre bu, büyük bir fırsat kaybı,” diyor, “zaten çözebileceğimiz gerçek sorunlar olduğunu bildiğimiz halde, belirsiz bir şeyi çözmek için tüm bu kaynakları harcamak.”
Ancak OpenAI gibi şirketlerin böyle çalışması gerekmiyor. Symons, “İnsanlar bu şirketlere bu kadar çok para yatırırken, bunu yapmak zorunda değiller,” diyor. “Yüz milyarlarca dolarınız varsa, pratik, çözülebilir bir projeye odaklanmak zorunda değilsiniz.”
Krueger, yapay genel zekanın (AGI) geleceğine olan sarsılmaz inancına rağmen, sektörün bu konuya tek yönlü odaklanmasının, daha iyi sağlık hizmetleri gibi gerçek sorunlara potansiyel çözümlerin göz ardı edilmesine yol açtığını düşünüyor. “İnsanların hem AGI kavramı hem de bunun bir hedef olması gerektiği fikri hakkında uzun bir şikayet listesi var,” diyor. “Bence bu, sektörde oldukça popüler olmayan bir durum.”
Ve hükümetlerin teknolojiyi destekleme ve düzenleme biçimlerinin (ya da desteklememelerinin) sonuçları var. Kaliforniya Üniversitesi-Davis’te teknoloji politikası üzerine çalışan Tina Law, politika yapıcıların yapay zekanın bir gün hepimizi nasıl öldüreceği konusunda lobi faaliyetlerine maruz kaldıklarından, yapay zekanın insanların hayatlarını bugün doğrudan ve somut şekillerde nasıl etkileyebileceğine dair gerçek endişeleri ele almak yerine, bu konuda baskı gördüklerinden endişe duyuyor. Eşitsizlik, varoluşsal risk nedeniyle geri plana atıldı.
Law, “Abartı, teknoloji firmaları için karlı bir stratejidir” diyor. Bu abartının büyük bir kısmı, olanların kaçınılmaz olduğu fikrine dayanıyor: Eğer biz inşa etmezsek, başkası edecek. Law, “Bir şey kaçınılmaz olarak çerçevelendiğinde,” diyor, “insanlar sadece direnmeleri gerekip gerekmediğinden değil, aynı zamanda bunu yapabilecek kapasiteye sahip olup olmadıklarından da şüphe duyuyorlar.” Herkes kilitleniyor.
Georgia Teknoloji Enstitüsü’nde teknoloji politikası ve düzenlemeleri üzerine çalışan Milton Mueller, yapay genel zekanın (AGI) çarpıtıcı etkisinin sadece teknoloji politikasıyla sınırlı olmadığını söylüyor. AGI yarışının atom bombası yarışına benzetildiğini belirten Mueller, “Yani kim ilk elde ederse, diğer herkes üzerinde nihai güce sahip olacak. Bu, dış politikamıza yaklaşımımızı gerçekten çarpıtacak çılgın ve tehlikeli bir fikir.” diyor.
Mueller’e göre, şirketler (ve hükümetler) için yapay genel zeka (AGI) efsanesini yaymak ticari bir teşvik oluşturuyor, çünkü böylece bu hedefe ilk ulaşanın kendileri olacağını iddia edebiliyorlar. Ancak, bitiş çizgisi konusunda kimsenin hemfikir olmadığı bir yarışta oldukları için, efsane işe yaradığı sürece veya yatırımcılar buna inanmaya istekli olduğu sürece devam ettirilebiliyor.
Bunun nasıl sonuçlanacağını görmek zor değil. Bu bir ütopya ya da cehennem değil; OpenAI ve benzeri şirketler çok daha fazla para kazanıyor.
Büyük yapay genel zeka komplosu, sonuçlandı
Ve belki de bu bizi komplo teorisi meselesine ve bu öykünün son anlarındaki sürpriz gelişmeye geri götürüyor. Şimdiye kadar komplo teorisi düşüncesinin popüler bir özelliğini göz ardı ettik: perde arkasında ipleri elinde tutan güçlü bir grup insan var ve inananlar gerçeği arayarak bu seçkin gizli örgütü ifşa edebilirler.
Elbette, yapay genel zekayı hisseden insanlar, yapay genel zekanın geleceğini engellemek veya sırlarını saklamakla ilgili olarak herhangi bir İlluminati veya WEF benzeri gücü açıkça suçlamıyorlar.
Peki ya burada gerçekten de gölge kukla ustaları varsa ve bunlar, başından beri yapay genel zeka komplosunu en çok destekleyen kişilerse? Silikon Vadisi’nin kralları, kâr amacıyla yapay genel zekayı geliştirmek için ellerinden gelen her şeyi yapıyorlar. Yapay genel zeka efsanesi, herkesten çok onların çıkarlarına hizmet ediyor.
Bir yapay zeka şirketinin üst düzey yöneticisinin bize yakın zamanda söylediği gibi, yapay genel zekanın (AGI) her zaman altı ay ila bir yıl uzakta olması gerekiyor, çünkü bundan daha uzak olursa, Jane Street’ten insan bulamazsınız ve eğer zaten buradaysa, o zaman ne anlamı var?
Vallor’ın da belirttiği gibi: “OpenAI, şirketleri bugünden daha güçlü hale getirecek bir makine geliştirdiklerini söylerse, ihtiyaç duydukları kamuoyu desteğini alamayacaklar.”
Unutmayın: Bir tanrı yaratırsanız, kendiniz de ona benzersiniz. Krueger, Silikon Vadisi’nde yapay zekâ geliştirmenin büyük miktarda güç elde etmenin bir yolu olduğu yönünde bir düşünce tarzının hakim olduğunu söylüyor. (Örneğin, Aschenbrenner’in “Durumsal Farkındalık” kavramının öncüllerinden biri de bu.) Krueger, “Biliyorsunuz, bu tanrısal güce sahip olacağız ve onunla ne yapacağımızı bulmamız gerekecek,” diyor. “Birçok insan, eğer ilk onlar oraya ulaşırsa, temelde dünyayı ele geçirebileceklerini düşünüyor.”
“Yapay genel zekayı içeren bir gelecek vizyonlarını satmak için çok fazla çaba harcıyorlar ve çok fazla güce sahip oldukları için oldukça başarılı oluyorlar,” diye ekliyor.
Goertzel ise, muhtemelen gizli bir grubun ne kadar başarılı olduğunu neredeyse hayıflanıyor. Aslında kenarda kalmış bir hayatı özlemeye başladı. “Benim neslimde, yapay genel zeka üzerinde çalışmak için çok vizyon sahibi olmanız ve çok inatçı olmanız gerekiyordu,” diyor. “Şimdi ise, iş bulmak için büyükannenizin size ne yapmanız gerektiğini söylemesi gibi bir şey, işletme bölümü okumak yerine.”
“Bu tür şeylerin bu kadar yaygın kabul görmesi kafa karıştırıcı,” diyor. “Bu durum neredeyse beni, pek çok insanın yapmadığı başka bir şey üzerinde çalışmaya yönlendiriyor.” Sanırım yarı şaka yapıyor: “Açıkçası, yapay genel zekaya son rötuşları yapmak, sınırda olma tercihimi tatmin etmekten daha önemli.”
Ama tam olarak neye son rötuşları yaptıklarından hala emin değilim. Eğer bu masallara bu kadar çok inanıyorsak, genel olarak teknoloji için ne anlama geliyor? Birçok açıdan, yapay genel zeka (AGI) fikrinin, teknolojiden ne beklememiz gerektiğine ve hatta zekanın ne olduğuna dair çarpık bir görüşe dayandığını düşünüyorum. Özüne indirgenirse, AGI’nin savunulması, bir teknolojinin, yapay zekanın, çok hızlı bir şekilde çok iyi hale geldiği ve daha da iyi olmaya devam edeceği önermesine dayanıyor. Ancak teknik itirazları bir kenara bırakırsak—ya daha da iyi olmaya devam etmezse?—ve geriye, doğru veriye, işlem gücüne veya sinir ağına sahipseniz daha fazlasını elde edebileceğiniz bir meta olduğu iddiası kalıyor. Ve öyle değil.
Zeka, sürekli artırılabilecek bir nicelik değildir. Zeki insanlar bir alanda mükemmel olabilirken diğerlerinde olmayabilir. Bazı Nobel ödülü sahipleri piyano çalmakta veya çocuklarına bakmakta gerçekten kötüdür. Bazı çok zeki insanlar ise yapay genel zekanın (AGI) gelecek yıl geleceğinde ısrar ediyor.
Bundan sonra bizi neyin etkisi altına alacağını merak etmemek elde değil.
Telefon görüşmemizi bitirmeden önce Goertzel, San Francisco’da yapay zekâ bilinci ve parapsikoloji üzerine katıldığı bir etkinlikten bahsetti: “ESP, önsezi ve benzeri şeyler.”
“Yapay genel zeka (AGI) 20 yıl önce işte bu noktadaydı,” dedi. “Herkes bunun tamamen çılgınca olduğunu düşünüyor.”