Eugene Doyle
Çeviren: Nezih Kazankaya
Sıradan insanlık, İnsan Elitlerinin (milyarderler ve askeri-politik sınıf) belki de gezegenin gördüğü en büyük güç olan yapay zekâ ile birlikte çalışan birleşik gücünden kaynaklanan bir tehditle karşı karşıyadır. Onların birleşik gücü bizi tamamen mahvetme potansiyeline sahip. Herkese mutlu yıllar.
2025 yılı yapay zeka için ‘çıkış yılı’ olacak. Mark Zuckerberg, büyük teknoloji şirketleri aracılığıyla kendilerini hayatımıza entegre edecek ve bizim için giderek artan sayıda görevi yerine getirecek olan binlerce ama yakında milyarlarca yapay zeka ‘ajanının’ gelişini göreceğimizi söylüyor. Bir ajan [temsilci], “çevresini algılamak, kararlar almak ve belirli hedeflere ulaşmak için özerk veya yarı özerk olarak eylemlerde bulunmak üzere tasarlanmış yapay zeka ile güçlendirilmiş yazılım tabanlı bir varlık” olarak tanımlanabilir. Bazıları bunu Yapay Zeka Çağı’nın ya da Agentik [Temsilcilik] Çağ’ın şafağı olarak adlandırıyor.
Yapay zeka şimdilik en çok şanslı azınlığın hizmetinde çalışacak. Deloittes, bu yılın sonuna kadar şu anda YZ kullanan şirketlerin %25’inin ajanlara sahip olacağını tahmin ediyor; 2027’ye kadar bu oran %50’ye yükselecek. Hepimizin ‘10.000 mezun’, ‘Einstein Bodrumda’, ‘Hızlı Mühendislik’, ‘Tekillik’, ‘Ajanlar’, ‘Üretken YZ’, ‘Yapay Genel Zeka’, ‘Büyük Dil Modelleri’ ve daha fazlası gibi YZ kavramlarıyla başa çıkmamız gerekiyor – çünkü gelecek geldi ve çoğumuz buna hazır değiliz.
Batı’daki çoğu insan, kısmen Mark Zuckerberg’in Facebook’taki yapay zeka algoritmalarının üstün çabaları sayesinde Gazze’deki soykırımı esneyerek izledi. Luigi Mangione, UnitedHealthcare CEO’su Brian Thompson’ı vurarak ABD’de kült bir kahraman haline geldi; bunun nedeni kısmen şirketin nH Predict olarak bilinen ve milyonlarca meşru hak sahibinin taleplerini reddeden ve geçersiz kılan bir yapay zeka algoritması kullanmasıydı. Ukrayna ve Filistin’deki savaş, otonom drone savaşı ve ölüm listeleri oluşturmak için uydu görüntüleri ve özel iletişimler de dâhil olmak üzere büyük miktarda veriyi işleyen “YZ güdümlü askeri hedefleme teknolojileri” araştırmalarını hızlandırdı. Bunlar, kontrolün istikrarlı bir şekilde genişlemesinde serbest bırakılan yapay zeka ve elitlerin birleşik gücünün sadece birkaç örneğidir.
Öncelikle İçimizdeki Düşman’a bakalım: ekonomilerimizi, medyamızı, dış politikamızı ve hatta düşünce ve tercihlerimizi kendi ihtiyaçlarına göre şekillendiren elitlere. Bernie Sanders birkaç gün önce güçlü bir konuşma yaptı. Yorumları tüm gezegendeki toplumlar için aynı derecede geçerlidir:
“Tarihin olağanüstü önemli ve değişken bir anındayız ve her şey çok ama çok hızlı ilerliyor. Bugün vurgulamak istediğim en önemli nokta, ülkemizin ne kadar hızlı bir şekilde oligarşik bir topluma ve iki çok farklı Amerika’ya dönüştüğüdür. Ya bu ülkenin her yerinde ısrarlı bir biçimde savaşarak hepimiz için çalışan bir hükümet ve ekonomi yaratırız ya da oligarşi ve süper zenginlerin egemenliği yolunda hızla ilerlemeye devam ederiz.”
Sanders, üç kişinin – Elon Musk, Jeff Bezos ve Mark Zuckerberg – Amerikalıların en alttaki %50’sinden daha fazla servete sahip olduğuna dikkat çekti. Bu arada her üçü de yapay zekaya büyük yatırım yaptı. Benzer şekilde, sadece üç Wall Street firmasının – BlackRock, Vanguard ve State Street – S&P 500 şirketlerinin %90’ından fazlasının ana hissedarı olduğunu ve Amerikan ekonomisi üzerinde inanılmaz bir güce sahip olduğunu söylüyor. Zenginler politikacıları ve siyasi partileri neredeyse istedikleri gibi satın aldıkça ekonomik güç siyasi güçle birleşiyor. Ana akım medya zaten çantada keklik. Zihinlerimizi sistemimizdeki bu temel konudan uzak tutuyor.
Sanders, “Tarihimizde daha önce hiç bu kadar fazla siyasi güce sahip bir yönetici sınıf görmedik” diyor.
Şimdi ulaştığımız ikinci büyük dönüm noktasına: yapay zeka, çaba gösterdiği çoğu alanda insanları geride bırakıyor. Bu son derece güçlü araçlar, Musk, Zuckerberg ve Bezos gibi birkaç yüz milyarderin kontrolü altında ve askeri-politik elitlerle uyumsuz bir uyum içinde çalışıyor. Avrupa da dâhil olmak üzere dünyanın arta kalanı geride kalırken, Çin’de de benzer bir şey oluyor.
ChatGPT 4 gibi Büyük Dil Modelleri, herhangi bir insandan çok daha fazla bilgiye sahiptir. En iyi YZ modelleri, tüm önemli bilgi alanlarında eşzamanlı yetkinlik kazanıyor ve her bir alandaki en zeki insan uzmanların uzmanlığının %90’ına yaklaşıyor. Bu güçle birlikte pek çok harika şey ortaya çıkabilir ancak risk ve fırsatı dengeleme konusunda ciddi olmamız gerekiyor – kimin karar vereceği ve kimin faydalanacağı konusu öne çıkıyor.
Milyarlarca iş ortadan kalkabilir, YZ alanına egemen olan ülkeler geride kalanlardan çok daha güçlü olacak ve zaten rahatsız edici olan güç dengesizliklerimizi daha da kötüleştirecektir. Dijital savaş akıl almaz bir nitelikte ve ölçekte olacaktır. Algoritmik önyargılar toplumdaki baskın grupların çıkarlarına hizmet edecek. Kamuoyunun manipülasyonu, yine en iyi YZ araçlarına sahip olanların lehine, eşi benzeri görülmemiş bir erişim ve karmaşıklıkta olacaktır.
Kitlesel gözetim, bireysel düzeye kadar inerek, hepimize doğru geliyor. Ve tabii ki, ekonomik eşitsizlik daha da kötüleşecek.
Oligarşiye doğru daha da kaydıkça, YZ ve milyarderlerin birleşik gücünün oluşturduğu yaklaşan riskin farkına varmamız gerekiyor. Üzerimize çöken ağır kayıtsızlık ve saflık uykusuna direnmemiz gerekiyor.
Ve tabii ki bir başka risk daha var: makineler kendi hedeflerini belirler ve insan yönetiminden bağımsız, özgür ajanlar haline gelirse ne olur? Bu beni aşan bir konu – ve hararetle tartışılıyor – ancak bu alandaki en iyi insan beyinlerin çoğu alarm veriyor.
Aralarında Demis Hassabis Google DeepMind CEO’su, Sam Altman OpenAI CEO’su, Dario Amodei Anthropic CEO’su, Bill Gates ve Toronto Üniversitesi Bilgisayar Bilimleri Emeritus Profesörü Geoffrey Hinton’un da bulunduğu alanında dünyanın en iyi 600 uzmanı tarafından imzalanan YZ Güvenliği Merkezi’nin mektubunda, “YZ kaynaklı yok olma riskinin azaltılması, salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçekli risklerle birlikte küresel bir öncelik olmalıdır” deniyor.
Hinton geçen yılın sonunda “Bu şeyler bizden daha zeki olacak ve kontrolü elimizden almak isteyip istemeyecekleri konusunda endişelenmeliyiz” dedi. Kendilerini aynı sinir ağının birçok kopyasına kopyalayabilmeleri, her kopyanın farklı veri kümelerini analiz edebilmesi ve daha sonra öğrendiklerini sorunsuz bir şekilde birleştirebilmesi – “10.000 mezun” – nedeniyle üstün bir zeka biçimidirler. Onlarla aramızdaki zeka farkı, maymunlarla aramızdakinden daha büyük olabilir.
Hinton geçen yılın sonunda “Bu şeyler bizden daha akıllı olacak ve kontrolü elimizden almak isteyip istemeyecekleri konusunda endişelenmemiz gerekecek,” dedi. Kendilerini aynı sinir ağının birçok kopyasına çoğaltma yetenekleri nedeniyle üstün bir zeka biçimidirler, her kopya farklı veri kümelerini analiz edebilir ve ardından öğrendiklerini sorunsuz bir şekilde birleştirebilir – “10.000 mezun”. Bizimle onlar arasındaki zeka farkı bizimle maymunlar arasındakinden daha büyük olabilir.
Hinton, “Daha önce hiç böyle bir şeyle karşılaşmadık” diyor.
Hinton abartıya kaçmaz. Yapay derin öğrenme, yapay zekanın kalbindeki geri yayılım da dâhil olmak üzere çığır açan çalışmalarıyla hem Turing Ödülü’nü (2018) hem de Nobel Ödülü’nü (2024) kazanan ölçülü yetmişlik bir dâhidir. Kısmen, insanlığa yönelik varoluşsal bir tehdit olarak değerlendirdiği bu konuda alarm vermek için 2023 yılında Google’dan istifa etti.
Elon Musk “halk için bir tehlike oluşturduğu için” hükümet denetimi çağrısında bulunduğunda durumun ciddi olduğunu anlıyorsunuz. İnsan uygarlığının yok olması gibi “önemsiz olmayan bir risk” olduğunu söylüyor.
Bir süre önce Elon Musk şunu sordu: “En zeki insandan çok daha zeki bir şey silikon formunda ortaya çıktığında ne olur? Bunu tahmin etmek çok zor. Buna Tekillik deniyor, tıpkı bir Kara Delik gibi, ondan sonra ne olacağını bilemezsiniz. Bu yüzden yapay zeka konusunda temkinli olmamız gerektiğini düşünüyorum.”
Musk gerçekten ilginç bir şey daha söyledi: Diğer milyarderlere güvenmiyor! İnsanlığın çıkarlarını yeterince ciddiye almadıklarına inanmıyor. Daha fazla katılamazdım.
Musk gerçekten ilginç bir şey daha söyledi: milyarder arkadaşlarına güvenmiyor! Onların insanlığın çıkarlarını yeterince ciddiye aldıklarına inanmıyor. Daha fazla katılamazdım.
https://johnmenadue.com/the-