Otoriter Teknoloji Yakalandı: Silikon Vadisi bizim asla seçmediğimiz bir geleceği nasıl inşa ediyor?
Yapay zekanın peygamberleri bu teknolojiden dini bir coşkuyla bahsediyorlar. Ve hepimizin inanmasını bekliyorlar.
Isobel Cockerell
Geçtiğimiz yılın nisan ayında Perugia’da, yıllık uluslararası gazetecilik festivalindeydim. Yapay zekanın gazeteciliğin sonunu getirip getirmediğiyle ilgili bir panel oturumundaydım ki, Signal’imde bir sesli not belirdi.
Christopher Wylie’den geldi. Kendisi bir veri bilimcisi ve 2018’de Cambridge Analytica skandalını ortaya çıkaran muhbir. Yapay zeka üzerine yeni bir soruşturma üzerinde onunla çalışmaya yeni başlamıştım. Chris benimle buluşacaktı ama kendini Dubai’de, Silikon Vadisi girişim sermayedarlarıyla dolu bir partide sıkışmış halde bulmuştu.
“Beni duyabiliyor musunuz bilmiyorum – bu etkinlikte tuvaletteyim ve burada insanlar uzun ömürlülükten, sonsuza dek nasıl yaşanacağından, ama aynı zamanda insanların isyan edip toplumun tamamen çökeceği zamana nasıl hazırlanılacağından bahsediyor,” diye fısıldamıştı telefonuna. “Dünyanın başka bir yerinde, bir grup gazeteci demokrasiyi nasıl kurtaracaklarını konuşuyor. Burada ise, demokrasiyi geride bırakıp nasıl hayatta kalacaklarını düşünen bir grup teknoloji uzmanı var.”
Chris Perugia’ya giderken aktarma yaptığı sırada, Dubai’yi büyük bir fırtına ve nesilde bir kez görülen bir sel felaketi felç etmişti. Ayrılamıyordu. Kripto zirvesi için orada bulunan yüzlerce teknoloji uzmanı da ayrılamıyordu. Chris, çılgın bir Zoom görüşmesinde bana, tuhaf hava koşullarının parti yapmalarını engellemediğini söyledi.
“Diz boyu suda yürüyorsunuz, insanlar her yerde çığlık atıyor ve sonra… Bütün bu adamlar ne yapıyor? Bir parti düzenliyorlar. Sanki dışarıda dünya çöküyor, ama içeri giriyorsunuz ve milyarderler ve milyonerler parti yapıyor,” dedi. “Dubai şu anda dünyanın bir mikrokozmosu. Dışarıda dünya çöküyor ve insanlar parti yapıyor.”
Chris ve ben sonunda buluşmayı başardık. Ve bir yıldan fazla bir süre boyunca, teknoloji dünyasında gerçekte neler olup bittiğini sorgulayan bir podcast üzerinde birlikte çalıştık. Gazeteciler, sanatçılar, hemşireler, işletmeler ve hatta hükümetler olarak geri kalanımızın, büyük teknoloji şirketlerinin geleceğe yönelik hırslarının nasıl esiri haline geldiğimizi ve nasıl karşı koyabileceğimizi inceledik.
Mercy, Meta’da içerik moderatörüydü. Saat başına yaklaşık bir dolar maaş alıyordu ve bu iş onu o kadar travmatize etmişti ki uyuyamaz hale gelmişti. Sendikalaşmaya çalıştığında ise işten çıkarıldı.
Haberlerimiz bizi, yapay zeka modelleri geliştiren insanlarla tanışmak için San Francisco’daki Twin Peaks’in yüksek tepelerinden, bu modelleri eğiten işçilerle tanışmak için Kenya’nın gayrı resmi yerleşim yerlerine kadar dünyanın dört bir yanına götürdü.
Bu insanlardan biri, Nairobi’nin eteklerinde, çatısı olmayan derme çatma evinde ziyaret ettiğimiz Mercy Chimwani’ydi. Ayaklarımızın altında çamur vardı ve yukarıda, tamamlanmamış merdivenlerin gökyüzüyle buluştuğu açık bir delikten yağmur bulutları görünüyordu. Mercy, yağmur yağdığında evin içinden su aktığını söyledi. İnanması güç ama Mercy, Meta için çalışıyordu.
Mercy, Meta’nın çalışan bulmak için kullandığı aracılar tarafından işe alınan bir içerik moderatörüydü. Görevi, internetteki en korkunç görüntü ve videoları izlemek ve şirketin sistemini, bu tür içeriklere hepimiz maruz kalmadan önce otomatik olarak filtreleyebilmesi için eğitmekti.
Saat başına yaklaşık bir dolar maaş alıyordu ve bu da onu o kadar travmatize ediyordu ki uyuyamaz hale gelmişti. İş arkadaşlarıyla birlikte sendikalaşmaya çalıştıklarında ise işten çıkarıldı. Mercy, Küresel Güney’deki görünmez, görmezden gelinen iş gücünün bir parçasıydı ve bu da bize çok az bir ücret karşılığında sorunsuz bir çevrimiçi hayat sağlıyordu.
Elbette, diğer teknoloji çalışanlarının yaşadığı büyük evlere de gittik. San Francisco’daki cam ve çelikten yapılmış devasa saraylar. Sakinleri, inşa ettikleri yapay zekanın bir gün sonsuza dek yaşamalarına ve evren hakkında bilinebilecek her şeyi keşfetmelerine yardımcı olacağına inanıyor.
Twin Peaks’te, AGI House San Francisco’nun ( Yapay Genel Zeka için AGI) yaratıcısı Jeremy Nixon ile konuştuk . Nixon, görünüşte ütopik bir geleceği, asla çalışmak zorunda kalmayacağımız, yapay zekanın bizim için her şeyi yapacağı ve insan bilgisinin toplamını beynimize yerleştirebileceğimiz bir yeri tarif etti. “Amaç, her insanın bilinen her şeyi bilmesini sağlamak,” dedi bana.
O günün ilerleyen saatlerinde Cupertino’da bir barbekü partisine gittik ve bir zamanlar dünyanın en büyük şirketlerinden bazılarının teknoloji sorumlusu olan ve şimdi yapay zeka girişimlerine yatırım yapan Alan Boehme ile sohbet ettik. Boehme, kendi bakış açısına göre teknolojinin devlet düzenlemeleri tarafından engellenmemesinin ne kadar önemli olduğunu anlattı. “ İnsanların aşırı düzenleme yapmasından endişe duymalıyız. Dürüst olmak gerekirse Avrupa en kötüsü,” dedi. “Topluma nasıl fayda sağlayabileceğimize ve bunun dünyayı geride tutmaya çalışmak yerine nasıl liderlik edebileceğine bakalım.”
Ona, demokratik olarak seçilmiş hükümetlerin var olma nedenlerinden birinin, tüm insanların güvenliğini sağlamak ve bazı insanların değişimin hızına ayak uyduramamasını sağlamak için düzenlemeler olup olmadığını sordum. Yapay zekayı düzenleyip düzenlemeyeceğimize karar verenler, Cupertino’daki bu barbeküde bulunan insanlar değil, seçtiğimiz hükümetler olmamalı mı?
“ İsveçli gibi konuşuyorsunuz,” diye yanıtladı Boehme. “Özür dilerim, sosyal demokrasi bu. ABD’de biz böyle değiliz. Bu ülke bir Anayasa’ya dayanıyor. Herkesin eşit olduğu ve insanları geride tuttuğu bir temele dayanmıyoruz. Hayır, İsveç’te değiliz.”
Podcast’te aktardığımız gibi, yavaş yavaş bir gerçeğin farkına vardık: Silikon Vadisi’nde inşa edilen şey sadece yapay zeka değil, bir yaşam biçimi, hatta bir din. Ve bu, katılmaktan başka seçeneğimiz olmayabilecek bir din.
Vatikan, Ocak ayında yapay zekaya Tanrı gibi tapınma tehlikesiyle karşı karşıya olduğumuzu savunan bir açıklama yayınladı. Bu, internetin en eski versiyonlarından bazılarını geliştirmek için çalışan Judy Estrin ile görüştüğümüz bir fikirdi . Estrin, 1970’lerde Stanford Üniversitesi’nde genç bir araştırmacıyken, ilk ağ bağlantılarından bazılarını kuruyordu. Teknofobik değil, gelecekten korkuyor, ancak Silikon Vadisi’ni ele geçirdiğini söylediği bağnazlıktan endişe duyuyor.
Ya gerçekten insanların yerinin doldurulabileceğine, geleneksel insanlık kavramlarının modasının geçtiğine, teknolojik bir “tanrının” bizi geride bırakması gerektiğine inanıyorlarsa? Bunlar sadece ideolojik görüşler değil; etrafımızda inşa edilen dünyanın temellerini oluşturuyorlar.
Yapay zekanın sorgusuz sualsiz benimsenmesi hakkında, “Yeniliğe tapıyorsanız, herhangi bir şeye tapıyorsanız, bir adım geri çekilip güvenlik bariyerlerini düşünemezsiniz,” dedi. “Bu yüzden, liderlik açısından bakıldığında, ortaya çıkıp bir şeyleri gerçekleştirmenin tek yolunun bu olduğunu iddia eden tekno-popülistlere karşı çok savunmasızız.”
Yapay zeka dünyamızın her yönünü ele geçirmeyi hedeflerken, kaybettiğimiz irademizi geri kazanmanın ilk adımı sadece dikkat etmektir. Teknoloji liderlerinin gelecek vizyonları hakkında açıkça söylediklerini ne kadar nadiren dinlediğimize şaşırdım.
En uç ifadelerini abartı veya pazarlama olarak görmezden gelme eğilimi var, peki ya dürüstlerse? Ya gerçekten insanların, ya da en azından çoğu insanın yerinin doldurulabileceğine, geleneksel insanlık kavramlarının modasının geçtiğine, teknolojik bir “tanrının” bizi geride bırakması gerektiğine inanıyorlarsa? Bunlar sadece ideolojik görüşler değil; şu anda etrafımızda inşa edilen dünyanın temellerini oluşturuyorlar.
Serimizde yapay zekayı kültürümüzü, işlerimizi, medyamızı ve siyasetimizi etkileyen bir şey olarak ele alıyoruz. Ancak teknoloji kurucularının ve mühendislerinin yapay zeka ile gerçekte ne inşa ettiklerini veya ne inşa ettiklerini düşündüklerini de sorgulamalıyız. Çünkü eğer toplum vizyonlarında bize yer yoksa, kolektif geleceğimiz ele geçirilmeden önce kaderimizi geri almaya hazır olmalıyız.