Nota Bene Yayınları. Yazar: Dan Mcquillan Çeviri: Diyar Saraçoğlu
İlk Baskı: 2024, 200 Sayfa
Editörün Notu: “Yapay Zekaya Direnmek. Anti-Faşist Bir Yaklaşım” başlıklı kitabı 2022 Yılında, Bristol University Yayınları tarafından İngilizce olarak yayınlanıyor. Daha sonra, Kar amacı gütmeyen Tech Policy Press’in editörü Justin Hendrix, kitabın yazarı Dan McQuillan ile uzun bir röportaj yapıyor Mart 2025 tarihinde. Yapay Zeka Renkleri olarak burada ilgili röportajın önemli kısımlarını özet olarak okuyucularımıza sunuyoruz.
Otoriterliğe ve hatta faşizme daha az misafirperver bir gelecek geliştirmek için ne gereklidir? Dan McQuillan, 2022’de Bristol University Press tarafından yayınlanan Resisting AI: An Anti-fascist Approach to Artificial Intelligence adlı kitabın yazarıdır .
Justin Hendrix:
Günaydın. Ben Tech Policy Press’in editörü Justin Hendrix, teknoloji ve demokrasinin kesiştiği noktada yeni fikirler, tartışmalar ve fikir alışverişleri yaratmayı amaçlayan kar amacı gütmeyen bir medya girişimiyim.
Teknoloji ve siyasetin kesişimini inceleyen bir dizi araştırmacı, yapay zekanın otoriterlerin çıkarları doğrultusunda nasıl kullanılabileceği konusunda endişe verici yollara işaret ediyor. 2019’da, Carnegie Endowment’tan Steven Feldstein, Journal of Democracy’de şöyle yazmıştı : “Dünya çapında, yapay zeka sistemleri baskıcı rejimlere yardım etme ve vatandaş ile devlet arasındaki ilişkiyi altüst etme potansiyellerini gösteriyor ve böylece otoriterliğin küresel çapta yeniden canlanmasını hızlandırıyor.”
Altı yıl sonra etrafınıza bakın. Bu potansiyel, Amerika Birleşik Devletleri’nde demokrasinin başarısız olma ihtimali ve yurtdışında liberalizm ve otoriterliğe doğru devam eden eğilimle karşı karşıya olduğumuzda çarpıcı bir gerçekliğe dönüştü. Yakın zamanda birinin bana söylediği gibi, “Mantıklı. Yapay zeka, birçok yönden, daha fazla bilgiyi, daha fazla sistemi, daha fazla insanı merkezi teknolojilerin kontrolü altına sokmak için bir araçtır.”
Bugünkü konuğumuz yıllardır bu konuları düşünüyor ve birkaç yıl önce, OpenAI’nin ChatGPT’sinin yayınlanmasıyla tetiklenen katalizör anından hemen önce, yapay zekaya baskıcı değil özgürleştirici bir bakış açısıyla direnmemizi ve onu yeniden hayal etmemizi isteyen bir kitap yayınladı.
Dan McQuillan:
Ben Dr. Dan McQuillan. Londra Üniversitesi’nin bir parçası olan Goldsmiths’te yaratıcı ve sosyal bilişim alanında kıdemli öğretim görevlisiyim. Ve Resisting AI: An Anti-facist Approach to Artificial Intelligence adlı bir kitabın yazarıyım .
Justin Hendrix:
Bugün sizinle bu kitap hakkında konuşmaktan heyecan duyuyorum. Yapay zeka ve teknoloji, siyasetin kesişim noktası hakkındaki bu merakın deneysel fizik alanında doktora yaparak nasıl ortaya çıktığını sormak istiyorum?
Dan McQuillan:
Fizik, sanırım, insanların değerlerini koruyup ana akımdan ayrıştığı bir tür asil azınlık geleneğine sahip. Sanırım yakın zamanda yeniden kurulan Science for the People adlı bir grup var ve başlangıçlarının, fizik kurumunun Vietnam Savaşı’na temelde katılma biçiminden şikayet eden muhalif bir grup olan Amerikan Fizik Derneği’nde olduğundan oldukça eminim.
Neyse, bu benim biyografim değil. Doktora yaptım ve sonra endüstriyel ölçekli bilimin gerçekten umduğum gibi nihai cevapları bulmanın heyecan verici projesi olmadığına karar verdim. Bu yüzden zihinsel sağlık sorunları olan insanlarla, toplumdaki öğrenme güçlüğü çeken insanlarla çalışmaya oldukça yan bir dönüş yaptım. Ve bu tür birçok şey yaptım ve sonra çalıştığım birçok kuruluşun bilgisayarlarla çalışan insanlara ihtiyaç duyduğunu gördüm. Dolayısıyla, deneysel parçacık fiziği alanında doktora yaparak bu konuda oldukça fazla deneyim kazanmıştım.
Yani aslında bir şekilde bu iki dünyayı birbirine bağlamaya geri döndüm. İyi bir şeydi. Geriye dönüp baktığımda, bazı fikirler pek sağlam temellere oturtulmamış olsa da süreç iyiydi. Ve sonunda, Amnesty and Human Rights gibi yerlerde dijital insan hakları ve ilgili şeyler yaparak çalıştım ve sonra yaklaşık 10 veya 11 yıl önce akademiye geri döndüm ve o zamandan beri oradayım. Ve aslında her iki kampta da bir ayağım var.
Büyük verinin yükselişini gördüm, o zamanlar böyle adlandırılıyordu. Biraz dikkat ettim, benim alanımdaydı, bir bilgi işlem bölümündeyim ve ağlar ve ilgili teknolojilere geçtim. Gerçekten ne yaptıklarını anlamak istedim. Ve sanırım matematik geçmişim nedeniyle, aslında, özellikle doktoram için yaptığım matematik bana bu konuda hızlı bir başlangıç sağladı. Ve bu yüzden, araştırdığımda, yapılan iddialar hakkında bazı şeyler fark ettim. Ve zaten politiktim, aynı zamanda tüm bu şeylere paralel olarak sosyal hareketlerde aktif olma konusunda uzun bir geçmişim vardı, bu yüzden aslında iki ve ikiyi bir araya koyun.
Justin Hendrix:
Dinleyicilerim kitap yazarlarıyla röportaj yapmama ve fikirlerini konuşmama alışkınlar, ancak bu kitabı yayınladıktan birkaç, üç yıl sonra size geliyorum. Bu kitabı, Yapay Zeka’ya Karşı Direniş: Yapay Zeka’ya Karşı Anti-Faşist Bir Yaklaşım’ı, 2022’de, ChatGPT’nin piyasaya sürülmesinden ve bu özel yapay zeka türü olan üretken yapay zeka etrafındaki mevcut çılgınlığın başlamasından hemen önce yazmış olmanız, kitabı yayınladığınızda bu teknolojiye karşı muazzam bir merak anının eşiğinde olduğumuzun farkında mıydınız? Bunu önceden gördünüz mü yoksa beni etkilediği gibi sizi de etkiledi mi? Neredeyse, ChatGPT ortaya çıktığında insanların bu kadar şaşırmasına neredeyse şaşırdığımı hissediyorum.
Dan McQuillan:
Biraz öyle aslında. Bu şeylerin sınırlamalarını göstermek için GPT modelleriyle biraz daha uğraştım. Ve kitap dediğin gibi yayınlandı, ChatGPT anından yaklaşık altı ay önceydi. Bunun olacağını görmedim ve yine o zamanlar biraz şaşkındım. Şimdi bunun üzerinde biraz daha fazla kontrol sahibi olduğumu hissediyorum. Ama en başından beri bunun saçmalık olduğunu düşündüm ve üretken yapay zeka da öyle ve hala saçmalık olduğunu düşünüyorum.
Bence üretken yapay zeka veya diğer dönüştürücü modeller ve bunların sosyal etkileri, değindiğimiz tüm nedenlerden dolayı kesinlikle özel ilgiyi hak ediyor, çok fazla kamuoyunun dikkatini çektiler ve yaptılar, aldılar… Kitabı yazdığımda, kısmen devletin idari yapılarını ve genel olarak idari yapıları istila eden ve toplumun ele alınmayan bir tür sahte düzenleyici gücü gibi davranan görünmez bir teknoloji hakkında bir uyarı olarak yazdım ve sonra açıkça annem beni haftalık olarak arayıp yapay zekanın tekrar haberlerde olduğunu söylemesi durumuna düştüm ve tüm bunlar hakkında ne düşündüm? Tartışmaya açık.
Ama yine de kitapta genel olarak YZ hakkında öne sürülen argümanların genel olarak doğru olduğunu düşünüyorum, bu da kendine özgü bir tür domino etkisine sahip olan üretken AI için de geçerli. Ve bu, son zamanlarda Silikon Vadisi ve siyasetin birleşmesiyle bir araya geldi ve kitapta bahsettiğim şeyle tam olarak örtüşüyor.
Ve evet, üretken YZ ile olan biten benim için bir sürprizdi. Transformatör modellerinin veya büyük dil modellerinin simüle etmeye çalıştıkları şeyleri bu kadar hızlı simüle etmede bu kadar iyi olmasını beklemiyordum. Ve insanların buna olan coşkusunu da tahmin etmiyordum. Ancak daha geniş sosyal ve politik etkilerin, daha önceden kontrol edebildiğim şeyler olduğunu düşünüyorum.
Justin Hendrix:
Bu kitabın ilk sayfasını kelimenin tam anlamıyla açan herkes, tırnak işaretiyle, “Bu kitap, yapay zekanın tanıtımına nasıl ve neden direnmemiz gerektiğiyle ilgilidir,” ifadesini bulacaktır. Sanırım bazı insanlar kitabı oraya koyabilir, “Ah, Dan çok uç noktalarda. Proteinleri katlamıyor muyuz? Bazı bilgi biçimlerinin üretimini hızlandırmıyor muyuz? Türlere hizmet eden çeşitli yenilikler yaratmıyor muyuz?” diyebilirler. Genellikle, merkezci veya hatta liberal politikacılardan duyduğunuz argüman, yani bunu Paris YZ Eylem Zirvesi’nde dünya liderlerinden oldukça fazla duyduk. Çok fazla fayda var ve aynı zamanda risk de var ve ikincisine yakalanmadan ilkinden nasıl yararlanacağımızı öğrenmeliyiz. Öyleyse neden bu uç noktadaki ifadeyle başlıyorsunuz? Neden okuyucunun yüzüne vuruyorsunuz?
Dan McQuillan:
O zamanlar, çok daha az sayıda insanın bir YZ ile ilgilendiği bir durumu yönetiyordum. Yani aslında, insanların onunla ilgilenmesini sağlamaya ve aynı zamanda bunu engellemeye çalışıyordum.
Ben, belirli bir teknoloji etrafındaki şeylerin daha geniş birikimi olarak adlandıracağım YZ aygıtını buluyorum. Yani YZ’nız var, gerçek bir şey, gerçek şeyler yapıyor. Bu şeylerin değerinin ne olduğu başka bir konu, ancak gerçek şeyler yapıyor. Boş bir kabuk değil. Ve sonra bunun etrafında toplanan epistemolojilerin ve politikaların modları ve kurumsal güçler var. Ben bunlara aygıttaki tüm bu şeyler diyorum. Ve bazen benim için çok fazla ilgiye değer. Kesinlikle, çünkü bu aygıtta olan belirli şeylerle ve çok ilgimi çeken daha geniş toplumsal ve politik dinamiklerle çok fazla rezonans var.
Ve aklıma getirdiğin şeylerden biri de merkezcilik. Burada merkezciliğin doğru yol olmadığını ve bir dengeye sahip olmamız gerektiğini ve biraz da her iki tarafın da olması gerektiğini söylemek için gerçekten ilginç bir zaman. Bu soru, YZ hakkında yazdıklarım hakkında soruluyor ve aynı zamanda merkezciliğin bir tür politik yaklaşım olarak zamanımıza tamamen uygunsuz olduğunu söyleyeceğim.
Yani, dirençten ziyade yapay zekaya karşı dirençten bahsediyorum. Politik bir hareketten bahsetmiyorum, yapay zeka olan belirli bir teknik yönün sosyal, politik, ekonomik ve çevresel etkilerinden bahsediyorum. Ve bu konuda özellikle titizim, yapay zeka dediğimde, sinir ağları, derin öğrenme ve üzeri üzerine inşa edilmiş şeyler, ki bunlara dönüşüm modelleri de dahildir. Protein katlanmasını yapan takviyeli öğrenme türlerini de içerir ki bu arada bu hiç de üretken yapay zeka değildir. Ve eleştirim tüm bu şeyler için geçerlidir çünkü bence belirli özelliklere sahiptir. Ve kitapta yapmaya çalıştığım şey, temellerden yola çıkarak yapay zekanın aslında ne olduğunu söylemeye veya açıklamaya çalışıyorum. Bu şeyler, sinir ağları ve bu teknolojiler gibi. Çalışma biçimlerinin neden belirli anında sonuçları var, örneğin temelde iç işleyişlere dair temel bir opaklık ve tam olarak neden o şeyi tahmin ettiğini söyleyememe gibi. Neden o kişiyi özellikle riskli olarak seçti?
Ve bu, usule uygun yargılama veya bu tür pragmatik yargısal demokratik fikirler gibi terimlere aşina olan herkesin hemen, tamam, bu bir sorun olabilir, diyeceği bir şeydir. Doğrudan mevcut olan teknolojiden hemen kaynaklanan bu tür şeylerden bahsettiğimde, ilk etapta bu modellerin güvenilmezliğinden kaynaklanan ikincil hasar da dahil. Sonra, tamam, eğer bunlar bir sosyal bağlama ve özellikle de idari bir bağlama sokulursa ne tür etkilere sahip olacaklarına bakmaya çalışıyorum çünkü özellikle baktığım şey buydu.
Bu yüzden, YZ’nın aslında yaptığı şeyin bir bakıma bürokrasinin yaptığı şeye çok benzediğini ileri sürüyorum. İnsanları uzaklaştırıyor, düşüncesizlik vektörü yaratıyor ve benzeri şeyler. Bu yüzden, YZ ile yapısal şiddet arasındaki ilişkiye çok bakıyorum; bu, insanların belirli idari ve yapısal önlemler nedeniyle ihtiyaç duydukları şeyleri elde etmesinin engellenmesidir.
Yani belirli bir teknoloji üzerinde çalışıyor, sosyal etkilere bakıyor, kurumsal etkilere bakıyor ve sonra daha fazlasına bakıyor, jeopolitik değil ama daha geniş etkilere, hala çok fazla kemer sıkma sonrası, hala finansal krizden çok etkilenen, covid’den etkilenen, ancak bunun hiç olmadığını inkar etmek için elinden geleni yapan bir dünya bağlamında bakıyor. Ve iklim krizi tarafından çok etkileniyor. Tüm bunlar dinamikleri şekillendiren çok güçlü şeyler. Peki, belirli olanaklara sahip bu belirli türdeki teknolojiyi aldığınızda, ne olur? Ve ben yapay zekanın aslında nekropolitik bir teknoloji olarak adlandırdığım bir şey olduğunu, bir şekilde veya başka bir şekilde insanların gereksiz yere ölmesine yol açacak bir şey olduğunu savunuyorum.
Ve evet, kitabın yapay zeka hakkında değil, onun ötesindeki yollar hakkında olumlu olmaya çalışan başka bir bölümü daha var.
Justin Hendrix:
Yapay zekanın ortaya çıkardığı bazı sorunlar için tırnak içinde yapılan düzeltmelerin neden başarısız olma olasılığının yüksek olduğunu ve yapay zeka etrafında ortaya çıkan genel çözümcülükten bahsediyorsunuz. Bence bu daha ilginç şeylerden biri. Bugünlerde bir siyasi lider, bir devlet lideri veya bir düzeyde bir politika yapıcı olmanın nasıl bir şey olduğunu çok düşünüyorum. Burada, birbirine bağlı, karmaşık çok sayıda sorunla karşı karşıyasınız. Bir şekilde, en azından bir düzeyde kamuoyuna karşı sorumlu olmalısınız. Muhtemelen bu sistemleri hızlı bir çözüm olarak gördünüz. Microsoft, Google ve OpenAI’daki bu adamlar, diğer birçok firma, bakın, sihirli bir kutumuz var ve sorunlarınız varsa, bu sorunlar üzerinde çalışabiliriz diyorlar. Bunları yapay zeka ile çözeceğiz. Ve sonunda, sadece bu sorunları çözmekle kalmayacağız, tüm sorunlarınızı çözeceğiz. Size sihirli cevabı vereceğiz. Sanki onların yerinde olsaydım ve o gösterge paneline bakarken, o iksirin kokusunun oldukça cezbedici olacağını hissediyorum.
Dan McQuillan:
İnsanlar açıkça o iksirden çok içiyor ve hepimiz akşamdan kalma olacağız.
Bu konuyla ilgili bir diğer şey, çürütülmeye değer olan yapay zekanın birincil karmaşası, bunun başka bir yerden geldiği fikridir. Ya laboratuvarların derinliklerinden ya da Geoffrey Hinton’ın beyninin derinliklerinden ya da gelecekten ya da buna benzer bir şeyden geldi ve sonra dünyaya geldi. YZ’yı nasıl yöneteceğimizi ve iyi kısımları nasıl koruyup kötü kısımları nasıl yok edeceğimizi bulmamız gerekiyor. Yapay zeka başka bir yerden gelmiyor, tamamen tüm güçlerin bir ürünü. Aslında, ilk etapta finansal çöküşe neden olan aynı güçlerin doğrudan bir ürünü. Bu belirli amaçlar için bu belirli türdeki teknolojiye büyük yatırım yapan aynı insanlar.
Yapay zekanın bildiğimiz haliyle son derece dar bir teknoloji olduğunu hatırlayalım. Sektördeki insanların bile, mümkün olduğunca sektör anlatılarını ve diyaloglarını, çoğunlukla podcast’leri dinliyorum.
Yapay zekayı bir tür beşeri bilimler anlamında yakından okumanız ve onun nezaketini anlamanız, ne yapacağını anlamak için nereden geldiğini anlamanız gerekir. Ve aynı şeyleri görmek ve onu üreten sistemle aynı türden önlemleri almak için tam olarak aynı yerden gelir.
Ve aynı zamanda, bahsettiğiniz bu amaca hizmet ediyor. Bunu yaparken, aynı zamanda çözümcülüğün bu bilimkurgu anlatısını da sağlıyor. Belki sadece bitirmek için, YZ’nın karşılaştığı herhangi bir soruna bakarsanız, açıkça AI’nın merkezi paradigması ölçektir, ancak AI’daki bir başka tür tekrarlanan söylem, YZ ile ilgili bir sorun varsa, çözmemiz gereken şeyin daha fazla YZ olmasıdır. Ve bir şekilde bu, kendilerinin çoğunlukla yarattığı veya en azından finansal kriz durumunda kolaylaştırdığı sorunlarla başa çıkamayan bu devletlerde olan şeyin aynısının iç içe geçmiş bir versiyonudur.
Justin Hendrix:
Kitabın ilk yarısında, yapay zekanın tanıttığı veya kesiştiği çeşitli türden sorunları ele alıyorsunuz. Bunların çoğu Tech Policy Press dinleyicilerine tanıdık geliyor. Bu podcast’te bu konulardan sürekli bahsediyoruz, her türlü güvencesizlik, ekonomik güvencesizlik, işçi sorunları, yanlış ve dezenformasyonla kesişim. İklimden bahsediyorsunuz, çeşitli diğer adaletsizlik biçimleriyle kesişimden bahsediyorsunuz. Ancak yapay zekanın faşizmle ilişkisine özel bir zaman ayırıyorsunuz ve bana göre bu, şu anda birçok kişinin dilinde olan bir kelime. Son birkaç yılda bu ilişki hakkında düşünme şeklinizi değiştiren bir şey oldu mu? Yoksa kavramsal çerçevenizin gerçek dünya örnekleriyle dolu olduğunu mu görüyorsunuz?
Dan McQuillan:
Evet. Bazen öğrencilerime söylediğim gibi… Örneğin, etik bilişim üzerine bir ders veriyorum ve özellikle Silikon Vadisi’nin, distopik bir alegorik uyarı olarak tasarlanmış bir bilimkurgu filmini kaç kez bir iş planına dönüştürdüğüne dikkat çekiyorum. Tıpkı senin söylediğin gibi, bir noktada birisinin bu kitabı birkaç yıl önce okuyup “Bu harika bir plan. Daha fazla yapay zeka ekleyerek faşist eğilimlerimizi gerçekten derinleştirelim.” diye düşünmesi benim için bir tür dehşet anıydı.
Neyse, hepimiz bir şeyler anlamaya çalışıyoruz, sanırım özellikle bu podcasti dinleyenler, ABD’deki rejim geçişinde tam olarak ne olduğunu ve bunun dünyanın geri kalanı üzerindeki etkilerini anlamaya çalışıyor. Bunun hem teknik araçlarla hem de zihniyet türüyle, Silikon Vadisi zihniyetiyle olan ilişkisi ve iç içe geçmesi ve bunun AI tarafındaki baskın güçlere bakarsanız… Aslında kitaba geri dönüp bakarsam ve sanırım kitapta bu güçleri ve dinamikleri adlandırdım, siyasi ideolojiler gibi şeylerin etkisinden açıkça bahsettim.
Formun Altı
O an temelde bir sezgiydi veya sürecin her iki tarafına yönelik hassasiyetlerimden kaynaklanan bir tür içgüdüsel histi. Teknolojilerle ilgili neler olup bittiğine dair biraz anlayışa sahibim ve ayrıca yıllar içinde kendi politik deneyimlerim oldu ve bu iki şey, bu şeyin nereye gittiğine dair bir sezgiyle benim için çok güçlü bir şekilde birleşiyor. Ve sanırım son birkaç ayda çoğu zaman olan şey, aslında sadece derinleşti, bu şeylerin aslında oldukça yerinde ve biraz genişletilmiş olduğu. Sanırım kitapta çok fazla şey ifade etmedim, çünkü örneğin, şu anda sahip olduğumuz faşist eğilimlerin, aşırı sağ ve otoriter rejimlerin, kendisini görmek istediği gibi, liberal kurallara dayalı düzenin ürünü olduğu ve bir bakıma mezar kazıcıları olan elini ürettiği dinamiklerin teknik süreçle ne kadar aynı olduğu konusunda biraz daha fazla şey yapmaya çalıştım. Örneğin, yapay zekanın kendisi, köklü yapısal sosyal sorunları çözme iddiasında bulunurken, aslında aynı zamanda bir dikkat dağıtma işlevi görürken, bu sorunları daha da yoğunlaştırıyor.
Bunları biraz daha ifade etmeye çalıştım ve aslında birkaç ay önce yazdığım, İngiltere’deki bir durumdan ve buradaki İşçi Partisi’nden bahseden bir makaleyi yeniden okuyordum. İşçi Partisi hükümeti Ocak 2025’te bir yapay zeka planı yayınladı. Bu yüzden Computer Weekly’de ” İşçi Partisinin Yapay Zeka Planı, Aşırı Sağa Bir Hediye ” adında bir makale yazdım . Ve bahsettiğimiz her şeyin, çevresel sonuçların, çözümcülüğün ve tüm bunların bir eleştirisiydi, ama aynı zamanda tekrar, neden bu çözümü çok belirli bir şekilde kullanmaya çalıştıklarını da söylemeye çalışıyordu. Bu çözümleri, sığınmacıların bulunduğu otelleri yakmaya çalışan aşırı sağcı pogromlar yaratan türden toplumsal sorunlara bir cevap olarak kullanmaya çalışıyorlar. Yapay zekayı, toplumdaki yapısal sorunları ele alma başlığı altında milliyetçi söylemler yığarak soruna fırlattıklarını hayal etmeye çalışırken, elimden geldiğince bunun aslında neden aynı tür hata olduğunu ortaya çıkarmaya çalışıyordum. Yani şimdi söylemek çok uzun bir yol aslında düşündüğüm gibi görünüyor.
Justin Hendrix:
DOGE ve Elon Musk’ta yeni bir şey var mı ve gördüğünüz şey nedir? Yapay zekanın, idari devletle, bürokrasiyle ilişkisinin eleştirisini yazıyorsunuz, ancak yine de özellikle çocuksu bir distopiklik var gibi görünüyor… Kelimenin ne olduğunu bilmiyorum, onu tanımlamak istiyorum. Şu anda gördüğümüz şeye bir tür gonzo saçma doğası.
Dan McQuillan:
Şimdi, bunların hepsi alakasız gelebilir, ama bence alakasız değil, çünkü nihilist ivmeciliğe bakarsanız, Musk’ın yıkıcılığını görebilirsiniz. Ama aynı zamanda çok daha anlaşılır veya diyelim ki ideolojik olarak tutarlı olan, hem Silikon Vadisi düşüncesinin hem de şu anki aşırı sağ düşüncenin arkasındaki güçler olan çok sayıda ivmecilik de görebilirsiniz. Bu bir ivmeci bakış açısıdır. Bu dönüşümü elde etmek için her şeyi yakmak. Bu çok faşist bir fikir.
Justin Hendrix:
Kitabın ilk bölümü sorunları ortaya koymak ve YZ ile politika arasındaki ilişkiye dair bakış açısını ortaya koymakla ilgiliyse, ikinci bölümde farklı bir şeyden, post-makine öğrenimi denen bir şeyden, potansiyel olarak hesaplama hakkında yeni düşünme yollarından, teknolojiyi nasıl yapacağımıza dair yeni düşünme yollarından bahsediyorsunuz. Feminist bilimden bahsediyorsunuz, post-normal YZ dediğiniz bir şeyden bahsediyorsunuz, yeni materyalizm denen bir şeyden bahsediyorsunuz.
Bize biraz bundan bahseder misiniz? Post-makine öğrenimine nasıl ulaşıyoruz? Dinleyicilerim bu terim hakkında ne anlamalı ve neyi hedefliyorsunuz?
Dan McQuillan:
Podcast’in potansiyel okuyucusuna veya dinleyicisine karşı adil olmak gerekirse, ‘şeyleri tekrar inşa etme’nin kitabın yaklaşık üçte biri, son üçte biri olduğunu söyleyebilirim. Yapay zekayı ciddiye aldığımı söyleyebilirim. Onu tamamen reddetmiyorum. İddia edilen şeylerden herhangi birini yaptığı veya herhangi bir tür çözüm veya herhangi bir tür gelecek olduğu fikrine kesinlikle katılmıyorum, ancak teknik işlevi açısından ciddiye alıyorum, ancak aynı zamanda örneklediği dünyaya yaklaşım biçimi açısından da ciddiye alıyorum. Yapay zekanın daha geniş bir meşruiyeti nedir, yapay zeka bizim için neden herhangi bir şekilde mantıklı? Ve bunu tekrar bir süreklilik olarak okumaya çalışıyorum, bir şekilde yapay zekanın üzerine inşa edildiği şey olarak?
Justin Hendrix:
Sanırım bu, anti-faşist yapay zeka ile kastettiğiniz şeydir. Tırnak içinde hiçbir şeyi çözmeye çalışmayan, sadece değişen koşullar ve kolektif özgürleşmeye katkıda bulunan yollar altında bakım ve toplumsal üretim sistemlerinin sunumunu sürdürmeye çalışan bu yeni aygıttan bahsediyorsunuz. Sanırım bu konuda, bu anti-faşist yaklaşımla nereye geldiğinizi merak ediyorum. Bu kitabı yazdığınızdan ve dünyada üretken yapay zekaya verilen bu tepkiye tanık olduğunuzdan beri düşünceniz nereye gitti ve bir şekilde, sanırım Sam Altman ve Elon Musk ve bu vaatlerde bulunan diğerleri, birçok yönden, belki de özel olarak söylemelerinden korktuğunuz her şeyi yüksek sesle söylediler.
Dan McQuillan:
Yüzde yüz seninle aynı fikirdeyim. Bu tür bir argüman için alan, dikkat çekilmesi gereken bir şeyden, hiçbirimizin günlük hayatta kaçamayacağı bir şeye tamamen kaydı. Semptomlar çok belirginleşti, bu yüzden bunlarla başa çıkılması gerekiyor. Kitapta, sanırım kitabın en erken cümlelerinden birini veya muhtemelen ilk cümlesini alıntıladın, sanırım çok kısa bir süre sonra muhtemelen YZ’nın politik bir sorun olduğunu söylerdim, o zamanlar bu söylenmesi yeni bir şey gibi görünüyordu. Herkes “Tamam” derdi, ama aslında o zamanlar, sadece politik bir sorun olduğunu değil, politik bir tepkiye ihtiyacı olduğunu söylemeye çalışıyordum. Ve politik bir tepki dediğimde, gerçekten karşı güç anlamında kastediyorum, aynı politik yapıların aslında aynı şeyin farklı bir versiyonu olduğunu kanıtlamak için yaptırım uyguladıkları performatif bir tepki anlamında kastetmiyorum. Bu şeylere en azından bir tür kurucu güce sahip oldukları temelinde bir kırılma gücü uygulayabilen şeyleri zorla.
Bunun bariz bir örneği bir sendika veya benzeri bir şey olabilir, ancak ben bu tür şeyler hakkında açıkça düşünmeye veya bu tür şeyler hakkında esnek düşünmeye çalışıyordum. Ve tekrar, gerçekten sadece yapay zekayı ortaya çıkaran şeyin, yapay zekanın hizmet ettiği ilginin, düzenlediği dünya türünün senaryosunu tersine çevirerek. Eğer isterseniz, kitaptaki tarifim işçi ve halk konseyleriydi. Ve bu, belirli sorunlar veya belirli seçim bölgeleri etrafında toplanan meclisler, kolektifler için bir tür genel etiketleme olması anlamına geliyordu. Önceki bölümde, az önce bahsettiğimiz bölüm de Paulo Freire ve eleştirel pedagojiye atıfta bulunmaya çalıştı, bu nedenle Donna Haraway’in dediği gibi, yerleşik bilgiyi, eleştirel pedagojiyi yalnızca yapay zekanın yanlış çözümlerini değil, aynı zamanda bu yanlış çözümün çözmeyi iddia ettiği sorunları da ele almak için uygulayabilecek örgütlenme biçimleri aradı.
Ve bunları dile getirmeye çalıştım çünkü sanırım kitapta, genel ortak iyilik için hayatı düzenlemek için normalde güvendiğimiz mekanizmaların, haklı veya haksız bir şekilde, bu bağlamda işe yaramayacağını düşündüğümüz her şey olduğunu da iddia ediyordum.
Ve böylece geldiğim nokta, yapay zekanın altyapılarının şok edici küresel kuşatmalarıyla daha fazla ilgilenme, bunun maddi boyutlarıyla daha fazla ilgilenme fikrinden biraz etkilendim ve decomputing adını verdiğim bir şeyi teşvik ediyorum.
Justin Hendrix:
Son birkaç haftayı veri merkezlerinin uydu görüntülerine ve tabii ki dünyanın dört bir yanında yapılan muazzam yatırımlara bakarak geçirdim. Bu tesislerin nasıl inşa edildiği, nerede inşa edildiği ve anlaşma türleri açısından kalıplar var. Şirketler hükümetlerle kaynaklar, su, elektrik, toprak ve işgücü için grev yapıyor. Bunların hepsini, decomputing’in neyi kapsadığını sormaya bir giriş olarak söylemek istiyorum.
Dan McQuillan:
Elbette, insanların, benim görüşüme göre, bizi gezegensel ve toplumsal çöküş noktasına getiren mevcut sistemlerimizin temel kusurlarından biri olarak doğru bir şekilde tanımladıkları şey. Bu, sonsuz büyüme veya sadece büyüme fikri gibi. Ve yapay zekanın kendi versiyonu var, ölçekleme ve uydu fotoğraflarında gördüğünüz şey bu. Göremediğimiz ama kesinlikle okuyabildiğimiz şeyler, şirketler olarak trilyon dolarlık değerlemeler veya her neyse. Evet, yani bir dereceye kadar bir küçülme hareketinin birçok paralelliği veya hatta doğrudan yönleri var.
Bunlar harika terimler değil çünkü, açıkçası, küçülmeyle ilgili sorun küçülmenin iyi kısımlarının aslında bir şeyi yok etmekten ziyade bir şeyi desteklemesidir. Söyledikleri şey, yeniden yapılanmaya ihtiyacımız olduğudur. Sürdürülebilir bir refah sağlamak için siyasi ekonomilerimizin yeniden yapılandırılmasına ihtiyacımız var. Ve bu nedenle bir dereceye kadar hesaplamadan arındırma, bu bakış açısını özellikle yapay zekaya uygulamaktır, yapay zeka ile başlayarak. Bence oradan dışarıya doğru çalışabilirsek, yapay zekanın gerçekten ilerici tekno-politikalar için belirli bir başlangıç noktası olduğu ve yapay zekaya direnmenin bu başlangıç noktası olduğu konusunda bir bayrak dikebiliriz. Ve bu yapay zekaya direnme biçimi, bu hesaplamadan arındırma fikrinin bir yandan küçülmenin bu yönüne sahip olması. Ve bu açıkça sadece çevresel veya çok fazla sosyal etkisi olan ekonomik bir şey değil, aynı zamanda otomasyondan arındırma olarak adlandıracağım şey konusunda oldukça güçlü bir çizgi izliyor.
Yani bu gerçekten mevcut yapılarımıza ve akıl yürütme ve karar alma biçimlerimize ve genel sosyal mantıklarımıza, yapay zeka tarafından kolayca yoğunlaştırılabilmelerine, kolayca merkezileştirilebilmelerine, daha da soyutlaştırılabilmelerine, silahlandırılabilmelerine olanak tanıyan bir şekilde sorunlu olmalarına bakıyor, çünkü toplumlarımızı zaten organize ettiğimiz yollar nedeniyle, zaten bir şekilde otomatikleştirilmiş durumdalar. Diyelim ki İngiltere’de ve Çalışma ve Emeklilik Bakanlığı’nda alınan kararlar, devletin bakımına ve desteğine ihtiyaç duyan biriyle ilgili kararlar, çok otomatik bir şekilde. Daha iyi bir dünya inşa etme pozisyonunda olmadığımız çok açık çünkü çok güçsüzüz. Yetkimizi kaybettik, kolektif eylemin ne anlama geldiğine dair anlayışımızın çoğunu kaybettik. Ya da dayanışma ve karşılıklı yardım fikirlerinin çok az uygulandığı ve daha geniş ölçekli bir dönüşüm sürecine gerçekçi bir şekilde girebilmemiz için bu şeylerin geri kazanılması, geliştirilmesi ve inşa edilmesi gerektiği hala orada, hala çok gizli. Ve bence AI tam da buna karşı zehirli. Hiçbir karar alma sürecini YZ’a bırakmayın diyor. Bu teknolojiler aracılığıyla toplumsal süreçleri, düzenlemeleri veya dengelemeleri aracılık etmeyin. Ama bundan da öte, bu diğer bireysel kolektif ve ekolojik kapasiteleri geliştiren karar alma ve dünyayı anlama yolları geliştirmemiz gerekiyor.
Yani temel olarak, evet, biraz küçülme, biraz otomasyondan çıkma ve genel bir yapı sağlamaya çalışmak ama aynı zamanda temellerden başlamak. Veri merkezlerini durdurun, bunun bir parçası bu. Veri merkezlerini şu anki yerlerinde durdurun. Kesinlikle, artık hiper ölçekli YZ veri merkezleri yok. O arazi, varsa, ortak arazi olarak geri kazanılmalı ve hemen bir tür toplumsal değere dönüştürülmeli.
Bunun avantajı, aslında, tekrar ediyorum, belirli dinamiklerin, diyelim ki, şeyleri ön plana çıkardığı, soruları kaçınılmaz hale getirerek bize bir iyilik yaptığı fikrine değinmiş olmanızdır. Ve bence yapay zeka altyapısı bunu yapıyor. Veri merkezleri, etraflarındaki insanlara açıkça ve anında zarar veriyor, ancak aynı zamanda diğer açık ve anında zarar biçimleri için de platformlar. İsterseniz iklim karşıtılar. Ayrıca işçi karşıtılar. İnsanların aşağılandığı ve güvencesiz hale getirildiği araçlar, daha önce de belirttiğiniz gibi, Tech Policy Press için oldukça önemli bir konu, bunlar güvencesizliği sağlayan platformlar ve insanları giderek daha fazla marjinalleştirecek ve yaşamaya devam etmeyi zorlaştıracak platformlar.
Yani veri merkezlerine karşı çıkmanın basit fikrinin, sadece arka bahçemde değil, bu büyük korkunç bina türünden, ama daha geniş anlamda, karşı çıkılması gereken belirli bir politikanın veya belirli bir tekno-politikanın fiziksel bir örneği olması potansiyeli var. Ve bundan çok acil bir şey olması gibi bir dizi olumlu adım çıkıyor. Bana göre, bunların hepsi özetlenebilir, örneğin, nerede olursanız olun, bir üniversitede mi yoksa ticari bir ortamda mı, bir fabrikada mı çalışıyorsunuz, ne iş yapıyor olursanız olun. Bir toplum çalışanısınız, ne iş yapıyor olursanız olun. Birisi geldiğinde, kim olursa olsun, ve bu genellikle patronunuz olacak ve “Biliyorum, harika bir fikrim var, işinizi destekleyebiliriz çünkü harika bir yapay zeka aracımız var” diyecek, bu “Tamam, burada zaten bir sorunumuz var” deme anıdır.
Burada Danimarka’da bir şeyler çürümüş durumda. Öncelikle buna son vermeliyiz çünkü bu gerçekten işleri daha da kötüleştirecek. İkincisi, bir araya gelip şu anda ne yaptığımız, neyle uğraştığımız hakkında ele almamız gereken cevapsız sorular olduğu açık. Yüksek öğrenim adına konuşabilir ve bunun kesinlikle doğru olduğunu söyleyebilirim. Yapay zekanın tamamen açık hale getirdiği şey, yüksek öğrenimin kitleselleşmesi, endüstrileşmesi, finansallaşması tarafından eğilmiş olan öğrenme fikrinin neredeyse çöküş halinde olmasıdır. Bu yapay zekanın hatası değil, ancak yapay zeka son damla ve her yerde aynı şey. Yani decomputing bir tür küçük resim kılavuzu, eğer bunu bir cevap olarak öneriyorlarsa, gerçekten direnmemiz gerektiğini ve kendi küçük alanımızda ve aslında biraz inisiyatifimizin olduğu kısımda, daha fazla inisiyatif nasıl elde edeceğimiz ve daha iyi bir dünyanın nasıl görünebileceğini nasıl öngördüğümüz hakkında gerçekten konuşmamız gerekiyor. Sadece bizim küçük parçamızda bile.
Justin Hendrix:
Resisting AI: an Anti-Faşist Approach to Artificial Intelligence kitabının yazarı Dan McQuillan. Bugün benimle konuştuğunuz için teşekkür ederim.
https://www.techpolicy.press/is-an-antifascist-approach-to-artificial-intelligence-possible/