Kate Crawford’ın “Yapay Zekâ Atlası” Üzerine Bir Değerlendirme http://ilefdergisi.ankara.edu.tr ilef dergisi • 11 (1) • bahar/spring: 190-202 Kitap İncelemesi
Esra Özgür / Ankara Üniversitesi İletişim Fakültesi https://orcid.org/0000-0003-4632-453X esraozgur@ankara.edu.tr
Özet:
Bu değerlendirme yazısında Kate Crawford’ın Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence başlıklı kitabı incelenecektir.
Yapay zekâ, sıklıkla tarafsız ve daha iyi karar alabilme becerisiyle insanı aşan bir teknoloji olarak sunulmaktadır. Crawford ise yapay zekâ teknolojisinin materyal yapısından ve onu inşa edenlerin ideolojilerinden bağımsız, salt teknik bir fenomen olarak ele alınmasının hatalı olduğunu savunuyor. Yazar, kişisel deneyimlerinden ve öznel bakış açısından yola çıkarak kurduğu bu atlas ile bizi günümüzün teknolojik ilerlemesinin ardındaki eşitsizlikleri, sömürü süreçlerini ve çevresel tahribatları daha iyi anlamamızı sağlayacak mekânsal ve tarihsel bir yolculuğa çıkarıyor ve son olarak teknolojinin gidebileceği alternatif yollardan bahsediyor. Bu değerlendirme yazısında, Crawford’ın eserinde ele alınan temel temalar incelenmekte ve yapay zekâ teknolojisinin daha geniş toplumsal, politik ve çevresel bağlamlarda değerlendirilmesinin önemi vurgulanmaktadır. Kitabın Türkçeye çevrilmesinin bu bağlamda ne kadar önemli olduğu da sonuç kısmında ele alınmıştır.
Anahtar Kelimeler: Yapay zekâ, Kate Crawford, yapay zekâ atlası.
Abstract
This review examines Kate Crawford’s book Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Artificial intelligence is often presented as a technology whose objectivity and decision-making capacity transcends the abilities of human beings. Crawford, however, argues that it is wrong to consider AI technology as a purely technical phenomenon independent of its material structure and the ideologies of its creators. Drawing on her personal experience, Crawford constructs this atlas to take us on a spatial and historical journey to better understand the inequalities, exploitation, and environmental degradation behind technological advancement, concluding with a discussion of alternative paths that technology could take. This review explores the fundamental themes addressed in Crawford’s work and emphasizes the importance of evaluating AI technology within its broader social, political, and environmental contexts. Additionally, the conclusion will discuss the significance of the book’s translation into Turkish.
Keywords: Artificial Intelligence, Kate Crawford, atlas of AI
Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence Kate Crawford Yale University Press, 2023, 327 sayfa
Yapay zekâ teknolojisinin insanlığın neredeyse tüm sorunlarına çözüm olacağı inancının yaygınlaştığı bir zamanda yaşıyoruz. Birkaç yıl öncesine kadar pek çok insan için bilim kurguya daha yakın duran yapay zekâ artık günlük hayatımızın bir parçası haline geldi ve her geçen gün daha fazla alana dahil oluyor. Günümüzde teknolojinin nihai biçimi olarak kabul edilen yapay zekâya dair her gelişme neredeyse hiç sorgulanmadan toplumlarda büyük bir heyecanla kabul ediliyor.
Tarafsız, tanrısal bir varlık konumuna yükselen bu “bulut” teknolojisi anlatısının yeryüzünde insanlar tarafından sosyoekonomik koşullar dahilinde inşa edilmekte olduğu gerçeği ise gizli kalıyor. Kate Crawford, 2021 yılında yayımlanan Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence başlıklı kitabında yapay zekânın soyut ve bulutsu bir teknoloji olarak kabul edilmesinin ardındaki gerçekliğin; dünya kaynaklarının ve insan emeğinin sömürüsünün, mahremiyet sınırlarının yıkılışının ve bu teknolojilerle güçlenen pek çok ayrımcılığın izini sürüyor. Yazar, yapay zekâ teknolojisinin materyal yapısını, var olan eşitsizlik ve sömürü sistemleriyle tarihsel bağını daha iyi anlamamızı sağlamak için bizi hem dünya haritasında hem de zaman çizelgesinde ileri geri hareket ettiğimiz bir yolculuğa çıkarıyor.
USC Annenberg Üniversitesi’nde profesör olarak görev yapan ve Microsoft Research’te kıdemli araştırmacı olan Kate Crawford’un çalışmalarının odak noktasını büyük ölçekli veri sistemlerini, makine öğrenmesini ve yapay zekâyı tarihsel, politik, emek ve çevresel bağlamlarda anlamak oluşturuyor. Akademik dergilerin yanı sıra The New York Times, The Atlantic ve Harper’s Magazine gibi farklı gazete ve dergilerde de yazıyor. Sadece Amerika Birleşik Devletleri’nde değil aynı zamanda Avustralya ve Fransa gibi birçok ülkedeki üniversitelerde görev almış ve yapay zekânın toplumsal etkilerini araştıran enstitülerde kurucu ve araştırmacı olarak yer almış olan yazarın bilgi ve deneyim birikimi, kitabın zengin anlatısına da katkı sağlıyor.
Bu kitapla beraber önceki projeleri ele alındığında araştırma sahasının istikrarlı bir izleği takip ettiğini görebiliriz. Örneğin 2018 yılında sanatçı ve araştırmacı Vladan Joler ile hazırladığı, Amazon Echo’nun küresel tedarik zincirini ve çevresel etkilerini inceledikleri “Anatomy of an AI System”projesi yapay zekânın (https://anatomyof.ai/ adresinden projeye ulaşılabilir.) ardındaki karmaşık altyapıyı ve bu teknolojinin insan haklarına, çevreye ve ekonomik eşitsizliklere etkisini haritalarla görselleştirme çalışması. Daha önce yaptığı projeler ile bağlantılı ilerleyen bu çalışmada da “atlas” seçimi kitabın yöntemini anlamamız açısından önemli.
Bir Yöntem Olarak Atlas
Bu kitap, yapay zekâ teknolojisinin gelişimine dair dengeli ve tarafsız bir anlatı sunmuyor ve yazar böyle bir iddiası olmadığını giriş bölümünde vurguluyor. Kitap, yazarın kendi deneyimleri ve hem iş dünyasından hem de akademik kariyerinden getirdiği entelektüel birikimle oluşturduğu öznel bakış açısını bize sunuyor. Bu kitabı teknolojinin politik, ekonomik ve toplumsal bağlamda ele alındığı benzerlerinden ayıran belki de en önemli nokta, Crawford’ın bu çalışmayı bir atlas olarak tanımlaması. Giriş bölümünde bunun neden bir atlas olduğunu açıklayarak bu öznel bakış açısını da gerekçelendirmiş oluyor:
Atlas alışılmadık bir kitap türüdür. Gezegenin uydu görüntüsünden bir takımadanın yakınlaştırılmış ayrıntısına kadar değişen çözünürlükte haritalar içeren atlas, birbirinden farklı parçaların bir araya getirilmesinden oluşur. Bir atlası açtığınızda, belirli bir yer hakkında spesifik bilgiler arıyor olabilirsiniz -ya da belki de merakınızı takip ederek dolaşıyor ve beklenmedik yollar ve yeni bakış açıları buluyorsunuzdur (9-10).
Atlaslar bize belli bir görme biçimi sunar. Halihazırda, alandaki büyük ve az sayıda teknoloji şirketleri tarafından tasarlanmış olan bir yapay zekâ atlasının bu teknolojiye dair fikirlerimizi şekillendirdiğini söylemek mümkün. Haritalar tarih boyunca gücü temsil etmek için kullanılmıştır. Teknolojiyi şekillendiren tek bir görme biçiminin olmadığını bize hatırlatması ve ana akım anlatıların şekillendirdiğinin dışında “karşı atlaslara” ihtiyaç duyduğumuzu göstermesi bakımından “atlas” kullanımının önemli olduğunu düşünüyorum. Bakış açımızı şekillendiren mevcut yapay zekâ atlasının da teknolojik ilerlemeleri yönlendiren ve kaynakları elinde tutanlar tarafından oluşturulduğu göz önünde bulundurulursa bu hâkim anlatıda yer verilmeyen eşitsizlikleri ve sömürü pratiklerini odağa alan bir karşı atlas, bize alternatif bir bakış açısı sunduğu için aynı zamanda politik bir mücadele örneğidir. Böylece bir yapay zekâ atlası olması bu çalışmaya aktif bir direniş özelliği de kazandırıyor. Bir yöntem olarak atlas kullanımı farklı toplumsal anlatıların kurulma biçimlerini ortaya çıkarmada dikkate değer bir yöntem olabilir
Kitapta, günümüzde yapay zekâ teknolojisinin şimdiki halini neden ve nasıl aldığını anlamamızı sağlayacak olaylar arasında geziniyoruz. Sunulan olayların yapay zekâ teknolojilerinin gelişiminde sömürü ve eşitsizlikleri daha iyi görmemizi sağlamak için seçilmiş öznel bir seçki olduğunu unutmamak gerekir. Bu alanda yıllar içinde yapılan geliştirme ve iyileştirme çabalarının kitapta neden yer almadığı da bu şekilde açıklanabilir. Crawford’ın amacı yapay zekâ sistemlerinin geliştirilmesindeki eşitsizlikler hakkında bir farkındalık yaratmak. O yüzden bu kitap, yapay zekânın ne olduğu ve nasıl çalıştığına dair bütüncül bir yaklaşım arayanlar için yanlış bir tercih olur.
Zekâ ve Zekâ’nın Tuzakları
Giriş bölümü zekâ kavramını sorgularken insan dışı varlıklara insani özellikler atfetmenin bizi nasıl bir tuzağa sürükleyebileceğini hatırlatan bir analoji ile başlıyor. 1900’lerin başında Berlin’de büyük bir heyecan dalgasına sebep olan at Akıllı Hans, emekli matematik öğretmeni olan sahibi Wilhelm von Osten’in verdiği eğitimler sonucunda aritmetik işlemleri ve zekâ gerektirdiğine inanılan problemleri çözebilir hale gelir. Bu fenomen, insan dışı varlıkların yeterli kaynak ve eğitimle insan zekâsına sahip olabileceği tezine inananlar için bir kanıt olarak görülür ancak bu çıkarıma şüpheyle yaklaşan Hans Komisyonu incelemelerine devam eder. Soruyu soran kişinin doğru cevabı bilmediği veya attan çok uzakta durduğu durumlarda Hans’ın çoğu zaman yanılıyor olması atın bilinçli cevaplar vermeme ihtimalini güçlendirir ve sonunda Hans’ın, doğru cevaba yaklaştığında soru soran kişinin vücut ifadelerindeki ufak değişiklikleri fark ederek doğru cevabı verdiğine kanaat getirilir. von Osten’ın verdiği eğitim sonucunda atın aslında sahibinin vücut hareketlerini gözlemleyerek istenilen cevabı vermeyi öğrendiği, herkesin sandığı anlamda bir zekâ örneği göstermediği anlaşılıyor. Bu analoji ile Crawford, bağımsız bir zekâ örneği olarak görmeye eğilimli olduğumuz makine öğrenmesinin ardındaki hem bilinçli hem de bilinçsiz olarak işleyen insan etkisine dikkat çekerek kitabın merkezindeki soruya geliyor: “Zekâ nasıl ‘oluşur’ ve ne gibi tuzaklar yaratabilir?” (4).
Akıllı Hans hikayesinde olduğu gibi yapay zekâ üzerine düşünürken de bizi yanılgıya götüren iki mitoloji var. Birincisi insan dışı sistemlerin (hayvan veya bilgisayar) insan zihnine benzer olduğu inancı. Bu inanç yeterli eğitim ve kaynakla hiç yoktan insan benzeri bir zekânın var edilebileceğini varsayar. İkincisi ise zekânın toplumsal, kültürel, tarihi ve siyasi güçlerden ayrı bağımsız bir varoluşu olması. Crawford, zekâ kavramının yüzyıllar boyunca pek çok zarara sebep olduğu ve kölelikten soy ıslahına kadar hakimiyet ilişkilerini meşrulaştırmak için kullanıldığına dikkat çekiyor. Kitap boyunca ele alındığı biçimiyle yapay zekâ teknolojilerinin de bu var olan eşitsizlik ve sömürü sistemlerinin üzerinde yükseldiğini vurguluyor.
Toprak, Bulut ve Madencilik
İlk bölümde San Francisco’dan başlayan ve dünyanın farklı bölgelerine uzanan bir yolculuğa çıkıyoruz. Bulutta süzülen bedensiz bir teknoloji gibi algılanan yapay zekânın onu oluşturan diğer teknolojiler ile birlikte toprağa, suya ve diğer doğal kaynaklara bağımlılığını görüyoruz. Soyut yapay zekâ teknoloji anlatısının arkasında topraktan çıkarılan madenlere bağımlı bir endüstri olduğu gerçeği, bu bölümde dünyanın farklı bölgelerindeki doğa yıkımlarına değinilerek gözler önüne seriliyor.
Detaylı biçimde anlatılan bu madencilik anlayışı kullandığımız teknolojilerin ardındaki ideolojiyi de gözler önüne seriyor. “Yapay zekâyı var eden madencilik hem gerçek anlamda hem de hâkim ideolojiyi tanımlamak için kullanılmış. Veri madenciliğinin yeni çıkarma2 biçimi, geleneksel madenciliğin eski çıkarma işlemlerini de kapsar ve onu daha da ileri taşır” (31). Madencilik anlayışı teknoloji sektörünün hem doğal kaynakları hem de insan iş gücüne veya verisine dayalı kaynakları sömürmesine işaret eden kapsayıcı bir biçimde tüm kitap boyunca kullanılıyor. Teknoloji üretiminin bağımlı olduğu tüm bu değerli soyut ve somut kaynakların “doğada var olan ve gücü yeten herkesin çıkarmaya hakkının olduğu hammaddeler” olarak görülmesi kitabın temel eleştirilerinden.
Crawford’a göre medya ve teknolojiyi jeolojik süreçler olarak ele almak, günümüz teknolojilerinin devamlılığı için gerekli olan yenilenemeyen kaynakların radikal tükenişini de düşünmemizi sağladığı için önemli (31). Günümüz teknolojisinin materyal sınırlılıklarına yapılan bu vurgu, kitabın sonunda değindiği alternatif yapılara yönelmenin sadece bir tercih değil önünde sonunda yüzleşmek zorunda kalacağımız gerçeklik olduğunu da gösteriyor. Günümüzde sıkça kullanılan “temiz/yeşil teknoloji” söyleminin de bir mitten ibaret olduğu gerçeği dünyanın farklı bölgelerinden ve tarihsel dönemlerden örneklerle sunuluyor. Doğayla bütünleşen, havada süzülen bir şey olarak “bulut” metaforu, ileri bilgisayar teknolojilerini doğal tahribat, kirlilik, petrol ve karbon ayak izi gibi kavramlardan uzak tutuyor. (Metinde geçen extraction kavramı doğal kaynakların çıkarılması anlamında madencilik yapmak, çıkarmak olarak kullanılmıştır.) Ardında büyük tahribat bırakan madencilik anlayışı yüz yıllardır dünyanın farklı bölgelerinde devam ediyor ve yeni teknolojiler, her ne kadar “yeşil” olduklarını iddia etseler de bu durumu değiştirebilmiş değil.
Robotik İş Gücü
İkinci bölümde, iş yerindeki emek sömürüsü farklı açılardan ele alınıyor. İlk olarak Amazon gibi büyük şirketlerin yapay zekâ teknolojilerini operasyonel süreçte kullanarak çalışanları sürekli baskı ve gözetim altında tutmasını görüyoruz. Bu dijital teknolojilerle başlayan bir tutum değil. Sanayi Devrimi’nden bu yana çalışanlardan daha yüksek verim alma konusundaki “bilimsel” çabalara da Crawford bu bölümde yer veriyor. Makinelerin üretim sürecindeki öneminin artmasıyla iş verenlerin çalışanlardan beklentisi de değişiyor. İyi yetişmiş uzman ve zanaatkar çalışanların yerine bir makinenin parçaları gibi hareket etmesi beklenen vasıfsız ve her an yeri doldurulabilir çalışan profilindeki artış, fabrikaların kuruluşundan günümüze kadar gözlemlenebilir. Farklı olan ise çalışanlardan insanüstü verim elde edebilmek için kullanılan teknolojilerin gelişmesi.
Otomasyon, üretim süreçlerindeki değişimi izlemede kilit bir kavram; bu bölümde hem yapay zekânın en önemli özelliklerinden biri olarak hem de iş verimini artırmada bir strateji olarak ele alınıyor. Amazon gibi büyük şirketlerin operasyonel faaliyetlerini insanüstü bir kapasiteye çıkarmak için kullandığı dijital sistemler çalışanların yönetim tarafından sürekli gözlenip takip altında tutulmasını ve verimlilik oranlarına göre değerlendirilmesini kolaylaştırıyor. Yapay zekâ destekli “insanüstü” kapasitenin bedelini ise insanlık dışı koşullarda çalışmak zorunda kalan çalışanlar ödüyor. Otomasyonun sorgulandığı diğer alan ise insansız yapay zekâ sistemlerinin ardındaki insan gücü. Kitapta pek çok günlük görevin üstesinden gelebilen dijital asistan “Amy” örneğinden bahsediliyor. Tamamen yapay zekâ tabanlı olduğu iddia edilen bu sahte dijital asistanın otomasyon illüzyonunu devam ettirmek için ardında 7/24 mesai yapmak zorunda kalan çalışanların olduğu ortaya çıkıyor (65). Amy, Astra Taylor’ın fauxtomation3 (2018) olarak tanımladığı; arka planda yine insanların işlettiği ancak tamamen otomatikleştirilmiş gibi piyasaya sürülen yüksek teknoloji sistemlerine güzel bir örnek.
Yapay zekânın şimdiki kapasitesine bakınca insanların çalıştırdığı sahte (Faux (sahte) ve automation (otomasyon) kelimelerinin birleşiminden türetilmiş, tamamen makineler tarafından işletildiği yanılgısının gizli kalan insan emeği ile sağlandığı sahte otomasyon süreçlerine işaret eden kavram.) bir dijital asistan çok eskide kalmış gibi gelebilir. Bugün ChatGPT gibi ileri sistemlerin günlük işleri planlamaktan çok daha fazlasını yapabildiğine tanık oluyoruz. Ancak büyük teknoloji şirketlerinin geliştirdiği bu sistemler bile insan emeğinin sömürüsünden bağımsız değiller ve kullandıkları iş gücü bakımından sömürgecilik anlayışını sürdürmeye devam ediyorlar (Miceli ve Posada 2022). ChatGPT’nin şaşırtıcı düzeyde insan gibi cevaplar verebilmesinin ardında dünyanın farklı bölgelerinde, Kenya gibi ülkelerde çok düşük ücretlerle uzun saatler mesai yapan ve sistemin eğitim sürecinin “insan rehberli” öğrenim ve değerlendirme aşamalarında çalışan veri işçileri bulunuyor (Perrigo 2023). Çalışanların görünürlük kazanması ve haklarını arayabilecekleri bir zemine sahip olabilmesi için insansız teknoloji araçlarının insan iş gücüne bağımlılığının farkında olmak oldukça önemli.
Veri Madenciliği
Yapay zekâ alanında sömürülen insan emeği sadece çalışanlara ait değil. Kitabın üçüncü bölümünde, farklı bağlamlarda elde edilmiş olan insan verilerinin etik kaygılar gözetilmeden makine öğrenme süreçlerinde kullanılmasıyla bireylerin ve toplulukların sadece birer veri noktasına dönüştürülmesini görüyoruz. Toplumdaki farklı kesimlerin verileri kimi zaman devlet kayıtlarından kimi zaman sokağa yerleştirilen kameralardan kimi zaman da sosyal medya hesaplarından elde ediliyor. Veri bilimcilerin kullandıkları veri tabanlarına sadece geliştirdikleri teknolojinin bir unsuru olarak yaklaşması, bu verilerin elde edildiği birey ve toplulukların sadece birer veri noktası olarak görülmesine ve kendilerini etik kaygılardan teknik bir refleksle ayırmalarına sebep oluyor. Bu durum Crawford’a göre alandaki daha geniş çaplı bir problemi ortaya koymakta: başkalarına zarar vermeme sorumluluğunun gözden kaçması veya mevcut araştırma kapsamının dışında görülmesi (117). Veri bilimi araştırmaları yapay zekâ sistemlerinin dünyayı daha iyi analiz etmesini sağlamayı amaçlıyor ancak kullanılan verilerin gerçek insanlara ait olduğunun ve bu sistemlerin laboratuvar ortamı dışında gerçek dünyada suçluları tespit etmek, işe alımda en iyi adayı belirlemek gibi pratik işlerde kullanıldığının ve her hatalı çıktının gerçek insanların hayatını mahvetme riskini oluşturduğunun unutulmaması gerekir.
Dünyayı Çerçevelemek
Genellemeler yapmak bu tür sistemler için sadece bir tercih değil. Makine öğrenme sürecinde kullanılan veri tabanları, insanlar olarak deneyim yoluyla hayatımız boyunca işlediğimiz sayısız verinin yanında oldukça kısıtlı kalıyor. Bu sistemlerin verdiği kararlar onlara öğretilen örneklerden yaptıkları çıkarımlara dayanıyor. Dünyayı öğrenebilmek için veri tabanları doğrultusunda genellemeler yapmalılar. Yapay zekânın işlevsel hale getirilebilmesi için yapılan tüm seçimler; verilerin anlaşılma, elde edilme, sınıflandırma ve tanımlanma biçimleri Crawford’a göre temelinde bir dünya tasarlama ve o dünyayı çerçeveleyerek kontrol altında tutma eylemidir (121).
Yapay zekânın bu dünyaya bakış açısının sınırlarını belirleyen verilerin sınıflandırılma aşaması, sistemlerin karşılaştığı yeni verileri nasıl değerlendireceğini belirliyor. Her sınıflandırma çabası aynı zamanda evrensel olduğu iddia edilen bir dünya görüşü sunuyor. Dördüncü bölüme Samuel Morton’un 1800’lerde dünyanın farklı bölgelerinden topladığı ve sınıflandırdığı binlerce kafatasından oluşan koleksiyonuyla başlıyoruz. İnsanlar arasındaki farklılıkları tespit etmede ciddi veri sağladığı kabul edilen bu çalışma 1800’ler boyunca beyaz Avrupalı ırkın biyolojik olarak diğer ırklara üstünlüğünü kanıtlamada ve sömürü, kölelik gibi emperyalist pratikleri haklı çıkarmada bilimsel bir gerçek olarak kullanıldı. Bu iddia edilen gerçekliğin belli grupların çıkarına ve geri kalan pek çok insanın da mağduriyetine sebep olduğu artık tarihsel olarak reddedemeyeceğimiz bir gerçek. Crawford, her ne kadar ırklar arasında keskin ayrımların olmadığı ve ırkları siyah/beyaz olarak belirlemenin mümkün olmadığı farklı çalışmalarda kanıtlanmış olsa da benzer sınıflandırmaların dijital sistemlerde hâlâ kullanıldığını gösteriyor. Belli bir kemik yapısı ve ten rengine sahip olduğu için bir kişinin suç işleme potansiyelinin yüksekliğinin bu sistemlerce belirlenmesi, o kişinin pek çok insan hakkından mahrum kalmasına yol açabilir. Benzer bir ön yargılı sınıflandırma yüz tanıma sistemlerinin cinsiyet tespitlerinde de mağduriyetlere yol açıyor. Ön yargılı ve kısıtlayıcı sınıflandırmalar belli grupların mağdur olmasına veya bazı grupların görünürlüğünün tamamen yok olmasına sebep olabiliyor.
Sonraki bölümde işlenen 1950’lerde Paul Ekman’ın evrensel duygu ifadeleri olduğu hipotezinin bilimsel yollarla dünyayı ve insanı ölçülebilir, anlaşılabilir ve nihai olarak kontrol edilebilir bir boyuta indirgeme çabası olduğu belirtiliyor. Az sayıda duygunun farklı bölge ve kültürlerden insanları anlamamızı sağlayacağı inancı her ne kadar yapılan deneylerle kanıtlanamamış olsa da yapay zekâ sistemlerinin hâlâ ulaşmaya çalıştığı bir hedef. Bu hedef laboratuvarın dışında havaalanlarında veya işe alımlarda yararlanılan sistemlerde kendine yer bulduğunda yeni mağduriyetler yaşanabileceğini görüyoruz. Bir kişinin yüz tanıma sisteminde “endişeli” ve “siyahi” olarak işaretlenmesi önceki verilere dayanarak işe alım sisteminin adayı başarısız görmesine ve elemesine sebep olabilir.
Aynı işaretlemeler bir polis sorgulamasında sistem tarafından kişinin suçlu olduğuna kanaat getirilmesine ve haksız yere yargılanmasına sebep olabilir. Yaşanan mağduriyetlerin teknik bir sorun olmadığını anlamak bu sistemleri herkes için nasıl geliştirebileceğimizi de anlamamıza yardımcı olabilir.
Devletlerin yapay zekâ teknolojilerini gözetim, kontrol ve yönetim amacıyla kullanmaları, vatandaşların hakları ve özgürlükleri üzerinde ciddi tehditler oluşturuyor. Son bölümde yapay zekâ teknolojilerinin devletler tarafından nasıl kullanıldığını ve bu kullanımın toplumsal, politik ve bireysel düzeydeki etkilerini Amerika Birleşik Devletleri merkezli bir anlatıyla görüyoruz. Ortaya çıkan gizli belgeler üzerinden devletlerin bu teknolojileri gözetim, kontrol ve yönetim süreçlerine nasıl entegre ettikleri ve bu durumun vatandaşlar üzerindeki etkileri bu kısımda inceleniyor.
Uzaya adanan coda bölümü ile aslında başladığımız yere, materyal sınırlılıklara geri dönüyoruz. Bu dünyanın tükenmeye yaklaşan doğal kaynakları, gezegenimizle birlikte mevcut dijital kapitalist sistemin de bir sonunun olacağına işaret ediyor. Bu sonu kabullenmeyen büyük teknoloji şirketlerinin liderleri ise dijital kapitalizmin sömürü sistemini devam ettirebilecekleri “madencilik için yeni bir sınır” (230) bulmak adına gözünü gökyüzüne dikmiş durumda. Böylece Crawford, geçmişten günümüze detaylıca incelediği sömürü ve eşitsizliklerin var olan düzenin devam etmesi halinde gezegenin de sınırlarını aşarak kendini nasıl daimi kılmaya çalışacağını göstermiş oluyor.
Yapay Zekâ Atlasının Önemi ve Eleştirel Yapay Zekâ Çalışmaları
İnsanüstü, tanrısal, tarafsız bir kurtarıcı ve karar verici olarak “yapay zekâ” anlayışıyla artık çok sık karşılaşıyoruz. Crawford’a göreyse “yapay zekâ ne yapay ne de zeki” (8). Günümüzde yapay zekâ dediğimizde aklımıza gelen aslında çok ağır bir materyal yapısı olan, belli başlı şirketler ve onların çıkarlarına, ideolojilerine bağlı olarak inşa edilmiş teknolojik sistemler. Bu sistemler her ne kadar şu an yapay zekâ teknolojisinin gidebileceği tek yol olarak görünse ve gösterilse de her zaman alternatif yollar olduğunu göz önünde bulundurmalıyız.
Toplum yararını gözeten teknolojilerin, şirketlerin kâr getiren iş modelleri ile çoğu zaman çelişiyor olması gerçek olmalarının imkânsız olduğu anlamına değil bunun için daha fazla mücadele etmemiz gerektiği anlamına gelir. Crawford’ın sonuçta bize iletmek istediği en mesaj da bu aslında. Yapay zekâ teknolojisinin insanlığa fayda sağlayacak şekilde gelişmesi için öncelikle var olan eşitsizlikleri en açık şekliyle görmemiz ve tüm bu alanlarda kendi haklarımızı savunmak için yeni mücadele stratejileri geliştirmemiz gerekiyor. Önerdiği çözümler arasında hukuksal düzenlemeler ve toplumsal hareketler yer alıyor.
Bu noktada Crawford’ın yapay zekâ etiği çalışmaları karşısında aldığı tavır belki de kitabın en eleştiriye açık noktası. Kitabın başından beri oluşturduğu bu atlasın kendi kişisel deneyimleri ve fikirlerinden yola çıkarak öznel bir tasarımı olduğunu açıkça belirtmesi, bu teknolojilerin gelişiminde neden bazı noktaları vurgularken diğerlerine hiç değinmediğini anlamamızı sağlıyor. Ancak sonuç bölümünde değindiği mevcut yapay zekâ etiği tartışmalarının çözüm üretmede tamamen faydasız olduğu görüşü bu kitapta derinleştirilmeyen bambaşka bir tartışma açıyor.
Crawford, kişisel deneyimlerinden ve araştırmalarından yola çıkarak oluşturduğu bu çalışmada dünyanın farklı yerlerinden olaylara yer verse de Amerika Birleşik Devletleri merkezli bir harita çiziyor. Benzer atlaslar şu anda yapay zekâ teknolojisi yarışında rekabet halinde olan diğer ülkeler için de yapılabilir. Böylece ele alınan çalışmada olduğu gibi diğer ülkelerin kendi tarihlerinden inşa ettikleri teknolojiye kattığı farklı eşitsizlik ve sömürü biçimleri de gün yüzüne çıkarılır. İnsanların büyük teknoloji şirketlerinin onlara sunduğu anlatı karşısında tamamen edilgen konumda olduğunu söyleyemeyiz. Yapay zekâ alanında yapılan farklı düzenlemeler, regülasyonlar ve teknoloji sektörlerinde çalışanların mücadelesi de ayrıca haritalandırılmalı.
Masalsı anlatılar teknoloji tartışmalarının yanlış odaklar etrafında kümelenmesine sebep oluyor. Crawford’ın da dediği gibi “eğer veri soyut ve maddi olmayan bir şey olarak görülürse o zaman geleneksel özen, rıza veya risk anlayışlarının ve sorumluluklarının dışına daha kolay çıkılır” (113). Kitabın sonuç kısmında da karşımıza çıkan Kate Crawford’ın Alex Compolo ile kavramsallaştırdığı “büyülü belirlenimcilik”, yazarın ve eleştirel yapay zekâ çalışmalarının günümüz yapay zekâ teknolojileri imgelemi karşısında konumlandığı yeri daha iyi anlamamızı sağlayabilir. Büyülü determinizm, yapay zekânın tarafsız ve insanüstü bir teknoloji olarak algılanmasının yanıltıcı ve tehlikeli bir anlatı olduğunu savunan eleştirel bir kavram ve bu kitabın ana fikrini de özetliyor. Yazarlar, 2019 yılında yaptıkları çalışmada “büyülü” derin öğrenme söylemlerinin tekno-iyimserliği nasıl ürettiğini ve bu sistemlerin geliştiricilerini hesap verme zorunluluğundan koruyan bu “büyü”nün belirlenimci, sayısal gücünün toplumsal sınıflandırma ve denetim süreçlerini nasıl güçlendirdiğini ele alıyor.
Günümüzde büyük teknoloji şirketleri var olmadan yapay zekâ da olamazmış gibi geliyor ancak teknolojik ilerlemeyi kontrolü altında tutan bu şirketlerin kendi çıkarları adına alanda hâkimiyet kurmaya çalıştığını göz önünde bulundurmak gerekir. van der Vlist ve arkadaşları (2024) Amazon, Microsoft ve Google tarafından sunulan bulut tabanlı ürün ve hizmetleri inceledikleri araştırma sonucunda, bu şirketlerin üçüncü taraf geliştiricileri ve işletmeleri çekmeyi amaçlayan sektör odaklı çözümler ve pazar yerleri geliştirerek kendi çıkarlarına uygun bir yapay zekâ ekosisteminin gelişmesini teşvik ettikleri sonucuna ulaşıyorlar. Teknolojiyi üreten olmadığımız sürece bize sunulan tüm imkânları dikkatlice sorgulamamız gerekiyor.
Verinin doğal bir kaynak, bir hammadde olarak görülmesi her an sömürüye açık olmasına ve bu sömürünün doğal bir hak olarak görüldüğü emperyalist bakış açısının temize çıkarılmasına sebep oluyor. Tacheva ve Ramasubramanian’ın kavramlaştırdığı “yapay zekâ imparatorluğu” da aynı izleği takip ederek sömürgecilik anlayışının teknolojik gelişmelerde hâkim ideoloji olarak hâlâ sürmekte olduğunu iddia ediyor (2023). Konuya dair zengin bir kaynakçaya sahip olan makale, bu kitabın devamında eleştirel yapay zekâ çalışmaları alanını daha iyi tanımak için okunabilir. Günümüzde yapay zekâ teknolojisi çok hızlı değişiyor. Her gün yeni bir gelişme ile veya o gelişmelere karşı oluşturulmuş bir düzenleme teklifi ile karşılaşabiliyoruz. Bu sebeple kitabın yazılmış olduğu 2021 yılından bu yana da alanda pek çok değişiklik olduğunu görebiliyoruz. Bu kitap bugünü anlamada değil de bu noktaya nasıl geldiğimizi anlamada daha faydalı olacaktır.
Türkiye’de de pek çok sektörde yapay zekâ kullanım oranının hızla yükseldiğini görüyoruz. Eski şirketler yapay zekâya uyumlanmaya çalışırken yeni kurulanların önemli bir kısmı da yapay zekâyı modelinin doğrudan merkezine yerleştiriyor. Potansiyeli çok fazla olan böylesi bir teknolojiye tamamen iyimser veya tamamen kötümser bakmamak gerekir ancak herkes için daha iyi bir gelecek sağlamak adına geçmişte ve günümüzde bu teknolojilerin gelişiminin arka planında yaşanan sömürü ve eşitsizlikleri iyi analiz etmemiz gerekiyor. Böylece yapay zekânın gelişebileceği alternatif yollar olduğunu da görmemiz mümkün olur. Sosyal bilimlerde yapay zekâ çalışmalarının sadece felsefi veya teknik boyutta kalmaması, materyal yapısının da dikkate alındığı geniş kapsamlı araştırmaların artması için eleştirel yapay zekâ çalışmalarının bilinirliğinin artması gerekiyor. Yapay zekâ alanında çalışacak her alandan araştırmacının bakış açısını genişletecek bu tür kitapların Türkçeye kazandırılmasının büyük önem taşıdığına inanıyorum.
Kaynakça
Campolo, Alexander ve Kate Crawford. 2019. “Enchanted Determinism: Power without Responsibility in Artificial Intelligence.” Engaging Science, Technology, and Society 6 (2020): 1-19.
Crawford, Kate ve Vladan Joler. 2018. “Anatomy of an AI System.” Erişim tarihi 26 Mayıs 2024. https://anatomyof.ai/.
Crawford, Kate. 2021. Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. New Haven: Yale University Press.
Miceli, Milagros ve Julian Posada. 2022. “The Data-Production Dispositif.” Proceedings of the ACM on Human-Computer Interaction 6 (CSCW2): 1-37.
Taylor, Astra. 2018. “The automation charade.” Erişim tarihi 26 Mayıs 2024. https://logicmag.io/failure/the-automation-charade/.
Tacheva, Jasmina ve Srividya Ramasubramanian. 2023. “AI Empire: Unraveling the interlocking systems of oppression in generative AI’s global order.” Big Data & Society 10 (2): 1-13.
Perrigo, Billy. 2023. “Exclusive: OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic.” Erişim tarihi 26 Mayıs 2024. https://time.com/6247678/openai-chatgpt-kenya-workers/.
van der Vlist, Fernando, Anne Helmond ve Fabian Ferrari. 2024. “Big AI: Cloud infrastructure dependence and the industrialisation of artificial intelligence.” Big Data & Society 11 (1): 1-16.
Bu yazının yayınlanması için Yazar Sn. Esra Özgür’den izin alınmıştır.
İlef Dergisi: Yıl 2024, Cilt: 11 Sayı: 1, 190 – 202, 31.05.2024
http://ilefdergisi.ankara.edu.tr/tr/download/article-file/3972859
Kitabın orijinaline ulaşmak için aşağıdaki link tıklanabilir.