Yapay Zeka Karşı Yönetimi

Blair Attard-Frost

Çeviren: Nezih Kazankaya

Geçtiğimiz yıl, ChatGPT, Dall-E ve Stable Diffusion gibi üretken yapay zeka (YZ) sistemlerinin hızla benimsenmesi, YZ’nin etiği ve düzenlenmesi hakkında sayısız kamuoyu tartışmasına yol açtı. Ayrıca, bu sistemlerin neden olduğu önemli zararlar da ortaya çıktı. ChatGPT ve diğer birçok YZ sisteminin geliştirilmesi, sömürücü işgücü dış kaynak kullanımı uygulamalarıyla derinden iç içe geçmiştir. Birçok üretken YZ sistemini eğitmek için kullanılan veri kümeleri, milyonlarca sanatçının yaratıcı eserlerinin endüstriyel ölçekte çalınması yoluyla elde edildi. Teknoloji şirketleri, üretken YZ sistemlerine güç veren veri merkezlerini ve büyük dil modellerini çalıştırmak için gereken muazzam enerji ve su tüketimi konusunda oldukça ağzı sıkıdırlar. Bu YZ sistemlerinin değer zincirleri, hem yukarı hem de aşağı yönde toplum ve çevre için zararlarla doludur.

Yapay zeka yönetimi bu zararlara bir çare olarak hizmet etmelidir. Yapay zeka yönetimi, yapay zeka sistemlerinin çok çeşitli bireylere ve gruplara verdiği faydaları en üst düzeye çıkarmayı ve zararları en aza indirmeyi amaçlayan bir dizi uygulamadır. Yine de, tüm topluma fayda sağlamak ve zararı önlemek yerine, birçok devlet liderliğindeki yapay zeka yönetim rejimi büyük ölçüde sivil toplumun ihtiyaçlarını karşılamada başarısız oluyor. Endüstri ve akademiden “uzmanlar”, haydut yapay zekanın neden olduğu bilimkurgusal insan neslinin tükenmesi riskleri konusunda uyarıda bulunurken, son araştırmalar birçok topluluğun gerçek dünyadaki yapay zeka sistemleri tarafından zaten zarar gördüğünü ve yapay zeka politika geliştirme süreçlerine katılmaktan dışlandığını gösteriyor.

Solcu eleştirmenler, YZ sistemlerinin kapitalist gücün araçları olarak işlev görecek şekilde tasarlanmış olması nedeniyle YZ’nın bu kadar çok zarara yol açtığını kabul ediyor. Sonuç olarak, bazıları YZ’nın düzeltilemez olduğunu öne sürdü ve tüm YZ sistemlerinin toptan reddedilmesi çağrısında bulundu. Diğerleri, YZ sistemlerindeki kapitalist güce karşı koymak için daha ayrıntılı yönetim mekanizmaları önerdi, örneğin işyerlerinde ve topluluklarda YZ’nın geliştirilmesi ve kullanımı konusunda kurallar koyma yetkisine sahip işçi konseyleri ve halk konseyleri oluşturulması.

Topluluk liderliğindeki ve çalışan liderliğindeki yönetim için bu alternatif mekanizmalar, YZ sistemleri içinde karşı güç kullanma konusunda birçok olasılığın var olduğunu göstermektedir. YZ yönetiminin ortaya çıkan normları tarafından dışlanmış ve zarar görmüş olanlar, yönetimi kendi ellerine almak için topluca örgütlenebilirler. Topluluklar, çalışanlar ve hatta kamu görevlilerinin YZ karşı yönetimi için teorilere, uygulamalara ve stratejilere ihtiyacı vardır.

Teoride YZ Karşı Yönetimi

Katılımcı yönetim araştırmacısı Rikki Dean, karşı yönetimi “güçle doğrudan ve resmi bir ilişkiyle oluşturulmuş yurttaş muhalefeti veya itirazı” olarak tanımlıyor. Karşı yönetim, marjinalleştirilmiş bir topluluğun çıkarlarına hizmet etmekte başarısız olan bir güç kaynağına karşı çıkabileceği çok çeşitli kurum ve mekanizmalarla ilgilidir. Topluluk liderliğindeki karşı yönetim mekanizmaları genellikle kolektif örgütlenme, sivil gözetim, dilekçeler, topluluk liderliğindeki denetimler ve vatandaş meclislerini içerir.

Yapay zeka sistemlerinde güce direnmeye yönelik birçok yaklaşım, direncini genellikle sistemin teknolojik bileşenlerinin tasarımına yerleştirilmiş dışlayıcı, adaletsiz güç yapılarına yöneltir: veri kümeleri, algoritmalar, makine öğrenimi modelleri, yazılım ve donanım. Örneğin, katılımcı yapay zeka genellikle yapay zeka sistemlerinden etkilenen kişilerin bu sistemlerin tasarımına doğrudan katılmalarını sağlamayı amaçlar. Feminist yapay zeka yaklaşımları, yapay zeka sistemlerine yerleştirilmiş baskıcı güç ilişkilerine daha doğrudan bir şekilde odaklanırken, aynı zamanda bu baskıcı ilişkilere çözüm olarak teknolojik tasarımda benzer katılımcı müdahaleleri savunma eğilimindedir.

Yapay zeka karşı yönetim hareketleri biraz farklı bir yaklaşım sergiliyor. Bu hareketler, teknolojinin tasarımına müdahale etmek yerine, öncelikle “Yapay Zeka”nın temelini oluşturan temeldeki politik ve ekonomik sistemlere karşı örgütlü, kolektif, topluluk liderliğindeki muhalefeti yönlendiriyor.

Bir sonraki bölümde, YZ karşı yönetiminin geçmiş ve güncel bazı örneklerinin genel bir bakışının gösterileceği gibi, YZ’yı karşı yönetme eylemi teknolojiyle daha az ve daha çok organizasyonla ilgilidir. Tüm bu örneklerde, bir YZ karşı yönetimi hareketinin kolektif örgütlenmesi, devlet ve endüstri YZ yönetim rejimlerinin bir topluluğun çıkarlarına hizmet etmekte başarısız olmasıyla başlar. Bu örneklerde yer alan YZ teknolojileri önemli endişelerdir, ancak hepsi başarısız bir YZ yönetim rejiminin ve onun kurucu örgütlerinin mantığının yan ürünleridir.

Tüm bu olaylardaki temel endişe basit ve teknik olmayan bir şeydir: Güçlü örgütler bir topluluğun çıkarlarına hizmet etmekte başarısız olmuşlardır.

Uygulamada Yapay Zeka Karşı Yönetimi

Geriye dönüp baktığımızda, 2010’ların sonlarındaki örgütlü teknoloji tepkilerinin çoğunu yapay zeka karşı yönetimi olayları olarak yorumlayabiliriz. 2018’de birçok Google çalışanı istifa etti, Google CEO’suna yazılan açık bir mektuba imza attı ve Google’ın Project Maven adlı askeri bir yapay zeka geliştirme projesinde Pentagon ile ortaklık kurma kararına yanıt olarak alenen protesto etti. Bu Google çalışanları, direniş eylemleriyle sonunda Google’ı çalışanlarının çıkarları doğrultusunda kurumsal yapay zeka yönetim uygulamalarından bazılarını yeniden düzenlemeye zorladı. Project Maven sözleşmesi iptal edildi ve projenin bir parçası olarak geliştirilmesi planlanan drone tabanlı gözetleme sistemi ıskartaya çıkarıldı. Project Maven’ın önerdiği yapay zeka sistemi, kuruluşun önerdiği gözetleme sistemine bir tasarım müdahalesi yaparak değil, Google’a direnerek (Google’ı söz konusu askeri yapay zeka projelerinden çekilmeye zorlayarak) başarılı bir şekilde karşı yönetime tabi tutuldu.

2019’da, Sidewalk Labs (Google’ın kardeş şirketi) tarafından yönetilen Toronto’daki bir “akıllı şehir” geliştirme projesine karşı yerel toplumun tepkisi doruk noktasına ulaşıyordu. Önerilen Sidewalk Toronto girişimi gibi “akıllı şehir” projeleri, genellikle çeşitli yeni dijital teknolojilerin, sensörlerin, cihazların ve yapay zeka uygulamalarının bölgenin altyapısına ve hizmetlerine entegre edilebilmesi için geniş bir kentsel arazi alanını yeniden geliştirmeyi amaçlamaktadır. 14 Şubat 2019’da Toronto Star’daki bir makale, Sidewalk Labs’ın “akıllı şehir”in geliştirileceği kıyı alanını yönetmekten sorumlu hükümetlerarası otorite olan Waterfront Toronto ile gizlice bir anlaşma yaptığını ortaya koydu. Sidewalk’a, başlangıçta önerilenden daha büyük bir yeniden geliştirme sonrası arazi parçası verilecek ve karşılığında yeniden geliştirilen arazinin vergi gelirlerinin önemli bir kısmı kamu kasasından Sidewalk Labs’a aktarılacaktı.

Sidewalk’un arazi gaspına ek olarak, yerel topluluk Sidewalk’un “akıllı şehir”in altyapısına ve hizmetlerine entegre etmeyi planladığı istilacı ve sömürücü veri toplama uygulamaları, izleme teknolojileri ve makine öğrenme sistemleri konusunda birçok endişe dile getirdi. Bu endişeler Sidewalk Labs tarafından organize edilen bir dizi belediye toplantısında dile getirilmiş olsa da, yerel #BlockSidewalk hareketinin organizatörü Bianca Wylie, belediye toplantılarının genellikle sembolik ve performatif danışma eylemleri olduğunu gözlemledi. Sidewalk, topluluğun gizlilik ve vatandaş verilerinin metalaştırılması konusundaki sesli endişeleriyle samimi bir şekilde ilgilenmedi.

#BlockSidewalk organizatörleri 2019 boyunca ve 2020’nin başlarında Sidewalk Toronto projesine direnmeye devam ettiler, proje hakkında kendi halk toplantılarına katıldılar ve düzenlediler, endişelerini yerel topluluğa ve basına ilettiler ve alternatif dijital altyapı yönetişim uygulamaları için önerilerini Belediye Meclisine sundular. Mayıs 2020’de Sidewalk, COVID-19 salgını sırasında “benzeri görülmemiş ekonomik belirsizlik” nedeniyle Toronto projelerini iptal etme niyetlerini duyurdu, ancak birçok gözlemci yerel topluluğun tepkisinin Sidewalk’un projeyi terk etme kararında önemli bir faktör olduğunu belirtti. Dijital yönetişim ve kentsel yönetişimin zararlı uygulamalarına karşı kolektif örgütlenme, nihayetinde Sidewalk’u topluluğun direnişine yanıt olarak projeden tamamen çekilerek yeniden örgütlenmeye zorladı.

Daha yakın bir zamanda, Kanada, Haziran 2022’de Parlamento’ya sunulan ve yapay zeka sistemleri hakkında kapsamlı ulusal düzenlemeler oluşturmayı amaçlayan bir yasa tasarısı olan önerilen Yapay Zeka ve Veri Yasası (AIDA) nedeniyle tekrar yoğun bir tepkinin odağı haline geldi. AIDA birçok gerekçeyle kapsamlı eleştirilerle karşılandı. Yasa tasarısının tamamı yalnızca “yüksek etkili sistemler” için geçerli, ancak yasa metninde bu terimin ne anlama geldiği tanımlanmıyor; tanımı ancak yasa tasarısı yasalaştıktan sonra belirlenecek. Ayrıca, AIDA yapay zekadan en çok etkilenecek olan savunmasız topluluklarla görüşülerek geliştirilmedi. Demokratik süreçteki ve denetimdeki bu boşluklar, bazı eleştirmenlerin AIDA’yı “açık çek”, “eksik” ve “yetersiz” olarak tanımlamasına yol açtı.

AIDA ile ilişkili devlet öncülüğündeki yapay zeka yönetiminin başarısızlıklarına yanıt olarak birçok karşı yönetim uygulaması ortaya çıkmıştır. İlgili kişiler ve gruplar, raporlar, yuvarlak masa toplantıları, medya katılımı ve bilgi edinme talepleri gibi formatlar aracılığıyla AIDA’nın topluluk öncülüğündeki denetimlerini ve değerlendirmelerini organize etmişlerdir. AIDA’nın insan haklarını, gizliliği ve sanatçıların geçim kaynaklarını korumada başarısız olduğu konusunda endişe duyan gruplardan gelen açık mektuplar ve dilekçeler, hükümete yasa tasarısını yeniden taslak haline getirmesi veya önemli ölçüde değiştirmesi çağrısında bulunmuştur. Hükümet tarafından yönetilen etkili bir kamuoyu farkındalık kampanyasının yokluğunda, Kanada’daki sanatçıların geçim kaynakları üzerinde üretken yapay zeka ve AIDA’nın potansiyel etkilerine ilişkin farkındalığın oluşturulmasına yardımcı olmak için bir açıklayıcı belgenin oluşturulmasını organize etmede ben de rol oynadım. Üretken yapay zeka sistemleri, sıklıkla bu eserlerin yaratıcılarından izin alınmadan veya onlara tazminat ödenmeden büyük hacimli sanatsal eserler üzerinde eğitilmektedir, ancak AIDA bu tür sömürücü veri kaynak uygulamalarına karşı herhangi bir koruma garantisi vermemektedir.

Bu makaleyi yazdığım sırada, bir parlamento komitesi AIDA’yı inceliyor. Organizatörlerin AIDA’ya direnmek için ellerinden geleni yapmalarına rağmen, hükümetin savunmasız topluluklarla güçlü bir şekilde etkileşime girme veya yasa tasarısında bu toplulukların çıkarlarına daha iyi hizmet edecek önemli değişiklikler yapma niyeti yok gibi görünüyor.

Üretken yapay zekanın sanatçılar üzerindeki etkileri, Amerika Yazarlar Birliği (WGA) ve Ekran Oyuncuları Derneği-Amerikan Televizyon ve Radyo Sanatçıları Federasyonu (SAG-AFTRA) tarafından düzenlenen son işçi grevlerinde de bir tartışma konusu haline geldi. WGA ve SAG-AFTRA üyeleri çeşitli nedenlerle greve gittiler, ancak sendikalar ile Hollywood stüdyoları arasındaki önemli bir çekişme noktası, endüstrinin üretken yapay zekayı kullanması ve sendika tarafından korunan yaratıcı çalışmalarda üretken yapay zeka sistemlerinin eğitimi oldu. Emek sömürüsü ve hırsızlık sorunlarının ötesinde, üretken yapay zeka ayrıca yaratıcı emeğin yerinden edilmesi ve değersizleştirilmesi konusunda endişeleri de gündeme getirdi. Tüm bu endişeler WGA ve SAG-AFTRA grevlerinde tartışılıyor ve grevleri yapay zeka karşı yönetiminin bir başka örneği haline getiriyor: işçi toplulukları, işçi komiteleri, dilekçeler, kamuoyuna yönelik ihbarlar ve medya katılımı gibi çeşitli mekanizmalar kullanarak güçlü bir endüstriyi, topluluğun çıkarlarına daha iyi hizmet edecek şekilde yapay zeka yönetim uygulamalarını değiştirmeye zorluyor.

WGA, 25 Eylül’de varılan bir anlaşmada, üretken YZ’nın yazım süreçlerinde kullanımıyla ilgili sınırlamalar ve sendika tarafından korunan yaratıcı materyallerin üretken YZ sistemlerini eğitmek için kullanımıyla ilgili sınırlamalar dâhil olmak üzere YZ ile ilgili birkaç sınırlama kazandı. 8 Kasım’da SAG-AFTRA, üyeleri YZ tehdidinden koruyan “benzersiz rıza ve tazminat hükümleri” içeren geçici bir anlaşmaya vardıklarını duyurdu, ancak yeni sözleşmenin korumalarının etkinliği henüz görülmedi.

Aşağıdan YZ’yı Yönetmek

Topluluk örgütçüleri, çalışanlar ve kamu görevlileri bu olaylardan ne öğrenebilir? Zararlı YZ yönetim rejimlerine karşı tüm bu tepkilere bakıldığında, YZ karşı yönetimi için bazı stratejiler ve ileriye dönük yollar netleşiyor.

Yapay zeka yönetimini kendi ellerinize alabilirsiniz. Siz ve parçası olduğunuz topluluklardaki diğer kişiler yapay zekanın sizin üzerinizde yaratabileceği etkiler konusunda endişe duyuyorsanız, karşı güç oluşturmak ve kendi topluluk liderliğindeki yapay zeka yönetimi uygulamalarınızı geliştirmek için atabileceğiniz adımlar vardır:

Konuşma: YZ ile ilgili ilgi alanlarınız, umutlarınız ve korkularınız hakkında topluluğunuzdaki diğer kişilerle sohbet edin. YZ’dan faydalanabilecek veya YZ tarafından tehdit edilebilecek ortak değerleri ve ihtiyaçları belirleyin. Topluluğunuzu etkileyebilecek veya etkileyen belirli YZ sistemi türlerini belirleyin. “YZ”nın yalnızca makine öğrenimi uygulamaları olmadığını, makine öğrenimi uygulamalarını destekleyen dijital, veri ve bilgisayar altyapıları da dâhil olmak üzere tüm bir organizasyon ve teknoloji ağı olduğunu unutmayın. Sohbetlerinizi daha resmi hale getirmek istiyorsanız, yuvarlak masa tartışmaları, belediye toplantıları, yasama tiyatrosu ve vatandaş meclisleri düzenlemek için birlikte çalışabilirsiniz.

Araştırın: Yapay zeka sistemlerinin diğer topluluklar üzerindeki etkileri hakkında daha fazla bilgi edinin. Topluluğunuz üzerinde gücü olan hükümetler tarafından şu anda geliştirilmekte olan veya uygulanan yapay zekayı düzenleme mekanizmaları hakkında daha fazla bilgi edinin. OECD YZ Policy Observatory, AlgorithmWatch, YZ Index, YZ Incident Database ve FYZrwork gibi kaynaklar, yaşadığınız ve başka yerlerdeki yapay zeka ile ilgili sorunları araştırmanıza yardımcı olabilir. Siz ve topluluğunuzdaki diğer kişiler, yerel yönetmeliklerinizin ortak çıkarlarınıza hizmet etmediğini veya topluluğunuzu etkileyen yapay zeka sistemlerini etkili bir şekilde ele almayacağını düşünüyorsanız, hangi yönetmeliklerin veya diğer kaynakların size daha iyi hizmet edeceği hakkında daha fazla konuşun.

Farkındalık yaratın: Topluluğunuzdaki YZ ile ilgili sorunlara tanıdık olmayabilecek kişileri destekleyen bilgi kaynakları yaratın, bulun ve dağıtın. YZ sistemlerinin ve YZ yönetim rejimlerinin hayatlarını nasıl etkileyebileceği konusunda farkındalıklarını oluşturmalarına yardımcı olun. Sorunlar hakkında kendi farkındalıklarını oluşturmaya devam etmek için ihtiyaç duydukları bilgi kaynaklarına erişim sağlayın. Yardımcı bilgi kaynakları arasında sade dilli açıklayıcı belgeler, okuma ve görüntüleme listeleri, raporlar ve özetler, videolar ve podcast’ler yer alabilir.

Karşı Çıkın: Devlet gücünün sağladığı düzenlemeler ve diğer politikalar ve kaynaklar toplumunuzun ortak çıkarlarına hizmet etmiyorsa, o zaman toplumunuzu etkileyen YZ sistemlerine daha doğrudan karşı çıkmaya karar verebilirsiniz. YZ karşı yönetim yöntemleri genellikle şunları içerir (ancak bunlarla sınırlı değildir): YZ’yı yönetmek ve toplumunuz içinde zararlı etkilerini azaltmak için devlet desteği olmadan kurallar, ortak kaynaklar ve planlar yapmak; devlet ve endüstri gücü kaynaklarına (örneğin, seçilmiş temsilciler, idari memurlar, yöneticiler) yönelik dilekçeler, açık mektuplar ve mektup yazma kampanyaları; zararlı YZ yönetim rejimlerinin, YZ sistemlerinin, politika araçlarının ve örgütlerinin toplum tarafından yönetilen denetimleri ve değerlendirmeleri; endişeleriniz ve toplumunuzun diğer karşı yönetim çabaları hakkında kamuoyunun farkındalığını artırmak için YZ sorunları hakkında haber yapan gazetecilerle iletişime geçmek ve etkileşimde bulunmak.

Çalışanlar işyerlerinde doğrudan yapay zekaya karşı da çıkabilirler. Hem Project Maven tepkisi hem de WGA/SAG-AFTRA grevlerinde, emek gücü endüstri gücüne karşı koymak için örgütlendi. Bu iki örnek bize, çalışanların, işçi sendikalarının ve meslek kuruluşlarının kendilerini en çok etkileyen yapay zeka sistemlerinin nasıl geliştirilip kullanılacağına veya yapay zekanın herhangi bir uygulamasına izin verilip verilmeyeceğine karar verebileceğini ve vermesi gerektiğini öğretiyor.

Sendikasız işçiler, yukarıda açıklanan yöntemleri kullanarak konuşabilir, araştırma yapabilir, farkındalık yaratabilir ve zararlı YZ sistemlerine karşı çıkabilir. Ayrıca işyerlerini sendikalaştırma stratejileri hakkında konuşabilir ve araştırma yapabilirler. Sendikalı işçiler, toplu sözleşmeler ve işyeri politikası talepleri gibi ellerindeki diğer işçi yönetim mekanizmalarını kullanmanın yanı sıra yukarıda açıklanan örgütlenme yöntemlerini de kullanabilirler.

Ne yazık ki, işçilerin Project Maven’a karşı zaferi kısa sürdü: Google o zamandan beri bir dizi yeni askeri YZ ortaklığı başlattı. Project Maven’dan, işçi direnişinin başarılı uzun vadeli karşı yönetim sonuçları elde etmek için hem örgütlenmesi hem de sürdürülmesi gerektiğini öğreniyoruz. Sürdürülebilir direniş, işyeri YZ politikası üzerine kalıcı komiteler veya çalışma grupları gibi işçi liderliğindeki yönetim mekanizmaları aracılığıyla inşa edilebilir – örneğin WGA tarafından organize edilen YZ çalışma grubu.

Son olarak, kamularının çıkarlarına hizmet etmek için görünürde ücret alan devlet iktidarının aracıları olarak, kamu görevlilerinin yapay zeka karşı yönetimi sürecinde oynayacakları önemli bir rol vardır. Sidewalk Labs ve AIDA tepkilerinde gördüğümüz gibi, yapay zeka karşı yönetimi hareketleri genellikle devlet iktidarı toplumun çıkarlarından çok endüstrinin çıkarlarını ayrıcalıklı kıldığında ortaya çıkar. Toplum odaklı kamu görevlileri, işyerlerinde endüstrinin devlet iktidarını ele geçirmesine karşı koyabilir ve direnmelidir. Kamu görevlileri ayrıca yapay zeka ve daha genel olarak ilgili katılımcı politika yapım süreçlerini teşvik etmek için çabalar düzenlemelidir.

Karşı yönetim hareketleri ortaya çıktığında, kamu görevlileri mağdur topluluklarla güçlü bir şekilde etkileşime girmelidir. Topluluklara, kendilerini en çok endişelendiren YZ ile ilgili sorunlar hakkında konuşmak, araştırma yapmak ve farkındalık oluşturmak için ihtiyaç duydukları kaynaklar sağlanmalıdır. Kamu görevlilerinin, marjinal toplulukları ve ait oldukları daha geniş halkları, eyaletin YZ politika geliştirme süreçlerine anlamlı bir şekilde katılmaları için güçlendirmek gibi mesleki bir görevleri vardır. Daha güçlü YZ politikaları tasarlamak ve topluluk ihtiyaçlarına daha duyarlı programları desteklemek için doğrudan topluluk gruplarıyla çalışmalıdırlar.

Devlet ve endüstri gücünün yukarıdan aşağıya YZ yönetim rejimleri genellikle marjinal toplulukların ve işçilerin çıkarlarına hizmet etmekte başarısız oluyor. Birlikte örgütlenirsek, YZ’yı aşağıdan yukarıya kendimiz yönetme gücüne sahip oluruz.