Abi Olvera 7 Haziran
20242018’de Singapur, ülke çapında izleme için sokak lambalarına yüz tanıma kameraları yerleştirmeyi planladı. Ancak pil teknolojisindeki ve 5G ağlarındaki hızlı gelişmeler, daha da güçlü ve çevik bir gözetim sistemine geçişi mümkün kıldı: vatandaşları gözlemleyebilen ve çöp atma eylemini yakalayan mobil sensörler ve kameraların veri analizini yapay zeka üstleniyor. Aynı zamanlarda Malezya, polise, vücut kamerası görüntülerinden vatandaşların gerçek zamanlı olarak tanımlanması için merkezi bir veritabanına bağlı yapay zeka destekli bir yüz tanıma sistemi sağlamak için Çin’in Yitu Technology şirketiyle ortaklık kurdu.
Dünya çapında, yeni nesil dijital gözler vatandaşları gözetliyor. Kitlesel gözetim yeni bir şey olmasa da, yapay zeka destekli sistemler yönetimlere halkı daha etkili bir şekilde takip etme yolları sağlıyor.
2019 Yapay Zeka Küresel Gözetim Endeksi’ne göre , 176 ülkeden 56’sı artık şehirleri “güvende” tutmak için bir şekilde yapay zeka kullanıyor. Demokratik olmayan yönetimler, bireyleri tespit etmek ve izlemek ve sivil itaatsizliği başlamadan önce caydırmak için yapay zeka destekli izlemeyi kullanabilir ve böylece otoritelerini güçlendirebilirler.
Bu sistemler, nakit sıkıntısı çeken otokrasilere ve zayıf yönetimlere bir devriye gücü için ödeme yapmaya veya onu yönetmeye gerek kalmadan bir polis veya askeri devriyenin caydırıcı gücünü sunuyor, diye açıklıyor MIT’de ekonomi doçenti ve yapay zeka destekli bir otokratik gözetim trendi analizinin ortak yazarı Martin Beraja. Gözetimin maliyetli polis güçlerinden ayrılması, otokrasilerin “huzursuzluk yaşanmadan önce yatıştırmak ve daha iyi teknolojiye sahip oldukları için daha az şiddet yanlısı görünmeleri anlamına gelebilir” diyor.Yapay zeka destekli gözetimin neden olduğu demokrasilerin çöküşüne karşı koymak için uluslararası toplumun etik çerçeveler oluşturması ve bu yeni, etkili kontrol ve baskı araçları için net sınırlar ve kontroller tanımlaması gerekecektir.
Dijital korkuluk. The Quarterly Journal of Economics’te yakın zamanda yayınlanan bir araştırma, kamu güvenliği kuruluşlarının kameralarını tamamlamak için yapay zeka gözetleme yazılımı edindiğinde daha az kişinin protesto ettiğini öne sürüyor . Görünüşe göre, bu tür sistemlerin varlığı bile huzursuzluğu bastırıyor. Bu sonuç en azından kısmen talihsiz bir gerçekliğe atfedilebilir: Carnegie Endowment for International Peace in the Democracy, Conflict, and Governance Program’da kıdemli araştırmacı olan ve dünya çapındaki kamu güvenliği kuruluşlarındaki personelle röportaj yapan Steven Feldstein’a göre, kamu güvenliği kuruluşları sistemleri genellikle olduklarından daha güçlü olarak yanlış tanıtıyor.
Yapay zeka destekli gözetim sistemlerinin edinilmesi ile iç huzursuzluk arasındaki ilişki tavuk-yumurta durumu olarak görülebilir. Ülkelerin iç huzursuzluk dönemlerinden sonra gözetim AI’sı satın alma olasılıkları daha yüksektir. Şaşırtıcı olmayan bir şekilde, ülkeler demokratik kurumları veya medeni özgürlükleri aşındığında bu tür yazılımları ithal etme olasılıkları da daha yüksektir . Demokrasinin aşınmasının, liderlerin ilk etapta AI sistemlerini istemesine neden olan tedarik veya aşınan demokrasi nedeniyle daha hızlı olup olmadığı belirsizdir, yalnızca AI gözetimine ilişkin istatistiksel verilere dayanmaktadır.
Beraja’nın verilerine göre, olgun demokrasiler, bu alanda sorunlu bir oyuncu olan Çin’den bile olsa, gözetim AI yazılımını ithal ederken demokratik erozyon yaşamadı. Ancak zayıf demokrasiler, gözetim teknolojisinin Çin’den mi yoksa ihracat konusunda daha katı olan Amerika Birleşik Devletleri’nden mi kaynaklandığına bakılmaksızın, demokratik kurumların parçalanması ve otokrasiye doğru hareketini sağladı.
İnsanlığın üçte birinden fazlası zaten otokratik yönetim altında yaşıyor ve yapay zeka gözetim teknolojisinin teşvik edebileceği kırılgan demokrasilerin aşınması endişe verici. Kademeli demokratik gerileme, otoriterliğe giden en yaygın yollardan biridir . Çinli dijital iletişim teknolojisi holdingi Huawei, dünyanın dört bir yanına “güvenli şehir” anlaşmaları aracılığıyla gözetim yazılımları kuruyor.
Tarihsel olarak, ülkeleri küresel ekonomiye entegre etmek, onları demokrasiye doğru itmek olarak görülmüştür. Çin’in gözetleme teknolojisi ihracatı bu teoriye aykırı görünüyor. Bu ihracatın oluşturduğu küresel riskleri daha da artıran Çin araştırmaları, gözetleme görevleri için yapay zeka yeteneklerini hızlandırmaya odaklanmış durumda. Bunlara kalabalık analizi, yapay zekanın kişileri farklı kamera görünümlerinde izlemesine olanak tanıyan yeniden tanımlama ve gerçek yüzleri sahte olanlardan (fotoğraflar veya maskeler gibi) ayırt etmeye yardımcı olan yüz sahtekarlığı tespiti dahildir. Georgetown Üniversitesi Güvenlik ve Ortaya Çıkan Teknoloji Merkezi’nin araştırmasına göre, bu yetenekler üzerine yapılan araştırmalar 2015’ten 2019’a kadar yüzde 30’dan fazla büyüdü . Çin, tek başına yeniden kişi tanımlama araştırmalarının yüzde 56’sını oluşturuyordu.
Feldstein, bu yapay zeka destekli gözetleme sistemlerinin mevcut yeteneklerine şüpheyle yaklaşsa da, ulusal otoritelerin vatandaş hoşnutsuzluğunu bastırma yöntemleri geliştirip paylaştığı bütünsel “otokratik öğrenmenin” hızlandığı konusunda uyardı. Feldstein, “Otokrasiler yoğun bir şekilde işbirliği yapıyor ve jeopolitik eğilimleri ortak stratejilere dönüştürüyor” dedi.
Sonuç olarak, otoriter AI ve gözetim eğilimlerine karşı koymak çok yönlü bir yanıt gerektirir.
Demokrasiler etik çerçeveler oluşturmalı, şeffaflığı zorunlu kılmalı, kitle gözetim verilerinin nasıl kullanılacağını sınırlamalı, gizlilik korumalarını kutsallaştırmalı ve hükümetlerin sosyal kontrol için AI kullanımına net kırmızı çizgiler koymalıdır.
Önemli olarak, politika yapıcılar yapay zeka teknolojisinde uluslararası standartlar belirlerken toplumsal etkiyi hesaba katmalıdır; tıpkı etik olmayan kaynaklardan elde edilen ve kirleten ürünlerin olumsuz dışsallıklarını hesaba katmak gibi. Aksi takdirde, medeni özgürlüklerin kaybı, yapay zeka ihracatını düzenleme konusundaki tartışmalara bilgi sağlamayacaktır.
Küresel çabalar, baskıcı gözetim ve kontrolü etkinleştirmek yerine, gizlilik ve insan hakları gibi demokratik değerleri destekleyen AI teknolojilerinin geliştirilmesine öncelik verebilir. Oxford Üniversitesi araştırmacısı Anders Sandberg’in öne sürdüğü gibi, hükümetler ” farklı teknolojik geliştirme ” yaklaşımını izlemelidir; bu da “gizliliği artıran teknolojilerin veya bu durumda gözetim ve kontrole karşı koruma sağlayan teknolojinin gelişimini hızlandırmayı” gerektirir. Güvenliği artıran teknolojilere örnek olarak anonim tarama veya iletişim etkinleştiriciler, sivil toplum kullanımı için gelişmiş şifreleme yöntemleri ve yüz tanıma engelleyiciler ve izleme önleme yazılımları gibi gözetim karşıtı araçlar verilebilir. Diğer çabaların aksine, güvenliği artıran teknolojiler sağlam çok taraflı koordinasyon olmadan bile geliştirilebilir.
Ekonomik İşbirliği ve Kalkınma Örgütü ( OECD ), sürdürülebilir ekonomik büyüme için politikalar geliştirmek üzere 38 üye ülkeyi bir araya getiren uluslararası bir örgüttür. Nisan 2024 tarihli bir raporda , yasa önünde eşitlik, kamusal hesap verebilirlik ve daha büyük iyiliği ilerletme gibi “demokratik ilkeler tarafından yönlendirilen güvenilir teknoloji geliştirme” çağrısında bulundu. Yenilik, en başından itibaren liberal demokratik değerlere sıkı sıkıya bağlı olmalıdır.
Doğu Almanya’nın kötü şöhretli gizli polisi Stasi, 1950’den 1990’a kadar gözetimine yardımcı olacak yapay zeka destekli sokak lambaları olmadan faaliyet gösterdi. Ancak teşkilatın insan gözetimi, kolektif eylemin veya muhalefetin onlarca yıl boyunca kök salmasını önleyecek kadar yaygındı. Yapay zeka destekli gözetimin yaygın olduğu bir çağda demokratik ilkeleri savunmak, uyanıklık, norm belirleme ve medeni hakların proaktif bir şekilde savunulmasını gerektirecektir.
Yapay zekanın geleceği, demokrasinin geleceğini de belirleyebilir.
Not: Bu yazıda DeepL tercüme algoritması kullanılmış ve daha sonra revize edilmiştir.
http://how%20ai%20surveillance%20threatens%20democracy%20everywhere/