Yapay zeka, durdurulabilir ve giderek artan bir hızla dünyayı devrimleştirmeye devam edecek, ancak yeterli insan denetimi olmadan, eşitsizlikleri ve sistematik çarpıtmaları artırarak birden fazla riske sahip olabilir. Yapay zeka modellerindeki önyargı ve kasıtlı manipülasyon olasılığı, bu sorunların köklerini, sonuçlarını ve etkilerini hafifletme stratejilerini analiz etmeye çağrılan şirketler ve kurumlar için birçok etik ve stratejik soru ortaya çıkarır.
Yapay Zeka’da Önyargı: Görünmez Bir Risk
Standart literatür, bilişsel önyargıyı, karar alma süreçlerini ve bilişsel anlayışı etkileyen, genellikle sınırlı veri kümelerinden ve bilinçsiz önyargılardan ve belirli bakış açılarını destekleyen karar protokollerinden kaynaklanan sistematik bir çarpıtma olarak tanımlar. Ancak önyargı, beynimizin bilgiyi işleme biçiminin içsel özelliği tarafından üretilen, genellikle kararları mümkün olan en kısa sürede almamıza yardımcı olan bilişsel kısayollardan (sezgisel yöntemler) kaynaklanan bir insan faktörüdür . Bir kişi, geçmiş deneyimlerine dayanarak mevcut durumu değerlendirmeye çalıştığında, benzer bir geçmiş durumda benimsenen aynı ölçütleri yeniden kullanmak için mümkün olan yerlerde farklılıkları atladığında ortaya çıkar. Ancak bu tür farklılıkları atlamak, bazen nihYZ değerlendirmeyi geçersiz kılmada belirleyici olabilir ve bu da akıl yürütmede sistematik çarpıtmalara yol açarak ortaya çıkan yargıları ve kararları etkileyebilir. Yapay zeka sistemleri, model asimetrik verilerle eğitildiğinde veya tasarımda yapısal kusurlar olduğunda önyargılı hale gelir ve bu da adil olmayan sonuçlara yol açar. Yüz tanıma sistemleri bunun başlıca bir örneğidir : Öncelikle açık ten tonlarının görüntüleriyle eğitim veren bir algoritma, daha koyu ten tonlu bireyler pahasına bu grup için daha iyi doğruluk göstermesine yol açar.
Sorun, salt teknolojinin ötesine geçerek ciddi bir toplumsal adalet ve katılım meselesi haline geliyor. Algoritmik önyargı, bir algoritmanın oluşturulması sırasında yapılan seçimlerden kaynaklanan büyük bir sorundur, seçimlerin kasıtlı olup olmadığına bakılmaksızın. Kredi verme, işe alma ve ceza adalet sistemi gibi alanlarda çok ciddi sonuçlara yol açma potansiyeline sahiptir. Verilerin tarafsız görünebilmesine rağmen ayrımcı sonuçlar üretebilmesi korkutucu. Bu, herkesin adil bir şansa sahip olmasını sağlamak için bu teknolojilerin oluşturulmasında ve kullanımında daha fazla şeffaflık ve hesap verebilirliğin gerekliliğinin bir kanıtıdır. Ancak, kullanıcı kaynaklı önyargı tartışmanın bir başka yönüdür.
İnsanlar YZ ile etkileşime girdiğinde, mevcut önyargıları sürdüren belirli davranışlar sergileme eğilimindedirler. Bu, algoritmaların benzer düşünen içerikleri sunmak için kullanıcıların ilgi alanlarını tercih ettiği sosyal medyada belirgindir. Bu süreç, toplumda bölünmeleri artıran ve kutuplaşmayı artıran “filtre balonları” olarak adlandırılan şeyin oluşumuna yol açar.
Bozuk Yapay Zeka: Manipülasyonun Kontrol Altına Alınması
Yapay zeka bozulması, modellerin bütünlüğünü tehdit eden kasıtlı bir tehdit oluştururken, önyargı genellikle kasıtsız olarak gelişir. Yapay zeka sistemleri için yaygın olarak kullanılan manipülasyon teknikleri arasında en büyük tehlike, veri zehirlenmesinden kaynaklanır çünkü bu yöntem kullanıcıların eğitim veri kümelerine yanlış bilgiler eklemesine izin verir ve bu da algoritma davranışının değişmesine ve yapay kredi puanları gibi belirli sorunların ayrıcalıklı bir şekilde ele alınmasına yol açar. Arka kapılar olarak bilinen model tabanlı güvenlik açıkları , kötü niyetli varlıkların güvenlik ve adalet gibi alanlarda önemli riskler içeren algoritmik kararları kontrol etmesini sağlayan kasıtlı zayıflıklar yaratır. Sistemler, dolandırıcılık önleme tespitinden kaçmaya çalışırken yanlış sonuçlar üretmelerine yol açan düşmanca saldırılar yoluyla girdi verisi manipülasyonuyla karşı karşıya kalır.
Model bozulması, birisi modelin temel parametrelerini değiştirdiğinde zararlı etkilerine ulaşır. Süreç, önyargıyı teşvik etmeden algoritmanın çerçevesinde seçici ayarlamalar yapmayı içerir ve bu da genellikle belirli nüfus gruplarının beklenmedik şekilde korunmasıyla sonuçlanır. Bu, işe alım sırasında, belirli grupların işe alım için haksız yere tercih edildiği durumlarda meydana gelebilir.
Bu sorunlar yapay zeka ile güven sorunları yaratır ve yanıt olarak yenilikçi çözümler gerektiren etik ve operasyonel zorluklara yol açar. Bu sorunların belirlenmesi, yapay zeka sistemlerinin adil ve güvenilir kalması için önemlidir.
Yapay Zeka Yolsuzluğunun Arkasındaki Motivasyonlar
Birinin bir YZ sistemine müdahale etmesine ne sebep olabilir? Bunun çeşitli nedenleri olabilir, bunlar ekonomik bir bakış açısı, politik bir bakış açısı veya insanların tam olarak farkında olmayabileceği bazı örtük önyargılar kadar basit olabilir. Örneğin, finansal hizmetler sektöründe, YZ yüksek frekanslı işlem algoritmaları aracılığıyla piyasayı manipüle etmek veya diğer yatırımcılara hisse senedi fiyatları hakkında düşünmeleri için malzeme vermek için kullanılabilir. Örneğin, sigorta sektöründe, önyargılı YZ algoritmaları yüksek riskli olduğu düşünülen kişilere sigorta kapsamını reddedebilir, bu da “marjinal gruplar” olarak adlandırılanlar için zararlı bir uygulamadır.
Siyasi açıdan bakıldığında, yapay zekanın kötüye kullanımı çevrimiçi bilgileri yönetmek için tasarlanmış herhangi bir platformu etkileyebilir. Bunun açık bir örneği, sosyal medyada kullanılan algoritmaların insanların algılarını değiştirmek, belirli ideolojileri desteklemek veya yanlış bilgi yaymak için nasıl manipüle edilebileceğidir; Cambridge Analytica skandalı da bunu kanıtlamaktadır . Ayrıca, bazen bu teknolojileri yaratanların kişisel önyargılarının tasarladıkları sistemlere istemeden sızabileceğini belirtmekte fayda var.
Sonuçlar
Yapay zeka güçlü bir yeniliktir, ancak belirli ve yeterli denetim olmadan adaletsizlikleri artırabilir ve modellerine olan güveni zayıflatabilir. Yapay zekanın eşitlikçi ve kapsayıcı ilerleme için bir araç olmaya devam etmesi için, geliştirme süreçlerinde daha fazla şeffaflık, veri kümelerinin çeşitlendirilmesi, bağımsız denetimler yapılması ve bu teknolojinin kötüye kullanımını etkili bir şekilde önleyen belirli düzenlemelerin uygulanması gibi azaltma stratejilerinin benimsenmesi esastır.
Yapay zeka gibi güçlü ve yaygın bir aracın, adalet ve eşitlik gibi en yüksek insan değerlerinden ödün vermeden inovasyonun itici gücü olarak kendini göstermeye devam etmesini sağlamak, yalnızca şirketler, hükümetler ve sivil toplum arasında derin bir kolektif bağlılıkla mümkün olacaktır.