UNESCO Raporu: Yapay Zeka ve Cinsiyet Eşitliği

Yazan /

Kaynak: UNESCO_Women_for_Ethical_AI_Outlook_1741449752.pdf / Tarih: 17 Mayıs 2024

Giriş:

Bu rapor UNESCO’nun “Women for Ethical AI Outlook” raporundan seçilmiş bölümleri inceleyerek,  yapay zeka (YZ) alanındaki cinsiyet eşitliğiyle ilgili temel temaları, önemli fikirleri ve gerçekleri özetlemektedir. Rapor, YZ’nin hızla geliştiği ve toplumu her düzeyde etkilediği bir dönemde, bu teknolojinin cinsiyet eşitsizliğini azaltma potansiyelini ve aynı zamanda mevcut eşitsizlikleri derinleştirme riskini vurgulamaktadır. Raporun temel amacı, YZ’nin toplumsal cinsiyet perspektifiyle geliştirilmesi ve uygulanması gerektiğinin altını çizerek, kadınların ve kız çocuklarının bu teknolojilerden eşit şekilde faydalanmasını sağlamaktır.

Temel Temalar ve Önemli Fikirler/Gerçekler:

 

  1. YZ’nin Cinsiyet Eşitsizliği Üzerindeki Çift Yönlü Etkisi:
  • YZ, sorumlu bir şekilde kullanıldığında ve mevcut dinamikler dikkate alındığında, kadınların ve kız çocuklarının yaşamlarını dönüştürme ve sürdürülebilir kalkınmanın ve insan güvenliğinin toplumsal cinsiyet boyutlarını daha etkili bir şekilde ele alma konusunda büyük bir potansiyele
  • Ancak, bu endişeler ele alınmadığında, YZ’nin sunduğu fırsatlar kaçırılabilir ve aynı zamanda cinsiyet eşitsizlikleri genişleyebilir, hatta dünya çapında kadınların ve kız çocuklarının güçlenmesi için kaydedilen ilerleme baltalanabilir.
  • “YZ, bir toplumsal cinsiyet perspektifiyle geliştirilmeli ve uygulanmalıdır, aksi takdirde toplumsal cinsiyet stereotiplerini yeniden üretme ve pekiştirme olasılığı yüksektir, bu da toplum için olumlu potansiyel etkileri en aza indirir.” (Bölüm 1)
  1. YZ Ekosisteminde Ciddi Cinsiyet Katılımı Açığı:
  • YZ geliştirme ve uygulamasına katılım ve bu alana erişim konusunda önemli cinsiyet eşitsizlikleri bulunmaktadır.
  • “Bölüm 2.1, YZ ekosistemine katılım ve erişim açısından cinsiyet eşitliğinde önemli eşitsizlikleri vurgulamaktadır, bu boşlukları kapatmak için bazı ilerlemeler kaydedilmiş olsa bile.” (Bölüm 2.1 Giriş)
  • Cinsiyete göre ayrıştırılmış veri eksikliği, YZ ekosistemindeki kadın katılımının kapsamını ve doğruluğunu değerlendirmeyi zorlaştırmaktadır. Mevcut veriler genellikle yüzeyseldir ve bilişim ve iletişim teknolojileri (BİT) alanındaki kadın katılımını yeterince yansıtmamaktadır.
  • Uluslararası Telekomünikasyon Birliği (ITU), cinsiyet dijital uçurumunu dört ana alanda tanımlamaktadır: (1) İnternete erişim ve kullanımda açıklık, (2) Dijital beceriler ve dijital araçların kullanımında açıklık, (3) Bilim, teknoloji, mühendislik ve matematik (STEM) alanlarına katılımda açıklık ve (4) Teknoloji sektöründe liderlik ve girişimcilikte açıklık. Bu zorluklar YZ alt alanında da geçerlidir.
  1. YZ Alanında Erişim, Eğitim ve İşgücünde Cinsiyet Eşitsizlikleri:
  • İnternete ve teknolojiye erişimde genel olarak cinsiyet paritesi neredeyse sağlanmış olsa da (%92), yoksulluk, konum, engellilik durumu ve yaş gibi diğer boyutlarla kesiştiğinde ciddi eşitsizlikler ortaya çıkmaktadır. Örneğin, düşük gelirli ülkelerde internet erişiminde cinsiyet paritesi sadece %59’dur.
  • YZ ile ilgili eğitim ve öğretimde cinsiyet eşitsizlikleri, BİT becerilerinde bir cinsiyet açığına yol açmaktadır. Özel programlama dillerini kullanma becerisi gibi daha uzmanlaşmış dijital becerilerde erkeklerin oranı kadınlarınkinin iki katından fazladır.
  • Akademik ve Ar-Ge pozisyonlarında kadınların katılım düzeyleri değişmekle birlikte, YZ alanına özgü istatistiklere odaklanıldığında bu açık daha da genişlemektedir. Birleşik Krallık’ta Google Scholar’da listelenen veri ve YZ araştırmacılarının sadece %20’si kadındır ve “çok sayıda yayını olan” araştırmacıların ise sadece %11’i kadındır.
  • Girişim sermayesi ve start-up ekosisteminde de önemli cinsiyet eşitsizlikleri bulunmaktadır. Avrupa’da 2024’te VC sermayesinin en az bir kadın lideri olan start-up’lara yapılan yatırımında %31,7’lik bir cinsiyet açığı bulunmaktadır. Teknoloji odaklı start-up’larda kadınların BİT patenti alma olasılığı erkeklere göre 13 kat daha düşüktür.
  • Teknoloji sektöründe liderlik pozisyonlarında da ciddi cinsiyet açıkları bulunmaktadır. Bu durum, daha iyi karar alma, finansal performans ve kurumsal itibar için gerekli olan cinsiyet çeşitliliğinin faydalarını sınırlamaktadır.
  1. YZ Sistemlerinden Kaynaklanan Cinsiyet Eşitliği Riskleri:
  • YZ sistemleri, veri önyargısı, zararlı çıktılar ve stereotipleştirme yoluyla cinsiyet eşitsizliğini derinleştirebilir.
  • MIT’in YZ Risk Deposu’ndaki 702 risk girişinden sadece 27’sinde “Kadın; Kız Çocuk; Kadınsı; veya Cinsiyet” terimleri geçmektedir ve bu risklerin büyük çoğunluğu ayrımcılık ve toksisite kategorisi altındadır.
  • Otomatik konuşma tanıma sistemleri, ırk, cinsiyet ve lehçeye göre farklı performans göstermektedir. Araçlardaki ses tanıma sistemleri kadın seslerini erkek seslerine göre daha zor anlamaktadır.
  • Dil modelleri (örneğin BERT, Llama 2) cinsiyetçi önyargılar sergileyebilir ve kadınları geleneksel rollerle daha sık ilişkilendirebilir.
  • Görüntü veri setleri (örneğin ImageNet) sorunlu etiketler içerebilir ve arama sonuçlarında cinsiyet stereotiplerini yansıtabilir.
  • Yüz tanıma sistemleri, veri setlerindeki çeşitlilik eksikliği nedeniyle koyu tenli kadınları açık tenli erkeklere göre çok daha yüksek oranda yanlış sınıflandırabilir.
  • Cinsiyet temelli yanlış bilgilendirme ve dezenformasyon, kadınların ve kız çocuklarının çevrimiçi alanda seslerini duyurma ve toplumsal hayata katılma konusunda kendilerine olan güvenlerini azaltabilir.
  • YZ tabanlı şiddet örnekleri (örneğin, rızasız cinsel içerikli fotoğraf oluşturma uygulamaları) kadınlara orantısız zarar verebilir.
  1. Cinsiyet Eşitliğini Desteklemek İçin Politika ve Değerlendirme Araçları:
  • YZ Etki Değerlendirmeleri (AI-IA) ve YZ Denetimleri, YZ sistemlerinin potansiyel faydalarını, endişelerini ve risklerini belirlemek ve ele almak için önemli araçlardır. Ancak, bu süreçlere formal ve sistematik bir toplumsal cinsiyet perspektifinin daha fazla entegre edilmesi gerekmektedir.
  • UNESCO’nun Etik Etki Değerlendirmesi (EIA), YZ sistemlerinin etik ilkelerle uyumunu değerlendirmek ve potansiyel riskleri azaltmak için bir çerçeve sunmaktadır.
  • UNESCO’nun Hazırlıklılık Değerlendirme Metodolojisi (RAM), üye devletlerin YZ’ye hazırlıklılık düzeylerini anlamalarına ve toplumsal cinsiyeti kesişen bir tema olarak entegre etmelerine yardımcı olan bir araçtır. RAM, yasal, sosyal/kültürel, ekonomik, bilimsel/eğitimsel ve teknolojik/altyapısal boyutları içermektedir ve cinsiyetle ilgili çeşitli göstergeleri ve soruları kapsamaktadır.
  1. Politika Belgelerinde Cinsiyet Eşitsizliğine Yönelik Yaklaşım:
  • Global Index on Responsible AI (GIRAI) tarafından belirlenen politika belgelerinin analizi, bazı belgelerde kadınlara veya kız çocuklarına yönelik hiçbir atıf bulunmadığını göstermektedir.
  • Bazı belgelerde ise toplumsal cinsiyet eşitliği, kız çocukları ve kadınlara yapılan atıflar marjinalleştirilmiş ve genellikle eklerde yer almıştır.
  • Bazı politika belgeleri, toplumsal cinsiyetin daha fazla dikkat gerektiren bir alan olduğunu kabul etmekle birlikte, durumu iyileştirme yönünde herhangi bir taahhüt
  • Politika belgelerinde toplumsal cinsiyet eşitliğiyle ilgili kullanılan terminolojinin tutarsız ve belirsiz olduğu görülmektedir.
  1. Öneriler ve Gelecek Perspektifleri:

Raporun “Öneriler ve Gelecek Perspektifleri” bölümü, YZ ve cinsiyet eşitliği gündemini ilerletmek için çeşitli eylemleri ve politika önerilerini içermektedir. Bunlardan bazıları şunlardır:

  • Kadınların ve diğer marjinal grupların politika yapım süreçlerine dahil edilmesi ve bu çalışmalara fon ayrılması.
  • Politika ve değerlendirme ekiplerinde kabul edilebilir bir çeşitlilik düzeyi (%50 hedef) için hedefler belirlenmesi ve karar alma süreçlerindeki çeşitliliğe yönelik ilerlemenin izlenmesi için veri toplanması.
  • YZ politikalarında toplumsal cinsiyet eşitliği için spesifik, ölçülebilir, ulaşılabilir, ilgili ve zamana bağlı (SMART) göstergeler içeren izleme ve değerlendirme araçlarının geliştirilmesi.
  • Ulusal YZ yönetişim mekanizmalarının ve genel olarak YZ sektörünün tasarım, geliştirme, uygulama ve izlenmesi için ayrılan tüm bütçelerin toplumsal cinsiyeti dönüştürücü olması.
  • Ulusal dijital politikaların bir toplumsal cinsiyet eylem planı içermesi ve kız çocuklarının ve kadınların YZ destekli dijital ekonominin dışında kalmamalarını sağlamaya yönelik ilgili politikaların geliştirilmesi.
  • YZ etik ve insan hakları etki değerlendirmelerine dönüştürücü bir toplumsal cinsiyet perspektifinin dahil edilmesi.
  • Teknolojiyle ilgili organizasyonların yönetim kurullarında ve liderlik pozisyonlarında en az %40 kadın ve cinsiyet uyumsuz temsili için ulusal, bölgesel veya sektörel düzeyde kotalar belirlenmesi.
  • STEM ile ilgili kariyerlere erişimi, bu kariyerlerde kalmayı ve ilerlemeyi desteklemek için hedefli müdahalelerin ve programların güçlendirilmesi veya geliştirilmesi.
  • YZ’ye erişim, YZ ekosistemine katılım, ilgili yönetişim mekanizmaları ve girişimcilikteki cinsiyet açıkları ve ilerlemeleri hakkında veri toplanması, ayrıştırılması ve raporlanması.

Sonuç:

UNESCO’nun bu raporu, YZ’nin cinsiyet eşitliği üzerindeki karmaşık etkilerini derinlemesine incelemekte ve bu alanda ilerleme kaydetmek için acil eylem çağrısında bulunmaktadır. Rapor, YZ politikalarının ve uygulamalarının toplumsal cinsiyet perspektifiyle şekillendirilmesinin, veri toplama ve analizine daha fazla önem verilmesinin, kapsayıcı politika yapım süreçlerinin teşvik edilmesinin ve YZ ekosisteminde kadınların ve diğer marjinal grupların katılımını artırmaya yönelik hedefli müdahalelerin hayati önem taşıdığını vurgulamaktadır. UNESCO’nun Hazırlıklılık Değerlendirme Metodolojisi gibi araçlar, üye devletlere bu alandaki ilerlemeyi izleme ve destekleme konusunda önemli bir çerçeve sunmaktadır.

 

https://unesdoc.unesco.org/ark:/48223/pf0000391719

 

Scroll to Top