Marc Rotenberg
Hızlı teknolojik gelişmelerin olduğu bu çağda, yapay zeka (YZ) gelişim ve yenilik için eşsiz fırsatlar sunarken aynı zamanda insan hakları ve demokratik kurumlar için ciddi riskler oluşturmaktadır. YZ’ya olan küresel bağımlılık artmaya devam ederken, Birleşmiş Milletler (BM) YZ ile insan hakları arasındaki karmaşık ilişkiyi ele almanın ön saflarında yer almıştır. UNESCO’nun Yapay Zeka Etiği Üzerine Tavsiyesi gibi çeşitli politik girişimler aracılığıyla BM, YZ’nin etik yönetişimi için temel bir çerçeveyi oluşturmuştur. Ayrıca, BM Genel Sekreteri, YZ geliştirme ve kullanımına insan hakları hususlarını entegre etmenin önemini vurgulamıştır. YZ yönetişimi üzerine BM yüksek düzeyli uzmanlar grubunun yakın zamanda kurulması, küresel YZ politikasında önemli bir adım olarak öne çıkmaktadır. Ancak, YZ ve insan haklarının karmaşık alanını etkili bir şekilde yönetebilmek için BM’de YZ ve İnsan Hakları Özel Raportörü’nün oluşturulmasına acil bir ihtiyaç bulunmaktadır. Bu rol, mevcut çabaları tamamlayacak ve dijital çağda insan haklarını korumak için gereken çeviklik, yetki ve uzmanlığı sağlayacaktır.
Anahtar Kelimeler: UNESCO; BM Özel Raportörü; insan hakları
1. BM’deki Son YZ Politik Girişimleri
BM’nin YZ politikası ile olan ilgisi, özellikle UNESCO’nun Yapay Zeka Etiği Üzerine Tavsiyesi ile küresel YZ tartışmalarında dönüm noktası niteliğindedir. UNESCO üye devletleri tarafından oybirliğiyle kabul edilen bu önemli belge, YZ sistemlerinin evrensel etik ilkeler ve insan hakları standartlarıyla uyumlu olmasını sağlamak için kapsamlı bir çerçeve çizmektedir. UNESCO Tavsiyesi, YZ geliştirme ve kullanımında şeffaflık, hesap verebilirlik ve kapsayıcılık ilkelerini vurgulamakta, YZ teknolojileriyle ilişkili riskleri azaltmayı ve toplumsal faydalarını maksimize etmeyi amaçlamaktadır. Ayrıca, sosyal puanlama ve kitlesel gözetim için YZ kullanımını açıkça yasaklamakta ve etik etki değerlendirmelerini, YZ sistemlerinin risklerini devreye girmeden önce değerlendirmek ve ülkelerin YZ sistemlerini sorumlu bir şekilde entegre etmelerine yardımcı olmak için hazırlık değerlendirmelerini teşvik etmektedir. ABD, UNESCO’nun YZ politikası konusundaki çalışmalarını, uluslararası kuruluşa yeniden katılma kararında gerekçe olarak göstermiştir.
Bunun yanı sıra, BM Genel Sekreteri, YZ ile insan haklarının kritik kesişim noktası hakkında sıkça sesini yükseltmiştir. Çeşitli açıklamalarında, YZ’nin Sürdürülebilir Kalkınma Hedefleri’nin (SKH) başarısına katkıda bulunma potansiyelini belirtirken, eşitsizliği, ayrımcılığı ve diğer insan hakları ihlallerini artırma risklerine karşı uyarıda bulunmuştur. Bu endişeler yersiz değildir; YZ sistemleri önyargıları sürdürebilir, gizlilik haklarını ihlal edebilir ve gözetimi kolaylaştırabilir.
2. YZ ve İnsan Hakları Üzerine Bir BM Özel Raportörü İçin Gerekçe
Bu övgüye değer çabalar rağmen, YZ teknolojisinin hızla evrilen doğası ve insan hakları üzerindeki etkileri daha odaklı ve dinamik bir yaklaşımı gerektirmektedir. Ayrıca, güvenli ve emniyetli YZ’ye verilen mevcut odaklanma, temel hakları koruma ihtiyacını gölgeleme riski taşımaktadır. İşte tam da bu noktada önerilen YZ ve İnsan Hakları Özel Raportörü devreye girmektedir. BM İnsan Hakları Konseyi tarafından atanan bağımsız bir uzman olarak Özel Raportör, BM’nin ilgili çalışmalarını tamamlayacak gerekli odak ve yetkinliği sağlayacaktır.
- Çeviklik YZ teknolojisi baş döndürücü bir hızla gelişmekte ve geleneksel politika yapma ile düzenleyici süreçlerin gerisinde kalmaktadır. YZ ve insan haklarına özellikle odaklanma yetkisine sahip bir Özel Raportör, ortaya çıkan zorluklara hızlı bir şekilde yanıt verme çevikliğine sahip olacaktır. Bu rol, YZ uygulamalarından kaynaklanan yeni insan hakları tehditlerini hızlıca tespit ederek ve ele alarak, yönetişim mekanizmalarının hızlı evrilen teknolojik manzarada ilgili ve etkili kalmasını sağlayabilir.
- Yetki Bir BM Özel Raportörü, BM’nin otoritesini taşıyarak hükümetler, uluslararası kuruluşlar, sivil toplum ve özel sektörle güvenilirlik ve etkiyle iletişim kurabilecektir. Bu pozisyon, uluslararası iş birliğini kolaylaştırarak, YZ etiği ve insan hakları için küresel standartların kabulünü teşvik edebilir ve ihlallerden sorumlu aktörleri hesap verebilir kılabilir.
- Uzmanlık YZ teknolojilerinin karmaşıklığı ve insan hakları üzerindeki çok yönlü etkileri derin bir uzmanlık gerektirmektedir. Odaklanmış yetkisi sayesinde bir Özel Raportör, YZ’nin teknik yönlerini olduğu kadar sosyal, etik ve hukuki etkilerini anlamak için gerekli özel bilgiye sahip olacaktır. Bu uzmanlık, kapsamlı soruşturmalar yürütmek, bilgilendirilmiş öneriler sunmak ve YZ’nin geliştirilmesi ile kullanımının insan haklarını güçlendirmesinden ziyade zayıflatmamasını sağlamak için politikalar savunmak açısından kritik olacaktır.
- Yetki Alanı YZ ve İnsan Hakları Özel Raportörü’nün yetki alanı, diğer Özel Raportörlerinkine benzer olmalıdır. Amaç, Evrensel İnsan Hakları Beyannamesi’nde belirtilen haklar için etkili bir savunucu olmaktır. Yetki alanı şunları içermelidir:
- İlgili bilgileri toplamak, trendleri değerlendirmek ve yeni zorlukları tanımlamak;
- İnsan haklarını korumak için ilkeleri ve en iyi uygulamaları teşvik etmek;
- Sistematik ve tutarlı bir yaklaşımı teşvik etmek amacıyla uluslararası konferanslara katılmak;
- YZ sistemlerinin tasarımı, geliştirilmesi ve kullanımında insan haklarının teşviki ve korunmasının önemine dair farkındalık yaratmak;
- Evrensel İnsan Hakları Beyannamesi ve Medeni ve Siyasi Haklar Uluslararası Sözleşmesi ihlallerini, nerede olursa olsun bildirmek;
- İnsan Hakları Konseyi ve Genel Kurul’a yıllık rapor sunmak.
Diğer Özel Raportörler gibi, YZ ve İnsan Hakları Özel Raportörü de açık bir aday çağrısıyla seçilmeli, ayrıntılı nitelik kriterlerine tabi tutulmalı ve İnsan Hakları Konseyi tarafından atanmalıdır.
3. Aciliyet
2021’de, eski BM İnsan Hakları Yüksek Komiseri Michelle Bachelet, insan haklarına ciddi risk oluşturan YZ’nin satışına ve kullanımına yeterli güvenceler sağlanana kadar bir moratoryum çağrısında bulundu. “Yapay zeka, toplumların zamanımızın büyük zorluklarını aşmasına yardımcı olan bir güç olabilir. Ancak YZ teknolojileri, insanların insan haklarını nasıl etkilediğine yeterince dikkat edilmeden kullanıldığında olumsuz, hatta felaket sonuçlar doğurabilir.”
Zamanla Bachelet’in uyarısı daha da acil hale gelmiştir. Bugün YZ sistemleri konut, kredi, istihdam ve eğitim kararlarını belirlemektedir. Ayrıca giderek daha fazla ceza kararlarını belirlemek ve sığınma başvurularını değerlendirmek için kullanılmaktadır. Sonuç olarak, Evrensel İnsan Hakları Beyannamesi’nde yer alan özgürlükler ve haklar etkilenmektedir. Yeni makine öğrenimi teknikleri, izlenemeyen, kanıtlanamayan veya tekrarlanamayan sonuçlar üretmektedir. Avrupa Birliği Adalet Divanı, bu tür sistemlerin temel hakların korunmasıyla uyumsuz olabileceğini belirtmiştir. Ayrıca, insan davranışını taklit edebilen jeneratif YZ, insan onuru ve özerkliğinin korunması konusunda derin sorular ortaya koymaktadır.
4. Sonuç
YZ ve İnsan Hakları Üzerine Bir BM Özel Raportörü’nün kurulması, BM’nin insan haklarını koruma yetkisine yalnızca prosedürel bir ekleme değildir. Özel Raportör, YZ teknolojilerinin toplumsal normlar, bireysel özgürlükler ve demokratik kurumlar üzerindeki muazzam gücü çağında stratejik bir gerekliliktir. UNESCO’nun YZ Etiği Üzerine Tavsiyesi ve BM Genel Sekreteri’nin açıklamaları YZ yönetişimi için sağlam bir temel sağlarken, BM yüksek düzeyli uzmanlar grubunun oluşturulması doğru yönde atılmış bir adımdır; ancak bir Özel Raportör’ün atanması kritik bir boşluğu dolduracaktır. Bu rol, YZ ve insan haklarının kesişimine özel bir odak sağlayarak, dijital çağın zorluklarını aşmak için gereken çeviklik, yetki ve uzmanlığı temin edecektir. YZ dünyamızı yeniden şekillendirmeye devam ettikçe, böyle bir figüre duyulan ihtiyaç yalnızca zamanında değil, aynı zamanda zorunludur. Uluslararası toplum bu gerekliliği tanımalı ve insan haklarını yapay zeka çağında korumak için hızla harekete geçmelidir.
DOI: 10.21552/aire/2024/1/13
* Marc Rotenberg is the founder and executive director of the Center for AI and Digital Policy, a global network of AI policyexperts and advocates. CAIDP publishes annually the AI and Democratic Values Index, a comprehensive review of AI policiesand practices in 75 countries. For correspondence: <marc@caidp.org>.
1. UNESCO, ‘Recommendation on the Ethics of Artificial Intelli- gence’ (2021) <https://unesdoc.unesco.org/ark:/48223/pf0000381137>. All internet links were last accessed 12 March 2024.
2.‘China, AI and a say on world order: Why the US rejoined UNESCO’ (France24, 30 June 2023) <https://www.france24.com/en/ americas/20230630-china-ai-and-a-say-on-world-order-why-the-us-rejoined-unesco>.
3. UN Human Rights, Office of the High Commissioner, ‘Artificial intelligence risks to privacy demand urgent action – Bachelet’ (15 September 2021) <https://www.ohchr.org/en/2021/09/artificial intelligence-risks-privacy-demand-urgent-action-bachelet>.
4. Marc Rotenberg, ‘CJEU PNR Decision Unplugs the “Black Box”’ (2022) 8(3) European Data Protection Law Review 431-35.
5 Marc Rotenberg, ‘Urgent Mandate, Unhurried Response: An Evaluation of the UN Special Rapporteur on the Right to Privacy’ (2017) 3(1) European Data Protection Law Review 47-60.