ÇERÇEVE SÖZLEŞMENİN AMACI NEDİR?
■ Avrupa Konseyi Yapay Zekâ ve İnsan Hakları, Demokrasi ve Hukukun Üstünlüğü Hakkında Çerçeve Sözleşme, bu alanda hukuki bağlayıcılığı olan ilk uluslararası belgedir.
Çerçeve Sözleşme, yapay zekâ sistemlerinin yaşam döngüsü içerisindeki faaliyetlerinin, insan hakları, demokrasi ve hukukun üstünlüğü ile tamamen uyumlu olmasını ve aynı
zamanda teknolojik ilerleme ve yeniliğe elverişli olmasını sağlamayı amaçlamaktadır.
■ Çerçeve Sözleşme, insan hakları, demokrasi ve hukukun üstünlüğüne ilişkin mevcut uluslararası standartları tamamlamayı ve hızlı teknolojik ilerlemelerden kaynaklanabilecek yasal boşlukları doldurmayı amaçlamaktadır. Uzun vadede geçerliliğini koruyabilmesi amacıyla Çerçeve Sözleşme, teknolojiyi düzenlememekte ve özünde teknolojiye karşı tarafsız bir yaklaşım benimsemektedir.
ÇERÇEVE SÖZLEŞME NASIL HAZIRLANDI?
■ Çalışmalar, ad-hoc Yapay Zekâ Komitesi’nin (CAHAI) bu tür bir belgenin fizibilitesini incelemekle görevlendirildiği 2019 yılında başlatılmıştır. Bu görevin tamamlanmasının ardından, 2022 yılında Yapay Zekâ Komitesi (CAI) kurulmuş ve metnin taslağını hazırlayarak müzakerelerini yürütmüştür.
■ Çerçeve Sözleşme, Avrupa Konseyi’nin 46 üye devleti tarafından, gözlemci devletler olan Kanada, Japonya, Meksika, Vatikan ve Amerika Birleşik Devletleri ile Avrupa Birliği’nin yanı sıra Avustralya, Arjantin, Kosta Rika, İsrail, Peru ve Uruguay gibi üye olmayan, önemli sayıda devletin katılımıyla hazırlanmıştır.
■ Avrupa Konseyi’nin çok paydaşlı katılım uygulaması doğrultusunda, sivil toplum, akademi ve endüstriden 68 uluslararası temsilcinin yanı sıra diğer birtakım uluslararası kuruluşlar da Çerçeve Sözleşme’nin geliştirilmesine aktif olarak katılmıştır.
ÇERÇEVE SÖZLEŞME DEVLETLERİN NELER YAPMASINI GEREKTİRİYOR?
TEMEL İLKELER
■ Yapay zekâ sistemlerinin yaşam döngüsü içerisinde gerçekleştirilen faaliyetler aşağıdaki temel ilkelerle uyumlu olmalıdır:
► İnsan onuru ve bireysel özerklik
► Eşitlik ve ayrımcılık yasağı
► Mahremiyet ve kişisel verilerin korunmasına saygı
► Şeffaflık ve denetim
► Hesap verilebilirlik ve sorumluluk
► Güvenilirlik
► Güvenli inovasyon
ÇÖZÜM YOLLARI, USULİ HAKLAR VE GÜVENCELER
► Yapay zekâ sistemleri ve bunların kullanımı ile ilgili bilgileri
belgelemek ve bunlardan etkilenen kişilerin erişimine sunmak;
► Bilgiler, konuyla ilgili kişilerin sistemin kullanımı yoluyla veya büyük ölçüde buna dayalı olarak alınan karar(lar)a ve sistemin kendisinin kullanımına itiraz edebilmeleri için yeterli olmalıdır;
► Yetkili makamlara etkin bir şekilde şikâyette bulunma olanağı;
► Bir yapay zekâ sisteminin insan hakları ve temel özgürlüklerden yararlanılmasını önemli ölçüde etkilediği durumlarda, yapay zekâ sistemiyle bağlantılı olarak etkilenen kişilere etkili usuli garantiler,
güvenceler ve haklar sağlanması;
► Kişinin bir insanla değil bir yapay zekâ sistemiyle etkileşimde bulunduğuna dair bildirim sağlanması.
RİSK VE ETKİ YÖNETİMİ GEREKLİLİKLERİ
► İnsan hakları, demokrasi ve hukukun üstünlüğü üzerindeki mevcut ve olası etkilere ilişkin risk ve etki değerlendirmelerinin tekrarlayan bir şekilde gerçekleştirilmesi;
► Bu değerlendirmelerin uygulanması sonucunda yeterli önleyici ve hafifletici tedbirlerin oluşturulması;
► Yetkili mercilerin, belirli yapay zekâ sistemlerinin kullanımına yönelik yasak veya moratoryum getirme olasılığı (“kırmızı çizgiler”).
ÇERÇEVE SÖZLEŞME KİMLERİ KAPSAR?
■ Çerçeve Sözleşme; kamu otoriteleri adına hareket eden özel aktörler dahil. olmak üzere kamu otoritelerinin ve özel aktörlerin yapay zekâ sistemlerini kullanımını kapsar.
■ Sözleşme, Taraflara özel sektörü düzenlerken Sözleşmenin ilke ve yükümlülüklerine uyum sağlamak için iki yöntem sunar: Taraflar, Sözleşme’nin ilgili hükümlerine doğrudan tabi olmayı tercih edebilecekleri gibi; alternatif olarak, insan hakları, demokrasi ve hukukun üstünlüğüne ilişkin uluslararası yükümlülüklerine tamamen saygılı olacak şekilde Sözleşme hükümlerine uyumu sağlayacak başka tedbirler de alabilirler.
■ Çerçeve Sözleşme’nin taraflarının, ulusal güvenlik çıkarlarının korunmasına yönelik faaliyetlerde Sözleşme hükümlerini doğrudan uygulama zorunluluğu bulunmamakla birlikte, bu faaliyetlerin uluslararası hukuka ve demokratik kurumlar ile süreçlere saygılı olmasını temin etmeleri gerekir. Çerçeve Sözleşme, milli savunmayla ilgili meselelere ve yapay zekâ sistemlerinin test edilmesinin insan hakları, demokrasi veya hukukun üstünlüğünü etkileyebilecek bir potansiyele sahip olduğu durumlar hariç araştırma- geliştirme faaliyetlerine uygulanmaz.
ÇERÇEVE SÖZLEŞMENİN UYGULANMASI NASIL TAKİP EDİLİR?
■ Çerçeve Sözleşme, hükümlerinin ne ölçüde uygulandığını belirlemek amacıyla bir takip mekanizması olarak taraf devletlerin resmi temsilcilerinden oluşan Taraflar Konferansı’nı kurar. Taraflar Konferansı’nın bulguları ve tavsiyeleri, devletlerin Çerçeve Sözleşme’ye uyum sağlamalarını ve Sözleşmenin uzun vadeli etkinliğini garanti altına almayı amaçlar. Taraflar Konferansı, ayrıca Çerçeve Sözleşme’nin uygulanmasına ilişkin önemli konular hakkında, kamuya açık oturumlar düzenlenmesi gibi yollar dahil olmak üzere, ilgili paydaşlarla iş birliğini kolaylaştırmalıdır.
www.coe.int/AI
Avrupa Konseyi Dijital Yönetişim