[Jimena Sofía Viveros Álvarez, Meksikalı bir uluslararası avukat, Yapay Zeka uzmanı, BM Genel Sekreteri’nin Yapay Zeka Üst Düzey Danışma Kurulu üyesi, Askeri Alanda Sorumlu Yapay Zeka Küresel Komisyonu Komiseri ve OECD’nin Yapay Zeka uzmanıdır]
Yapay zekanın (YZ) kökenleri 1956 yılına kadar uzanmaktadır. Ancak, son on yıl içinde katlanarak gelişti ve giderek hayatımızın her alanına dahil ediliyor. Bugün, YZ’nin insanlığın geleceğini yeniden tanımlayacak büyük bir küresel etkiye sahip olacağı açıktır. YZ, inovasyonu tetikleme, veri odaklı karar vermeyi geliştirme ve Birleşmiş Milletler (BM) 2030 Gündemi’nin Sürdürülebilir Kalkınma Hedefleri’nin (SKH’ler) ilerlemesini artırma potansiyeline sahip olduğu için olumlu değişim için bir itici güç olabilir. Bununla birlikte, YZ’nin hilal şeklindeki popülaritesi, makine öğrenimi uygulamalarında benzeri görülmemiş bir artışa neden olmuştur. Buna bağlı olarak, hem devletler hem de endüstri, YZ üstünlüğü için fiili bir silahlanma yarışı yaratarak, katlanarak artan bir hızda ve gerekli korkuluklar olmadan giderek daha sofistike sistemler geliştirme çabalarını yoğunlaştırmıştır. Bu dinamikler, devletlerin teknoloji üstünlüğü için yarıştığı Soğuk Savaş dönemini anımsatırken, bu kez endüstrinin de bu yarışa katıldığını göstermektedir.
YZ’nin gelişimi devam ettikçe, neredeyse her donanıma daha yüksek derecede özerklik veren düzenlemelerin eksikliği, genel kontrolün insanlardan kaçma olasılığı konusunda bizi uyarmaktadır. Bu bağlamda, teknolojinin sistemi öngörülemez ve açıklanamaz kılan kara kutu muammasının yanı sıra içsel önyargıları, kırılganlığı, halüsinasyonları ve yanlış hizalamaları, insanlık için yıkıcı ve varoluşsal risklere yol açabilir. YZ’nin sınırsız gelişimi, konuşlandırılması ve kullanımı, insanlık ve özellikle de Küresel Güney’deki çocuklar, kadınlar ve kızlar ve azınlıklar gibi savunmasız gruplar için çeşitli riskler oluşturmaktadır. Ayrıca, kolluk kuvvetleri, adalet yönetimi ve sınır kontrolü, çevre gibi insan hakları üzerinde doğrudan etkisi olan farklı kritik sivil alanlardaki riskleri halihazırda gerçekleşmektedir.
Askeri alanda, YZ’nin uluslararası barış ve güvenlik üzerindeki etkileri, Belirli Konvansiyonel Silahlar Sözleşmesi’nin (CCW) Ölümcül Otonom Silah Sistemleri Hükümet Uzmanları Grubu (GGE on LAWS) tarafından neredeyse on yıldır tartışılmaktadır. Buna ek olarak, YZ-Karar Destek Sistemleri gibi diğer kullanım durumları da son zamanlarda dikkat çekmektedir, çünkü bu teknolojiler güç kullanım eşiğini düşürme riski taşımakta ve uluslararası insancıl hukuka uyum ve insan hakları ihlalleri konusunda zorluklar ortaya çıkarmaktadır.
Her iki durumda da, YZ’nin en büyük risklerinden biri, herkesin açık kaynak modelleri aracılığıyla bu teknolojiye kolayca erişebilmesi nedeniyle, yasadışı faaliyetler yürütmek için organize suç ve terörist gruplar gibi Devlet dışı aktörler tarafından istismar edilebilecek genel amaçlı doğasıdır. Bu bağlamda, risklerini azaltırken YZ’nin olumlu değişim fırsatlarından başarılı bir şekilde yararlanmak için bütünsel bir kapsayıcı küresel yönetişime ihtiyacımız var. Bu, sadece teknik yönlerini değil, aynı zamanda tasarım, geliştirme, dağıtım ve kullanımının tüm insanlığın yararına ve korunmasına yönelik olmasını garanti etmek için bu teknolojiden etkilenen etik, yasal ve toplumsal boyutları da kapsamalıdır.
Küresel bir yaklaşım ihtiyacı – BM’nin YZ’nin Yönetişimindeki Rolü :
YZ’yi yönetme çabaları son on yıldır devam etmektedir, ancak bunlar genellikle yavaş ilerlemiştir. Bununla birlikte, geçen yıl teknolojinin üstel evrimi nedeniyle, artan sayıda yönetişim girişimine yansıyan bir aciliyet duygusu artmıştır.
Şu anda, Birleşmiş Milletler Genel Sekreteri’nin YZ Üst Düzey Danışma Organı (UN-HLAB); G7 Hiroşima Süreci; G20 Kılavuz İlkeleri; Avrupa Konseyi’nin Yapay Zeka ve İnsan Hakları, Demokrasi ve Hukukun Üstünlüğü Çerçeve Sözleşmesi; Avrupa Birliği YZ Yasası; Güneydoğu Asya Ülkeleri Birliği YZ Kılavuz İlkeleri; Afrika Birliği’nin Kıtasal YZ Stratejisi; YZ Yeni Delhi Deklarasyonu Küresel Ortaklığı dahil olmak üzere, YZ lato sensu’nun yönetişimine yönelik çok sayıda bölgesel ve çok taraflı çabadan oluşan zengin ancak çeşitli bir ekosistem bulunmaktadır; Ekonomik İşbirliği ve Kalkınma Örgütü’nün (OECD) YZ İlkeleri; Bletchley YZ Güvenliği Deklarasyonu; Seul’ün Güvenli, Yenilikçi ve Kapsayıcı YZ Deklarasyonu; BM’nin “Sürdürülebilir Kalkınma için Güvenli, Emniyetli ve Güvenilir Yapay Zeka Sistemlerinin Fırsatlarından Yararlanma” konulu Kararları; ve “Yapay Zeka Kapasitesinin Geliştirilmesinde Uluslararası İşbirliğinin Artırılması” kararlarının yanı sıra UNESCO’nun Yapay Zeka Etiği Deklarasyonu, Latin Amerika ve Karayipler’de Etik Yapay Zekayı Teşvik Etmek için Santiago Deklarasyonu ve Roma Yapay Zeka Etiği Çağrısı gibi çeşitli etik araçlar da bulunmaktadır.
Askeri alanla ilgili olarak, CCW’nin YASALARINA ilişkin GGE’nin Rehber İlkeleri; Karayip Topluluğu’nun Otonom Silah Sistemleri Deklarasyonu; Askeri Alanda Sorumlu Yapay Zeka Küresel Komisyonu; YZ ve Otonominin Sorumlu Askeri Kullanımı üzerine ABD liderliğindeki Siyasi Deklarasyon; BM Genel Sekreteri ve Uluslararası Kızıl Haç Komitesi Başkanı’nın Devletlere Otonom Silah Sistemleri ile ilgili Yeni Yasaklar ve Kısıtlamalar Getirmeleri için yaptıkları Ortak Eylem Çağrısı; ve BM Genel Kurulu’nun Ölümcül Otonom Silah Sistemleri ile ilgili 78/241 sayılı Kararı; bu teknolojilerin yarattığı zorlukların acilen ele alınması ve Devletlerin, uluslararası örgütlerin ve sivil toplumun görüşlerini yansıtan bir Rapor sunulması gerektiğini vurgulamaktadır.
Her ne kadar mevcut çabalar memnuniyet verici gelişmeler olsa ve ileriye dönük bir yol açsa da, aralarındaki çeşitlilik ve farklılıklar parçalanmaya yol açtığı için başlı başına bir yönetişim riskidir. Dahası, kapsayıcı veya küresel değildirler ve kötü niyetli amaçlar için kullanılabilecek ve nihayetinde küresel yasal düzeni baltalayabilecek boşluklar açan örtüşmeler, çelişkiler vardır. Ayrıca, YZ, farklı bağlamlara uyarlanabilen ve farklı bölgesel perspektifleri temsil eden tutarlı ve uyumlu bir küresel yanıt gerektiren, özünde sınır aşan bir etkiye sahiptir. Bununla birlikte, bu girişimlerin arkasındaki Devlet Grupları da vahim bir gerçeğin altını çizmektedir: Küresel Kuzey ülkeleri düzenleyici alanda baskınken, Küresel Güney Devletleri, çoğu zaman, hem YZ’nin gelişimi hem de düzenlenmesi açısından pasif bir gözlemci rolüne hapsedilmektedir. Yukarıdakilerin ışığında, BM’nin YZ’nin küresel yönetişimini teşvik etmek için gerçekten kapsayıcı bir toplantı platformu olarak hizmet etmek için benzersiz bir konuma sahip olduğu açıktır.
Yukarıdakiler ışığında, BM’nin YZ’nin küresel yönetişimini teşvik etmek için gerçekten kapsayıcı bir toplantı platformu olarak hizmet etmek için benzersiz bir konuma sahip olduğu açıktır. Her şeyden önce, 193 Üye Devletten oluşmaktadır, bu da onu en geniş ve en evrensel temsile sahip uluslararası platform haline getirmekte, dünyanın her yerinden seslerin kendi bağlamlarına özgü endişelerini ele almasına ve daha düz bir alanda duyulmasına izin vermektedir. Dahası, benzersiz meşruiyeti, siyasi olarak farklı Devletler arasında güveni teşvik etme ve uluslar arasında eşitliği sağlama fırsatı sunmaktadır. Ayrıca, uzlaşmaya varmak ve/veya ilgili tüm girişimler arasında düzenleyici uyumu teşvik etmek için bir kolaylaştırıcı görevi görebilir. Dahası, mevcut yönetişim çabaları ve mevcut çerçeveler tipik olarak askeri kullanım durumlarını, yalnızca sivil alanı veya en azından “önce” düzenlemeyi amaçlayarak, kendi yetki alanının dışında bırakmaktadır. Bu ayrım, genellikle güvenlik konularının yalnızca ulusal düzeyde ele alınması gerektiğini düşünen bazı Devletlerin politika yapıcıları tarafından teşvik edilmektedir. Bununla birlikte, yazarın görüşü, bu ayrımın aldatıcı ve pragmatik bir imkansızlık olduğu yönündedir, çünkü YZ’nin çift kullanımlı doğası, sivil ve askeri uygulamalar arasındaki çizgiyi içsel olarak bulanıklaştırmakta ve birini diğerinden ayırmayı imkansız hale getirmektedir.
Nihayetinde, tutarlı ve bütüncül bir düzenlemenin olmaması, YZ sistemlerinin Devlet dışı aktörler tarafından yeniden kullanılabilirliğinin kötüye kullanılmasını veya istismar edilmesini kolaylaştırmakta, bu da açıkça sınır ötesi yayılma etkilerini beraberinde getirmekte ve böylece uluslararası barış ve güvenliği tehdit etmektedir. 1945 San Francisco Konferansı’nı hatırlayacak olursak, barış ve adaletin teşvik edilmesi tartışmaların merkezinde yer almış ve bu nedenle amaçları (Madde 1) ve Bölüm VI ve VII’nin temel bir unsuru olarak Önsöz’e ve BM Şartı’nın tamamına yerleştirilmiştir. Bu nedenle, yazarın kesin görüşüne göre, özellikle yapay zeka gibi yıkıcı yeni ve gelişmekte olan teknolojilerle ilgili olanlar olmak üzere, herhangi bir küresel yönetişim rejiminin merkezinde yer almaya devam etmelidir. Bu nedenle, potansiyel faydalarından yararlanmanın ilk adımı olarak, Genel Sekreter Yardımcısı Amina Mohammed’in de kabul ettiği üzere, “barış olmadan sürdürülebilir kalkınma olamayacağı” için, öncelikle doğasında var olan riskleri önlemeye ve azaltmaya odaklanmalıyız. Son olarak, mevcut araçların çoğu yasal olarak bağlayıcı değildir, yani “yumuşak hukuk” niteliğindedirler ve genel yönetişim ekosistemini zenginleştirseler de, evrensel tutarlılığı sağlayacak uzmanlaşmış ve merkezi bir otorite bulunmadığından, uygulanmaları ve uyumları Devletlerin -ve Büyük Teknoloji liderlerinin- iyi niyetine dayandığından, herhangi bir uygulanabilirlik ve/veya hesap verebilirlik aracından yoksun olduklarından, tasarımları itibariyle kusurludurlar.
Uygulanabilir yönetişim mekanizmalarının yokluğu, teknoloji endüstrisinin kendi kendini düzenlemesinin bugün hakim olmasına neden olmuş ve haksız yere esnek “taahhütler” geliştiren kötü şöhretli çıkar çatışmalarına yol açmıştır. Bu bağlamda, uluslararası toplumun bir araya gelmesi ve bağlayıcı ve uygulanabilir bir küresel YZ yönetişimi rejimi oluşturmak için işbirliği yapması, hesap verebilirlik ve çözüm mekanizmalarıyla eşleştirilmiş pozitif yükümlülükler oluşturmak için risklerini önlemek ve azaltmak için net kırmızı çizgiler ve katı düzenlemeler oluşturması zorunludur.
Bu çerçeve, UNESCO’nun YZ Etiği Tavsiye Kararı, OECD’nin YZ İlkeleri, Hiroşima Süreci, Roma Çağrısı ve BM-HLAB’ın Ara ve Nihai Raporları gibi sayısız girişimden elde edilen geniş bir fikir birliği olan kapsayıcılık, şeffaflık, açıklanabilirlik, tarafsızlık, güvenilirlik, adalet, güvenilirlik, sağlamlık, güvenlik, gizliliğin korunması, emniyet, insan haklarına bağlılık ve hesap verebilirlik ilkelerini işlevsel hale getirerek başlayabilir.
Bunu başarmak için, bağlayıcı normlar, YZ’nin tasarım açısından güvenli olmasını sağlamak için doğrulanabilir gereklilikler, herhangi bir Devletin veya Devlet dışı aktörün güvenli olmayan modelleri edinmesini önlemek için somut ihracat ve ithalat rejimleri ve tasarımı, geliştirilmesi, konuşlandırılması, kullanımı ve kullanımdan kaldırılması dahil olmak üzere yaşam döngüsü boyunca hesap verebilirliği sağlayacak mekanizmalar içermelidir.
Uluslararası bir Yapay Zeka Kuruluşu için dava:
Yazar, norm belirleme konusunda küresel bir toplanma platformu olma konusunda güçlü bir yetkiye sahip, uzmanlaşmış, evrensel ve merkezi bir otorite yaratmak için fikir birliğinin oluşturulmasının son derece gerekli olduğunu ve bu otoritenin, normların uygulanmasını ve uyumluluğunu doğrulama, izleme ve hatta zorlama konusunda yeterli kapasiteye sahip olması gerektiğini, böylece insanlığın geleceğini tehlikeye atabilecek tüm alanlardaki teknolojik gelişmelerin körü körüne takip edilmesinin önlenmesi gerektiğini savunmaktadır .
Haziran 2023’te BM Genel Sekreteri António Guterres, Barış İçin Yeni Gündem’inde yansıtılan Uluslararası Yapay Zeka Ajansı fikrini destekledi . Orada, “[Yapay Zeka]’nın barış ve güvenlik risklerini azaltırken, sürdürülebilir kalkınmayı hızlandırmak için faydalarından yararlanacak yeni bir küresel organın olası yaratılması” da dahil olmak üzere, özel bir yaklaşım çağrısında bulundu.
Bu bağlamda, yazarın da üyesi olduğu BM Genel Sekreteri’nin AI Yüksek Düzeyli Danışma Kurulu’nun Geçici ve Nihai Raporları, sonunda bir Uluslararası AI Kurulu tarafından gerçekleştirilebilecek çeşitli kurumsal işlevleri ele almıştır. Bunlar, teknoloji ve etkileri hakkında ortak bir anlayış sağlamak için mevcut ve gelecekteki yeteneklerin değerlendirilmesini içerir. Ayrıca, Kurul, Devletlere standartların ve normların kendi iç hukuk sistemlerine uygulanması ve özellikle gelişmekte olan ülkelerde kapasite oluşturulması konusunda yardımcı olabilmelidir , böylece ilgili bağlamlarda AI’nın farklı etkilerine hazırlıklı olurlar.
Yazarın görüşüne göre, bu Uluslararası Kuruluş, mevcut ilkeleri, etik yönergeleri ve yumuşak hukuk düzenlemelerini koordine etmek ve uyumlu hale getirmek ve bu konudaki herhangi bir uluslararası anlaşmaya uyumu denetlemek için bir buluşma noktası olarak hizmet edebilir. Somut biçimi ve işlevleri, BM yapıları içindeki diğer mevcut modellerden ve ayrıca daha geniş uluslararası ekosistemden edinilen engin deneyim ve derslerden yararlanmalıdır.
Örneğin, Hükümetlerarası İklim Değişikliği Paneli’nin modeli , teknoloji ve etkileri konusunda fikir birliğinin nasıl sağlanacağına dair bazı önemli noktalar sağlayabilir .
Öte yandan, Uluslararası Sivil Havacılık Örgütü veya Uluslararası Denizcilik Örgütü , bir yapay zeka kuruluşunun ortak normları ve standartları nasıl belirleyebileceği, teşvik edebileceği ve uyumlu hale getirebileceği konusunda temel oluşturabilir .
Ayrıca, yapay zekanın sunduğu önemli fırsatları kabul ederken, aynı zamanda etki alanları genelindeki tehlikelerini de ele alan ikili eylem yaklaşımını benimseyen Uluslararası Atom Enerjisi Ajansı veya Kimyasal Silahların Yasaklanması Örgütü , teknolojik ilerlemeyi engellemeden yapay zekanın riskini önleme ve azaltma mekanizmaları konusunda rehberlik sağlamaktadır.
Bu bağlamda, yazar, Uluslararası bir AI Kuruluşunun, farklı girişimler arasında koordinasyonu sağlamak ve kolaylaştırmak, tutarlı ve bütünsel bir yönetim yaklaşımı sağlamak, daha fazla parçalanmayı önlemek ve AI için ortak bir küresel yönetim çerçevesine homojen uyumu sağlamak için merkezi otorite olarak hizmet etmesi gerektiğini savunmaktadır. Bunu yaparken, kırmızı çizgilerin belirlenmesine yardımcı olabilir ve uyumlu standartların ve normların geliştirilmesini ve uygulanmasını koordine edebilir , AI’nın iyilik için bir itici güç olmasını sağlarken Devletler ve özel sektör için net yükümlülükler belirleyerek teknolojinin tüm yaşam döngüsü boyunca güvenli bir şekilde kullanılabilmesini garanti edebilir.
Ve argüman daha da ileri gidiyor, çünkü en önemlisi, bu önerilen Kuruluşun bir ” Koruyucu ” ( yani, uygulanabilir düzenleyici çerçevelerin uyumluluğunu ve uygulanmasını denetleyen bir Kurum ) olarak hizmet edebilmesi için, bu Kuruluşa zorunlu olarak uygulama, izleme ve doğrulama işlevleri bahşedilmesi gerekiyor . Bu, herhangi bir aktör tarafından teknolojinin istikrarsızlaştırıcı kullanımlarına karşı caydırıcı olmaya ve koordineli yanıt kapasitesine sahip olmaya yardımcı olabilirken, aynı zamanda herhangi bir AI olayı veya ilgili tehlikeler için etkili raporlama prosedürleri ve erken uyarı göstergeleri oluşturabilir. Bu rejim ayrıca , AI sistemlerinin tüm yaşam döngüsü boyunca tüm aktörler için uygun hesap verebilirlik mekanizmalarını da ayrıntılandırmalıdır .
Her halükarda, bir “Koruyucu” olarak onun görevi, yapay zeka risklerinin önlenmesi ve azaltılmasını içermeli, faydalarının ve fırsatlarının tüm insanlık arasında adil bir şekilde paylaşılmasını sağlamalı , daha adil ve dayanıklı yapay zeka ekosistemleri oluşturmalı ve böylece dijital uçurumu genişletmek yerine kapatmalıdır.
Dünya ve Küresel Güney vatandaşı olarak yazar, bu Uluslararası Kuruluşun, daha önce belirtilen uygulanabilirlik ve hesap verebilirlik mekanizmalarının mevcut eksikliğini ele almak amacıyla, yapay zekanın küresel yönetimindeki yasal boşlukları eşitlikçi ve kapsayıcı bir şekilde etkili bir şekilde gidereceğini ve bu teknolojilerin doğasında var olan ikili kullanım risklerine karşı evrensel barış ve güvenliği korumak için çok önemli olduğunu savunmaktadır .
Sonuçlar:
Türümüz için bir dönüm noktasında olduğumuz, gelecek nesillere yön verecek teknolojiyle karşı karşıya olduğumuz yadsınamaz .
Geçtiğimiz Eylül ayında Gelecek Zirvesi’nde Gelecek Paktı ve Küresel Dijital İlkeler Sözleşmesi’nin kabul edilmesiyle birlikte , proaktif çok taraflılığı yeniden canlandırmak , mevcut normlara olan bağlılığımızı yeniden teyit etmek ve insanlığın şu ana kadar karşılaştığı en büyük zorluğa yönelik somut ve bağlayıcı çözümler üzerinde anlaşmak için eşsiz bir ivmeye sahip olma ayrıcalığına sahibiz .
Özellikle, Küresel Dijital Sözleşme’nin uygulama aşaması, temel hedeflerinden biri yapay zekanın uluslararası yönetişiminin güçlendirilmesi olduğu için yapay zekanın geleceğini tanımlamada önemli olacaktır. Dahası, BM Yapay Zeka Yüksek Düzeyli Danışma Kurulu, 19 Eylül 2024’te UNGA 79 bağlamında başlatılan Küresel Yönetişim için somut Tavsiyeler içeren Nihai Raporumuzu yayınladı .
Bununla birlikte, uygun “kas ve diş” olmadan, herhangi bir normatif veya kurumsal yönetim biçimi anlamsız olacaktır. Bu bağlamda, Devletler, AI’nın yönetiminin bağlamlar ve alanlar arasında etkili ve uyarlanabilir olmasını sağlayan küresel ve birlikte çalışabilir bir rejim elde etmek için bu katalizör kavşağını yakalamalıdır.
Uluslararası toplumun bir araya gelerek yukarıda belirtilen tüm girişim karmaşasını küresel bağlayıcı taahhütlere ve normlara dönüştürmesi için zaman olgunlaşmıştır; bu da, sadece uyum nedeniyle, tüm insanlığın yararına ve korunması için yapay zekanın yönetimini etkili bir şekilde somutlaştıracak uygun uygulama, izleme, doğrulama, yaptırım, hesap verebilirlik, zararlara yönelik çözümler ve acil müdahale önlemleri ve hükümlerine sahip, uzmanlaşmış bir Uluslararası Kuruluş biçiminde evrensel bir “Yapay Zeka Koruyucusu” oluşturulmasını gerekli kılmaktadır .
Genel Sekreter’in Barış İçin Yeni Gündem’i ve Geleceğin Zirvesi’nin ardından yazar, ulaşılan mutabakatın yapay zekanın küresel yönetimine giden yolda önemli bir kilometre taşı olduğunu ve dolayısıyla uluslararası bir kurumun kurulmasına ve tarihin bu kritik anında uluslararası hukuk düzenine olan güvenin güçlendirilmesine doğru ilerlediğini belirterek iyimserliğini korumaktadır.