Vibhu Mishra /19 Aralık 2024
BM Genel Sekreteri, Güvenlik Konseyi’ni yapay zeka (YZ) için uluslararası bariyerler oluşturmak üzere kararlı bir şekilde harekete geçmeye çağırdı ve gecikmelerin küresel barış ve güvenliğe yönelik riskleri artırabileceği konusunda uyardı.
Bakanlara ve büyükelçilere hitap eden António Guterres, yapay zeka alanındaki hızlı gelişmelerin, insanlığın onu yönetme kabiliyetini geride bıraktığını, karar alma süreçlerinde hesap verebilirlik, eşitlik, güvenlik ve insan denetimi konusunda önemli soruları gündeme getirdiğini söyledi.
Guterres, ” Uluslararası güvenlik önlemlerinin alınmasında yaşanan her gecikme, hepimiz için riski artırıyor ” dedi .
“Hiçbir ülke, uluslararası insani ve insan hakları yasalarını ihlal eden silahlı çatışmalarda AI’nın askeri uygulamalarını tasarlamamalı, geliştirmemeli, dağıtmamalı veya kullanmamalıdır. Bu, hedefleri otonom olarak seçmek veya onlarla etkileşime girmek için AI’ya güvenmeyi de içerir.”
Ayrıca, yeni ortaya çıkan teknolojiler üzerindeki jeopolitik rekabetin uluslararası barış ve güvenliği istikrarsızlaştırmaması gerektiğinin altını çizdi.
İki ucu keskin bir kılıç:
Sayın Guterres konuşmasında, AI’nın iklim değişikliğinin neden olduğu yer değiştirmeleri tahmin etme veya kara mayınlarını tespit etme potansiyeline dikkat çekerek, AI’nın iki yönlü doğasına vurgu yaptı. Ancak, askeri sistemlere entegrasyonu ve dijital güvenlikte kötüye kullanımı büyük riskler doğurmaktadır .
” Son dönemdeki çatışmalar yapay zekanın askeri uygulamaları için bir test sahası haline geldi ” diyen uzman, yapay zekanın otonom gözetleme, öngörücü polislik ve hatta ölüm kalım kararlarında kullanıldığını söyledi.
Özellikle endişe verici olanın, yapay zekanın nükleer silahlarla entegre olma potansiyeli ve küresel güvenliği istikrarsızlaştırabilecek kuantum-yapay zeka sistemlerinin ortaya çıkması olduğunu vurguladı.“İnsanlığın kaderi asla bir algoritmanın ‘kara kutusuna’ bırakılmamalıdır” diyerek güç kullanımını içeren kararlar üzerinde insan kontrolünün önemini vurguladı.
Güvenin aşınması:
Guterres, yapay zekanın bilgi alanındaki rolünün de endişe verici bir diğer alan olduğunu belirterek, deepfake’lerin ve yapay zeka tarafından üretilen dezenformasyonun kamuoyunu nasıl yönlendirebileceğini, krizleri nasıl tetikleyebileceğini ve toplumlara olan güveni nasıl aşındırabileceğini vurguladı .
Yapay zekanın çevresel risklerine de dikkat çeken Başkan Yardımcısı, veri merkezlerinin kaynak yoğun yapısı ve yapay zeka teknolojisi için ihtiyaç duyulan kritik mineraller üzerindeki jeopolitik rekabeti vurguladı.
Küresel bir çerçeve çağrısı:
Guterres, Geleceğin Zirvesi’nde BM Küresel Dijital İlkeler Sözleşmesi’nin kabulü ve Genel Kurul’da küresel iş birliğini ve kapasite geliştirmeyi artırmaya yönelik iki önemli kararın alınması da dahil olmak üzere yapay zeka için küresel yönetişimin kurulmasına yönelik son adımları özetledi.
Üçüncü karar tasarısının, askeri alanda yapay zekaya odaklanarak, önümüzdeki günlerde Genel Kurul’da ele alınması bekleniyor.
Guterres konuşmasının sonunda öldürücü otonom silahların yasaklanması çağrısını yineledi ve Güvenlik Konseyi’ni , uluslararası barış ve güvenliği istikrarsızlaştıracak şekilde yapay zekanın militarizasyonunu önlemede örnek olmaya çağırdı.
” Hepinizi güvenli, emniyetli ve kapsayıcı bir yapay zeka geleceği inşa etmek için güçlerinizi birleştirmeye çağırıyorum. “