Hadrien Pouget
Kasım 2024
1980’de ve tekrar 1985’te, uluslararası bir bilim insanları grubu endişe verici bir eğilimi tartışmak üzere Avusturya’nın Villach kentinde bir araya geldi. İklim ısınıyordu ve insan faaliyetleri bunun bir parçası gibi görünüyordu. Ortaya çıkan yoğun faaliyet, 1988’de Hükümetlerarası İklim Değişikliği Paneli’nin (IPCC) kurulmasına yol açtı ve yedi yıl sonra bir IPCC raporu şu tarihi sözleri kaleme alacaktı: “anlatılanların dengesi […] küresel iklim üzerinde fark edilebilir bir insan etkisi olduğunu gösteriyor”. IPCC, küresel karar vericiler arasında bilimsel fikir birliği ve mutabakat oluşturmak için kuruldu. Bugüne kadar, bunu yapmak için önde gelen uluslararası forum olmaya devam ediyor.
Birkaç yakın tarihli olay buna uygun olabilirse de, kırk yıl sonra geriye baktığımızda YZ’nın “Villach” anının ne olacağı henüz belli değil. Belki de örneğin ChatGPT yayınlandığında veya YZ’yı potansiyel bir varoluşsal risk olarak belirleyen açık mektuplar yayınlandığında veya hatta 28 ülke Bletchley Deklarasyonu’nu imzaladığındaydı. Belki de sadece popüler bir sohbet robotunun aşkını ilan edip bir gazeteciyi karısından ayrılmaya ikna etmeye çalıştığı zamandı. Ne olursa olsun, bu oldu. Uluslararası toplum artık inkar edilemez bir şekilde YZ’nın potansiyeliyle boğuşuyor.
Ancak YZ’nın şimdiki ve geleceği hakkındaki belirsizlik, politika yapıcıların bir yanıt bulmasını zorlaştırırken, YZ için bir IPCC yok. Bunun yerine, YZ’nın hızlı gelişimine ayak uydurmaya çalışan uluslararası kurumlar, bilimsel raporlar ve bildirilerden oluşan bir karmaşa görüyoruz. Uzayın geleceği için kasıtlı ve iddialı bir vizyon olmadan, bu girişimler YZ ile mücadele için gereken hız ve ölçeğe ulaşmada ve koordine olmada başarısız olabilir.
Yeni gelişen uluslararası çabalar umut vadediyor, ancak daha büyük resim henüz ortaya çıkmıyor:
Dünya çapında, hükümetlerin yapay zekayı anlama ve yönetme kapasitesi kazanmalarına yardımcı olmak için sayısız girişim ortaya çıkıyor. Yapay zeka güvenlik enstitülerinin (AISI’ler) yükselişi, Gelişmiş Yapay Zeka Güvenliğine İlişkin İlk Uluslararası Bilimsel Raporun yayınlanması , Yapay Zeka Küresel Ortaklığının OECD’nin yapay zeka uzmanları ağlarıyla birleştirilmesi ve BM’nin yeni duyurulan yapay zeka bilimsel paneli, hepsi doğru yönde atılan adımlardır.
Bununla birlikte, iş henüz bitmedi. Bu girişimler sonunda YZ ile başa çıkmak için uluslararası çabaların omurgasını oluşturabilirken, bazı yetkileri hala tasarlanıyor ve ince ayarlanıyor. Her birinin ne yapacağı ve YZ’nın aciliyetine yanıt vermek için nasıl bir araya gelecekleri konusundaki daha büyük resim hala ortaya çıkıyor.
Bu daha büyük resim, aynı zamanda altta yatan bilimin göreceli olgunlaşmamışlığıyla da mücadele etmelidir. Yapay zekanın bilimsel topluluğu, teknolojinin pratik etkilerini ve güvenliğini anlamaya ancak yakın zamanda önemli ölçüde dikkat gösterdi ve bu çaba kendi zorluklarıyla karşı karşıya.
Birincisi, YZ’nın mevcut durumunu kavramak zor olabilir. Gelişmiş YZ’nın Güvenliğine İlişkin Geçici Uluslararası Bilimsel Rapor, “[g]enel olarak, genel amaçlı YZ’nın iç işleyişi, yetenekleri ve toplumsal etkilerine ilişkin bilimsel anlayış çok sınırlıdır.” sonucuna varıyor. OECD’nin ve AI Olay Veritabanı gibi AI olay izleyicileri yüzlerce bildirilen sorunu toplasa da, şüphesiz sadece yüzeyi tırmalıyorlar.
Ve daha da zor olanı, yapay zekada bundan sonra ne olacağını tahmin etmektir. Büyük veri kümelerinin ve karmaşık modellerin sonuçları tahmin etmeye yardımcı olduğu iklim biliminin aksine, yapay zeka araştırmaları uzun vadeli tahmin için yaygın olarak kabul görmüş yöntemlerden yoksundur. En etkili girişimlerden bazıları uzman anketlerine dayanır , ancak bunlar da uzmanların ne kadar büyük ölçüde aynı fikirde olmadıklarını gösterir. Yapay zekanın belirli performans eşiklerine ne zaman ulaşacağına dair tahminler on yıllar hatta yüzyıllar boyunca değişebilir.
Ve yine de, YZ sistemleri dünya çapında önemli etkilere sahip. YZ’daki en yeni çılgınlığa dayalı ürünler, büyük dil modelleri, yüz milyonlarca kullanıcıya sahip ve dünyanın en büyük şirketlerinin çoğunda kullanılıyor .YZ sistemlerinin geliştirilmesi ve dağıtımı, şaşırtıcı miktarda enerji ve bazen gizli insan emeği de dahil olmak üzere kaynak yoğun bir süreçtir ve sektör yüzlerce milyar dolar kazanmaktadır . Bu çevresel ve insan maliyetleri göz ardı edilemeyecek kadar büyük hale geliyor.
Küresel çabaların ilerleme kaydetmek için veri ve uzmanlık toplaması, ilgili araştırmalar üretmesi ve küresel araştırmacılar ve karar vericiler arasında fikir birliği oluşturması gerekecektir. Bu fikir birliği, bilmediğimiz şeyler üzerinde anlaşmak kadar basit olabilir; bu olmadan, karar vericiler çok az veya çok fazla şey yapma korkusu seçeneklerini kısıtladığı için zor bir durumda kalırlar.
Hız, kapsayıcılık ve önceliklendirme temel zorluklardır:
Bu hedeflere ulaşmak için süreçler kurmak benzersiz zorluklar taşıyacaktır. Birincisi, bu faaliyetlerin endüstri aktörlerini üretken bir şekilde dahil etmenin yollarını bulması gerekecektir. İklim bilimindeki IPCC ve diğer alanlardaki benzer kuruluşlar, nesnelliği sağlamak için bilimsel değerlendirmelerde çoğunlukla kamu ve akademik araştırmalara güvenmektedir.
Ancak YZ farklıdır. Endüstri, YZ’nın geliştirilmesine öncülük eder ve etkisine ilişkin verilerin çoğunu kontrol eder, akademinin 15’ine kıyasla 2023’te en dikkat çekici modellerden 51’ini üretmiştir . Endüstri ayrıca YZ’nın etkilerini anlamak için gereken verilerin çoğunu kontrol eder, ancak büyük YZ geliştiricilerinin bir incelemesi , bu etkiler hakkında neredeyse hiçbir bilgi yayınlamadıklarını buldu.
Ayrıca, YZ’yı değerlendirmek için gereken uzmanlık giderek endüstride yoğunlaşıyor. 2011’de YZ doktoralıların %42’si akademide kalırken , 2022’ye gelindiğinde bu sayı %20’nin altına düştü ve %70’ten fazlası endüstriye geçti. Kuzey Amerika ve Avrupa’daki önde gelen YZ şirketlerinin yoğunluğu göz önüne alındığında, uluslararası çabaların endüstri katılımını dikkatlice dengelemesi ve araştırma bulguları üzerinde haksız etki yaratmadan katılımlarını sağlaması gerekecektir.
Bir diğer zorluk da YZ’nın potansiyel etkilerinin geniş yelpazesidir . İnsan haklarından ekonomik ve emek sorunlarına, uluslararası güvenliğe, kültüre ve çevreye YZ, modern yaşamın hemen hemen her alanına dokunmaktadır. Güvenlik sorunları veya emek ve ekonomik etkiler gibi rekabetçi ulusal çıkarlarla derinden iç içe geçmiş hassas konuların önceliklendirilmesi zor olabilir ve üretken küresel tartışmaları karmaşıklaştırabilir. YZ sistemlerine beslenen verilerin telif hakkı gibi sorular, bölgesel yasal sistemler aracılığıyla daha iyi ele alınabilir.
Ancak en büyük zorluk zamandır. IPCC’nin başlatılması neredeyse on yıl sürdü ve ilk raporunu yayınlaması iki yıl daha sürdü. Buna karşılık, bazı sektör içeriden kişiler insan seviyesindeki yapay zekanın sadece üç yıl içinde ortaya çıkabileceğini öngörüyor . Bu öngörüler doğruysa, küresel tepkiler uluslararası girişimlerin başlamasını ve küresel zararlara karşı koruma sağlamasını bu kadar uzun süre bekleyemez.
Aynı yolda farklı hızlarda ilerleyen birçok oyuncu:
Anı karşılamak, birçok sektör ve disiplinden paydaşlarla çok yönlü bir yaklaşım gerektirecektir. Acil ihtiyaçları karşılayan daha odaklı ve çevik bilimsel çabalarla birlikte çalışmak için daha büyük ve daha yavaş hareket eden küresel politika merkezli projeler için net bir vizyon oluşturmaları gerekecektir.
Bu vizyonu oluşturmak zor olsa da, Carnegie Endowment for International Peace ve Oxford YZ Governance Initiative tarafından yakın zamanda yayınlanan bir rapor, bir çözümün başlangıcını sunuyor. BM’nin çabasının, dünya çapındaki hükümetleri bir araya getirerek fikir birliği oluşturma becerisine odaklanması gerektiğini öne sürüyor. Bu süreç daha yavaş olabilir ancak YZ bağımsız bilim insanlarına ve hükümet uzmanlarına yönelttiği daha geniş politika sorularını ele alacaktır.
Aynı zamanda, başka bir kuruluş güçlü YZ sistemleriyle ilişkili aşırı riskleri değerlendirmeye odaklanabilir ve daha kısa zaman çizelgelerinde raporlar yayınlayabilir. Çalışmaları akademik uzmanlığa dayanabilir ve BM’nin çalışmalarına katkı sağlayabilir. Benzer çabalar diğer acil sorunları da ele alabilir.
Rapor ayrıca bu çalışmaya ev sahipliği yapmak için üç adayı değerlendiriyor: OECD, bir AISI ağı ve Uluslararası Bilim Konseyi. Açık bir aday olmadığı ve her birinin ev sahibinden bağımsız olarak katkıda bulunmak için iyi bir konumda olduğu sonucuna varıyor. AISI’ler, mevcut projeler üzerine inşa ederek endüstriden gelen girdiyi aracılık etmede önemli bir rol oynayabilir .
Önümüzdeki aylar ve yıllarda, bu bulmacanın parçaları yerine oturmaya başlayacak. Bir aydan kısa bir süre içinde, mevcut AISI’ler için yapılacak bir San Fransisco zirvesi , gelecekteki rollerine ışık tutmaya başlayacak. Gelişmiş Yapay Zekanın Güvenliğine İlişkin İlk Uluslararası Bilimsel Rapor, Şubat ayındaki Yapay Zeka Eylem Zirvesi’nde sunulacak . Bu arada, hükümetler arası bir süreç BM panelinin yapısını ve işleyişini belirleyecek. Bu girişimler ilerledikçe, işler değişmeye devam edecek ve ayrıntılarda kaybolmak kolay olacak.
Küresel topluluk, yapay zekanın dönüşümsel etkisini sorumlu bir şekilde yönetme yolunda olduğumuzdan emin olmak için büyük resme dönmeyi unutmamalıdır.
https://oecd.ai/en/wonk/how-the-global-community-can-come-together-to-understand-ai-risks