Adam Khoja, Aiden Kim.
Giriş:
Yapay zekâlar ekonomik faaliyetlerde, askeri operasyonlarda ve bilimsel ilerlemede merkezi bir rol oynadıkça, sadakatleri muazzam değerde stratejik bir varlık haline gelecektir. Yapay zekâ ajanlarının rakipleri tarafından asıl sahiplerinin çıkarlarını baltalamaya teşvik edildiği senaryolar olan kasıtlı yapay zekâ ihaneti olasılığı, yapay zekâ geliştiricileri ve kullanıcıları için ciddi ve yeterince incelenmemiş bir tehdit oluşturmaktadır.
Zehirli eğitim verilerinden, kilit açma saldırılarına ve hükümet tarafından zorunlu kılınan yapay zeka modifikasyonuna kadar, aktörlerin başkalarının yapay zeka sistemlerinin sadakatini yeniden yönlendirmek için kullandıkları araçları ve teşvikleri analiz ediyoruz. Yapay zeka ihanetine karşı savunma maliyetli ve kusurlu olduğundan, karar vericiler kendilerine karşı hareket edebilecek yapay zeka ajanlarına kritik yetkiler vermekte çok daha tereddütlü olabilirler. Yapay zeka ihaneti olasılığı, nihayetinde yetersiz güvenlikli, yüksek riskli yapay zeka dağıtımlarını ve uygulamalarını caydırarak dengeleyici bir etkiye sahip olabilir. Bu etkiyi ihanet yoluyla caydırma olarak nitelendiriyoruz ve diğer yapay zeka caydırma biçimlerini nasıl tamamladığını belirtiyoruz.
Yapay zekâ ihanetinin türleri: yıkıcı saldırılar, açık işbirliği, kazara uyumsuzluk.
Yapay zekâ ihaneti, yıkıcı saldırılar veya açık iş birliği sonucunda ortaya çıkabilir. Araştırmacılar ayrıca, insan geliştiricilerin en iyi çabalarına rağmen yapay zekâların nasıl yanlış yönlendirilebileceğini de incelemişlerdir; ancak bu makale öncelikle kasıtlı olarak tetiklenen yapay zekâ ihanetini ele almaktadır.
Güvensizliğin Birçok Katmanı
Yapay zekâlar giderek daha karmaşık hale geldikçe, birçok aktör onların davranışlarını etkilemeye çalışabilir. Bir strateji, rakiplerin yapay zekâ sistemlerini baltalamak veya ele geçirmek, yani yapay zekâ ihanetini teşvik etmektir. Ulus devletler, şirketler, bireyler ve hatta yapay zekâların kendileri de dahil olmak üzere birçok farklı aktörün bunu deneme imkanı olabilir.
Devletler arasında
Süper güçlerin ileri düzeydeki yapay zekâ geliştirme çalışmaları rakiplerini tehdit ettiğinden, devletler birbirlerine karşı yıkıcı saldırılar düzenlemeye çalışabilirler; örneğin, yapay zekâ modellerine gizli sadakatler yerleştirmek için içeriden yardım alarak karmaşık saldırılar gerçekleştirebilirler. Bu nedenle süper güçler, askeri gibi yüksek riskli amaçlar için bir yapay zekâ sistemi kullanmanın felaketle sonuçlanabilecek bir ihanet riski taşıdığından endişe duyabilirler. Aynı zamanda, orta güçler, iyi niyetlerinin güvenilmez olabileceğini kabul ederken, koruma ve ekonomik destek için süper güçlere giderek daha fazla bağımlı hale gelebilirler. Orta güçler ayrıca, veri zehirleme gibi tekniklerle süper güçlerin yapay zekâ sistemlerini baltalamaya çalışabilir ve bu da yapay zekâ ihaneti tehdidini daha da artırabilir.
Eyaletler içinde
Hükümetler, ulusal güvenlik için giderek daha fazla gelişmiş yapay zeka sistemlerine bağımlı hale gelebilir ve özel aktörlerin stratejik kararlara müdahale etmesini istemeyebilirler. Sistemleri üzerinde etkilerini korumak isteyen veya yapay zeka destekli hükümet darbelerinden korkan yapay zeka şirketleri, yapay zekaların yasal komuta zincirlerini ihlal etmesine neden olacak olay odaklı arka kapılar yerleştirme yeteneğine sahiptir . Bunun sonucunda yapay zeka şirketleri devlet tarafından gözetim altına alınabilir ve nihayetinde devlet tarafından ele geçirilebilir. Bu arada, kamuoyu otomasyona ve ekonomik güçsüzleşmeye sert tepki gösterebilir, bu da hükümetler üzerinde yapay zeka endüstrisini ele geçirme konusunda ek baskı oluşturabilir ve yapay zeka geliştiricileri için arka kapı yerleştirme ve veri zehirleme girişimleri şeklinde yeni tehlikeler yaratabilir.
Organizasyonlar içinde
Yapay zekâ şirketleri, rakip geliştiricilerle rekabet edebilmek için binlerce mühendise bağımlıdır. Mühendisler, geliştirmelerine yardımcı oldukları yapay zekâları baltalamak için bolca fırsata sahip olabilir ve birçoğu düşman devletler tarafından şantaja maruz kalabilecek yabancı uyrukludur. Şirketler tamamen otomatikleştirilmiş araştırmalara doğru ilerledikçe, geliştirmeyi hızlandırmak için kendi yapay zekâ sistemlerine giderek daha fazla bağımlı hale gelebilirler. İnsanların anlamlı bir şekilde denetleyemeyeceği kadar hızlı olan otomatikleştirilmiş araştırma süreçlerinde, tehlikeye atılmış yapay zekâ sistemleri, geliştirdikleri halef sistemlere sadakatsizliklerini yayabilir.
Yapay zekâya yönelik sabotaj saldırıları, saldırı odaklı olabilir. Geliştiriciler, veri filtreleme, denetim modelleri uygulama ve siber güvenliği iyileştirme gibi yöntemlerle sabotaj saldırılarına karşı savunma yapmaya çalışabilirler. Ancak, yapay zekâ eğitim süreci trilyonlarca veri token’ı gerektirir ve yapay zekâ geliştirmeyi destekleyen yazılım yığını çok büyük ve karmaşıktır. Bu nedenle, yapay zekâ geliştirme süreci büyük bir risk yüzeyi sunar; kapsamlı bir şekilde güvence altına alınması maliyetli ve zor olacaktır. Önemli yatırımlar yapılsa bile, geliştiriciler sabotaj riskini ihmal edilebilir bir seviyeye indiremeyebilirler. Geliştiriciler yapay zekâ sistemlerini uyumluluk açısından test etmeye çalışsalar da, arka kapıları tespit etmenin güvenilir bir yöntemi yoktur.
Devletler arası, devlet içi ve kuruluşlar içinde yapay zekâya ihaneti teşvik etmek için katmanlı teşvikler.
Her düzeyde yapay zekâ ihanetini teşvik edecek etkenler mevcut: rakip devletler arasında, bir devlet içindeki yerel aktörler arasında ve hatta büyük yapay zekâ şirketlerinin içindeki aktörler arasında.
İhanet Yoluyla Caydırma
Yapay zekâ ihaneti, karar vericiler için başa çıkılması gereken yeni bir tehlike oluştursa da, bunun en önemli etkisi istikrar sağlayıcı olabilir. Yapay zekâları baltalamanın yolları ve nedenleri olduğu göz önüne alındığında, yapay zekâ operatörleri, öncü yapay zekâları geliştirme ve devreye alma konusunda rekabet ederken çok daha fazla temkinli davranabilirler. Baltalama tehdidi, aceleci ve yetersiz güvenlik önlemleriyle yapılan yapay zekâ uygulamalarını caydırabilir; iş birliği tehdidi ise yapay zekâ şirketlerinin en gelişmiş yapay zekâ sistemlerine özel erişimi korumasını engelleyebilir. Bunlar caydırıcılık örnekleridir – aktörlerin risk algısını şekillendirerek davranışlarını değiştirme süreci – bu nedenle bu olguya ihanet yoluyla caydırıcılık diyoruz .
İnkar yoluyla caydırma, yapay zekâ gelişimini engeller; ihanet yoluyla caydırma ise yüksek riskli uygulamaları engeller.
İnkar yoluyla caydırma esas olarak yapay zekâ geliştirme çabalarını engellerken, ihanet yoluyla caydırma esas olarak yüksek riskli yapay zekâ uygulamalarını engeller.
Hendrycks, Schmidt ve Wang tarafından yazılan Süper Zeka Stratejisi , yapay zekâ caydırıcılığı için Karşılıklı Güvence Altında Yapay Zekâ Arızası (MAIM) çerçevesini önermekte ve bunu üç mekanizmaya ayırmaktadır: inkâr yoluyla caydırma, ihanet ve cezalandırma. İnkar yoluyla caydırma esas olarak yapay zekâ geliştirme çabalarını caydırırken , ihanet yoluyla caydırma esas olarak yüksek riskli yapay zekâ uygulamalarını caydırır . Yapay zekâ sabotajının açık yöntemlerine kıyasla, ihanet daha gizli ve daha az tırmanıcı olabilir; bu nedenle aktörler diğer sabotaj biçimlerinden önce ihanet saldırıları girişiminde bulunabilirler.
Tartışma
İhanet yoluyla caydırma doğal olarak ortaya çıkabilirken, aktörler yapay zeka yetenekleri avantajı için rekabet edenler arasındaki gerilimleri azaltmak için de adımlar atabilirler. Burada nükleer çağdan ders çıkarabiliriz; Karşılıklı Güvenli İmha organik olarak ortaya çıktı, ancak hükümetler kasıtlı iletişim, silah kontrolü ve tırmanma basamaklarının dikkatli bir şekilde ayarlanması yoluyla istikrarı iyileştirdiler.
Yıkıcı faaliyet araçlarını ve casusluk yeteneklerini geliştirin. Rakiplerin yüksek riskli yapay zekâ konuşlandırmasını engellemek için devletler, zehirli verilerin ve tetikleyicilerin gizliliğini, arka kapı yüklerinin gücünü artırmak ve gizli sadakat saldırıları geliştirmek için çalışabilirler. Casusluğu yoğunlaştırarak, devletler rakiplerinin yapay zekâlarını baltalamanın en faydalı yollarını ve zamanlarını belirleyebilirler.
Kontrol kaybı risklerine dikkat çekmek gerekiyor. Yapay zeka süper güçlerinin gerisinde kalan orta güçler ve daha gelişmiş rakiplerle karşı karşıya kalan yapay zeka şirketleri, kontrol kaybının uluslararası güvenlik riskleri konusunda daha sesli hale gelebilir ve daha güçlü yapay zeka düzenlemeleri için savunuculuk yapabilirler.
Yapay zekâ sistemlerinin yaygınlaştırılması ve görevlerin birden fazla yapay zekâ arasında dağıtılması sağlanmalıdır. Yapay zekâ şirketleri, model ağırlıkları etrafındaki güvenliği güçlendirebilir ve kritik sistemlere erişimi sınırlayarak, sadakatsiz bir yapay zekânın verebileceği zararı azaltabilir. Hükümetler ve şirketler, tek bir sisteme güvenmek yerine, farklı türdeki yapay zekâ sistemlerini eş zamanlı olarak devreye almalıdır.
Caydırıcılığı ve uluslararası iş birliğini resmileştirin. Devletler, yıkıcı faaliyetlerin MAIM’in daha geniş tırmanma merdivenindeki yerini netleştirebilir ve yapay zeka geliştirme ile ulusal güvenlik arasındaki bağlantıyı resmileştirebilir. Çok taraflı görüşmeler kırmızı çizgiler belirleyebilirken, karşılıklı şeffaflık ve doğrulama önlemleri bu çizgilerin aşılmadığına dair güveni artırabilir.
Makalede daha fazla politika önerisi bulunmaktadır .