Michael T. Klare1
Çeviri ve düzenleme: Nezih Kazankaya
Evet, endişelenmenin – çok endişelenmenin zamanı geldi bile. Ukrayna ve Gazze’deki savaşların da gösterdiği gibi, “katil robotlar” olarak adlandırılan ilk insansız hava araçları savaş alanına girdi ve yıkıcı silahlar olduklarını kanıtladılar. Ama en azından büyük ölçüde insan kontrolü altında kalmaya devam ediyorlar. Bir an için, o insansız hava araçlarının (veya kara ve denizdeki benzerlerinin) bizi kontrol ettiği bir savaş dünyasını hayal edin, tam tersi değil. O zaman bugün neredeyse hayal edilemez görünebilecek bir şekilde yıkıcı derecede farklı bir gezegende olurduk. Ne yazık ki, büyük güçlerin yapay zeka (YZ) ve robot silahları üzerindeki çalışmaları göz önüne alındığında, bu hayal edilemez olmaktan çok uzak. Şimdi, sizi o gizemli dünyaya götüreyim ve savaşın geleceğinin geri kalanımız için ne anlama gelebileceğini hayal etmeye çalışayım.
Yapay zekayı gelişmiş robotikle birleştirerek, ABD ordusu ve diğer gelişmiş güçlerin orduları, kendilerine komuta edecek herhangi bir insan subaydan bağımsız olarak ölümcül güç kullanabilen savaş dronları olan bir dizi kendi kendine yönlendirilen “otonom” silah sistemi yaratmak için şimdiden sıkı bir şekilde çalışıyorlar. Eleştirmenler tarafından “katil robotlar” olarak adlandırılan bu tür cihazlar, otonom olarak çalışabilen çeşitli mürettebatsız veya “insansız” uçaklar, tanklar, gemiler ve denizaltıları içerir. (…)
Bu öldürme makinelerinin yakın zamanda ortaya çıkması, bazı ülkelerin bunlara tamamen yasak getirmeyi istemesi ve ABD de dâhil olmak üzere diğerlerinin yalnızca insan gözetimindeki koşullar altında kullanımına izin vermeyi planlamasıyla küresel olarak endişe ve tartışma yarattı. Cenevre’de bir grup devlet, (…) tamamen otonom silahların konuşlandırılmasını ve kullanımını yasaklamaya bile çalıştı. (…)
Çoğunlukla, bu tür cihazların savaş alanında kullanımıyla ilgili tartışmalar, insan gözetimi olmadan insan hayatlarını alma yetkisine sahip olup olmayacaklarına dayanmaktadır. Birçok dini ve sivil toplum kuruluşu, bu tür sistemlerin savaş alanında savaşçılar ile siviller arasında ayrım yapamayacağını ve bu nedenle uluslararası insancıl hukukun gerektirdiği gibi savaşçı olmayanları ölümden veya yaralanmadan korumak için yasaklanması gerektiğini savunmaktadır. (…)
Ancak, bu tartışmadaki tarafların hiçbiri onları savaşta kullanmanın potansiyel olarak en sinir bozucu yönüne değinmedi: Er ya da geç, insan müdahalesi olmadan birbirleriyle iletişim kurabilecekleri ve “zeki” oldukları için bir düşmanı yenmek için kendi senaryosuz taktiklerini geliştirebilecekleri olasılığı – ya da tamamen başka bir şey. Bilgisayar bilimcileri tarafından “ortaya çıkan davranış” olarak adlandırılan bu tür bilgisayar odaklı grup düşüncesi, Cenevre, Washington veya BM’ yetkililer tarafından henüz dikkate alınmayan bir dizi tehlikeyi gündeme getiriyor.
Şimdilik, Amerikan ordusu tarafından geliştirilen otonom silahların çoğu, mevcut savaş platformlarının insansız (veya bazen dedikleri gibi “gayrimeskûn”sürümleri olacak ve mürettebatlı eşdeğerleri ile birlikte çalışmak üzere tasarlanacak. Birbirleriyle iletişim kurma kapasiteleri de olsa, görevi insan komutanlar tarafından dikte edilen ve denetlenen “ağ bağlantılı” bir savaş ekibinin parçası olacaklar. (…)
Robot “Sürülerinin” Cazibesi.
Ancak bazı Amerikan stratejistlerinin, otonom silahların gelecekteki savaş alanlarında kullanılmasına yönelik savundukları alternatif yaklaşımda, insan liderliğindeki takımlarda genç meslektaşlar olarak değil, kendi kendini yöneten robot sürülerinin eşit üyeleri olarak görev yapacaklar. Bu tür oluşumlar, birbirleriyle iletişim kurabilen, değişen savaş alanı koşullarıyla ilgili verileri paylaşabilen ve grup zihniyetinin gerekli gördüğü şekilde savaş taktiklerini toplu olarak değiştirebilen onlarca hatta yüzlerce YZ destekli İHA, İDA veya İSAA’dan oluşacak.
“Ortaya çıkan robot teknolojileri, yarının güçlerinin, bugünün ağ bağlantılı güçlerinden daha büyük kütle, koordinasyon, zeka ve hızla bir sürü halinde savaşmasına olanak tanıyacak,” diye öngörmüştü kavramın erken meraklılarından Paul Scharre, 2014’te Center for a New American Security (CNAS) için hazırladığı bir raporda. “Ağ bağlantılı, işbirlikçi otonom sistemler” diye yazmıştı o zamanlar, “dağıtılmış elemanlar arasında tutarlı ve akıllı bir bütünün oluşmasını sağlayan gerçek bir kaynaşma- işbirliği davranışına sahip olacaktır.”
Scharre’nin kehanet niteliğindeki raporunda açıkça belirttiği gibi, sürü kavramının tam olarak gerçekleştirilmesi, otonom savaş sistemlerinin birbirleriyle iletişim kurmasını ve tercih edilen saldırı modları hakkında “oy kullanmasını” sağlayacak gelişmiş algoritmaların geliştirilmesini gerektirecektir.
Bunun, doğada “davranışı gösteren karıncaları, arıları, kurtları ve diğer yaratıkları taklit edebilen yazılımlar yaratmayı içereceğini belirtti.” Scharre’nin ifade ettiği gibi, “bir sürüdeki kurtlar düşmanlarına her yönden gelen sürekli değişen tehditler oluşturduğu gibi, manevra ve saldırıyı koordine edebilen insansız araçlar, toplu halde çalışan koordine olmayan sistemlerden önemli ölçüde daha etkili olabilir.” (…)
Sürüler Kendi Yollarını Seçtiğinde:
Başka bir deyişle, ABD ordusunun (ve muhtemelen Çin, Rusya ve belki de birkaç başka gücün ordusunun) birbirleriyle iletişim kurmalarını ve hareket halindeyken yeni, öngörülemeyen savaş manevralarını birlikte seçmelerini sağlayan algoritmalarla donatılmış otonom silah sistemleri sürülerini konuşlandırabilmesi sadece zaman meselesidir. Bu sürülerin katılımcı robotik üyelerine bir görev hedefi “bu [belirtilen] coğrafi koordinatlar içinde bulunan tüm düşman radarlarını ve uçaksavar füze bataryalarını bulup yok etmek” verilecek ancak bunu nasıl yapacaklarına dair kesin talimatlar verilmeyecektir. Bu, onların birbirlerine danışarak kendi savaş taktiklerini seçmelerine olanak tanıyacaktır. Sahip olduğumuz sınırlı test verileri bir gösterge ise, bu, insan pilotlar ve komutanlar için asla düşünülmemiş (ve kopyalanması imkânsız) son derece alışılmadık taktikler kullanmak anlamına gelebilir.
Bu tür birbirine bağlı yapay zeka sistemlerinin yeni, planlanmamış sonuçlara ulaşma eğilimi, bilgisayar uzmanlarının “ortaya çıkan davranış”olarak adlandırdığı şeydir. Bilimsel dergilerin bir özeti olan ScienceDirect’in açıkladığı gibi , “Ortaya çıkan bir davranış, kendileri böyle özellikler göstermeyen daha küçük veya daha basit varlıklar arasındaki etkileşimler yoluyla daha büyük örüntülerin ortaya çıktığı bir süreç olarak tanımlanabilir” Askeri terimlerle, bu, otonom silahlardan oluşan bir sürünün, tek tek cihazların hiçbiri için programlanmayan muharebe taktiklerini benimsemeyi ortaklaşa seçmesi anlamına gelir – muhtemelen savaş alanında şaşırtıcı sonuçlar elde etmekle birlikte, aynı zamanda insan komutanları tarafından istenmeyen ve öngörülemeyen, nükleer ve konvansiyonel operasyonlar için kullanılan kritik sivil altyapı veya iletişim tesislerinin imhası da dâhil olmak üzere tırmandırıcı eylemlerde bulunmak da mümkündür. (…)
O zaman ne olacak? Önceden programlanmış sınırlarının ötesinde savaşmaya devam etmeyi seçerek istenmeyen bir tırmanışa, hatta nükleer bir tırmanışa neden olabilirler mi? Ya da düşman kuvvetlerine saldırılarını durdurmayı ve bunun yerine dost kuvvetlerin operasyonlarına müdahale etmeyi, belki de onlara ateş açmayı ve onları yok etmeyi seçerler mi (klasik bilim kurgu Terminatör film serisinde kynet’in yaptığı gibi)? Ya da iyi ya da çok daha kötü, tamamen hayal gücümüzün ötesinde davranışlarda bulunabilirler mi?
Üst düzey ABD askeri ve diplomatik yetkilileri, yapay zekanın bu tür gelecekteki risklere maruz kalmadan kullanılabileceğini ve bu ülkenin yalnızca gelecekteki tehlikeli kötü davranışlara karşı tamamen yeterli koruma önlemleri içeren cihazları kullanacağını ısrarla savunuyor. (…)
Ancak birçok önde gelen güvenlik ve teknoloji yetkilisi, gelecekteki robotik silahlarda ortaya çıkan davranışların potansiyel risklerinin fazlasıyla farkındadır ve savaşta yapay zekanın hızla kullanılmasına karşı uyarılarda bulunmaya devam etmektedir. (…)
Ülkelerin, yapay zeka destekli ve otonom silah sistemleriyle ilişkili riskleri azaltmaya odaklanan eylemlerde bulunması gerekiyor.
Otonom silahların önde gelen savunucuları, bunların savaşta kullanılmasının yaratacağı istenmeyen tehlikeler konusunda endişelenmemizi söylediğinde, geri kalanımız gerçekten endişelenmelidir. YZ’de ortaya çıkan davranışları anlayacak matematiksel becerilerden yoksun olsak bile, ölüm makinelerinin kendi başlarına düşünme yeteneğini kazanmaları halinde insanlığın varlığına yönelik önemli bir riskle karşı karşıya kalabileceği açık olmalıdır. Belki de herkesi şaşırtarak uluslararası barış gücü rolünü üstlenmeye karar verirler, ancak savaşmak ve öldürmek için tasarlandıkları göz önüne alındığında, bu talimatları bağımsız ve aşırı bir şekilde yerine getirmeyi seçmeleri çok daha olasıdır.
Eğer öyleyse, insanlığın mezar taşına “Huzur İçinde Yatsın” yazacak kimse kalmazdı.
https://tomdispatch.com/emergent-ai-behavior-and-human-destiny/
1 TomDispatch’in düzenli yazarı, Hampshire College’da barış ve dünya güvenliği çalışmaları alanında five-collage emeritus profesör ve Arms Control Association'da kıdemli misafir üyedir. 15 kitabın yazarıdır ve sonuncusu “All Hell Breaking Loose: The Pentagon”s Perspective on Climate Change”dir