Lucy Hooker ve Chris Vallance
Önde gelen bir insan hakları grubu, Google’ın ana şirketinin, yapay zekanın (YZ) silah ve gözetleme araçları geliştirmek için kullanılmasına yönelik uzun süredir devam eden yasağı kaldırmasının “inanılmaz derecede endişe verici” olduğunu söyledi.
Alphabet, yapay zekanın nasıl kullanılacağına ilişkin yönergelerini yeniden yazarak, daha önce “zarar verme olasılığı olan” uygulamaları yasaklayan bir bölümü kaldırdı.
İnsan Hakları İzleme Örgütü, BBC’ye yaptığı açıklamada, yapay zekanın “yaşam veya ölümle sonuçlanabilecek” savaş alanı kararlarında “sorumluluğu zorlaştırabileceğini” belirterek kararı eleştirdi.
Google, bir blog yazısında , işletmelerin ve demokratik hükümetlerin “ulusal güvenliği destekleyen” yapay zeka üzerinde birlikte çalışmaları gerektiğini savunarak değişikliği savundu.
Uzmanlar, yapay zekanın savaş alanında yaygın bir şekilde kullanılabileceğini söylüyor; ancak özellikle otonom silah sistemleri söz konusu olduğunda, yapay zekanın kullanımı konusunda da endişeler var.
İnsan Hakları İzleme Örgütü’nün kıdemli yapay zeka araştırmacısı Anna Bacciarelli, “Yapay zeka alanında her zamankinden daha fazla sorumlu liderliğe ihtiyaç duyduğumuz bir zamanda, küresel bir endüstri liderinin kendisi için çizdiği kırmızı çizgileri terk etmesi endişe verici bir değişime işaret ediyor” dedi.
“Tek taraflı” kararın, “gönüllü ilkelerin neden düzenleme ve bağlayıcı hukukun yeterli bir ikamesi olmadığını” da gösterdiğini sözlerine ekledi.
Alphabet, blog yazısında demokrasilerin, özgürlük, eşitlik ve insan haklarına saygı gibi “temel değerler” tarafından yönlendirilen yapay zeka gelişiminde öncü olması gerektiğini söyledi.
“Ve bu değerleri paylaşan şirketlerin, hükümetlerin ve kuruluşların, insanları koruyan, küresel büyümeyi teşvik eden ve ulusal güvenliği destekleyen bir yapay zeka yaratmak için birlikte çalışmaları gerektiğine inanıyoruz” diye ekledi.
Şirketin kıdemli başkan yardımcısı James Manyika ve Google DeepMind yapay zeka laboratuvarının başındaki Sir Demis Hassabis’in yazdığı blogda, şirketin 2018’de yayınlanan orijinal yapay zeka ilkelerinin, teknoloji geliştikçe güncellenmesi gerektiği belirtildi.
‘Büyük ölçekte öldürme’
Yapay zekanın askeri potansiyeline ilişkin farkındalık son yıllarda giderek artıyor.
Ocak ayında, milletvekilleri Ukrayna’daki çatışmanın teknolojinin “savaş alanında ciddi askeri avantaj sağladığını” gösterdiğini ileri sürdüler
İngiltere ordusunun yapay zeka kullanımına ilişkin yakın zamanda hazırlanan bir Avam Kamarası raporuna başkanlık eden Milletvekili Emma Lewell-Buck, yapay zekanın daha yaygın ve karmaşık hale gelmesiyle “arka ofisten ön cepheye kadar savunmanın çalışma biçimini değiştireceğini” yazdı.
Ancak yapay zeka uzmanları ve profesyonelleri arasında güçlü yeni teknolojinin genel anlamda nasıl yönetilmesi gerektiği konusunda yaşanan tartışmaların yanı sıra, yapay zekanın savaş alanında ve gözetleme teknolojilerinde kullanımı konusunda da bir anlaşmazlık var.
En büyük endişe, otonom olarak ölümcül eylemde bulunabilen yapay zeka destekli silahların potansiyeli konusunda; aktivistler ise bu konuda acilen kontrol sağlanması gerektiğini savunuyor.
İnsanlığın yıkıma ne kadar yakın olduğunu simgeleyen Kıyamet Saati, insanlığın karşı karşıya olduğu tehlikelere ilişkin son değerlendirmesinde bu endişeyi dile getirdi .
“Yapay zekayı askeri hedeflemeye dahil eden sistemler Ukrayna ve Ortadoğu’da kullanıldı ve birçok ülke yapay zekayı ordularına entegre etmeye yöneliyor” denildi.
“Bu tür çabalar, makinelerin askeri kararlar almasına, hatta büyük ölçekte ölüme yol açabilecek kararlar almasına ne ölçüde izin verileceği konusunda soruları gündeme getiriyor” diye ekledi.
‘Kötü olma’
Aslında, yapay zeka etiğine olan ilginin günümüzdeki artışından çok önce, Google’ın kurucuları Sergei Brin ve Larry Page, şirketlerinin sloganının “kötü olma” olduğunu söylemişlerdi.
Şirket 2015 yılında Alphabet Inc. ismi altında yeniden yapılandırıldığında ana şirket “Doğru olanı yap” ilkesine geçti.
O zamandan beri Google çalışanları, yöneticilerinin bu yaklaşımına zaman zaman karşı çıktılar.
Şirket , 2018 yılında istifalar ve binlerce çalışanın imzaladığı dilekçenin ardından ABD Pentagon’uyla yapay zeka çalışmaları için yaptığı sözleşmeyi yenilememişti .
“Proje Maven”ın yapay zekayı ölümcül amaçlar için kullanmanın ilk adımı olduğundan endişe ediliyordu.
Blog yazısı, Alphabet’in yıl sonu mali raporunun piyasa beklentilerinden zayıf sonuçlar göstermesi ve şirketin hisse senedi fiyatını düşürmesinden hemen önce yayınlandı.
Bu, dijital reklam gelirlerinin en büyük gelir kaynağı olan ve ABD seçim harcamalarının da etkisiyle %10 artmasına rağmen gerçekleşti.
Şirket, kazanç raporunda bu yıl yapay zeka projelerine 75 milyar dolar (60 milyar dolar) harcayacağını duyurdu. Bu rakam, Wall Street analistlerinin tahmininden %29 daha fazla.
Şirket, yapay zeka, yapay zeka araştırmaları ve yapay zeka destekli arama gibi uygulamaları çalıştırmak için altyapıya yatırım yapıyor.