Öğreneceklerimiz.
*Araştırmacılar, 272 uzmandan 2025 ile 2030 yılları arasında ortaya çıkabilecek zararın olasılığı ve ciddiyetine göre 24 yapay zeka riskini değerlendirmelerini istedi.
*Uzmanlar, en yüksek ciddiyet beklentisine sahip beş riskin yapay zekanın tehlikeli yeteneklere sahip olması, rekabet dinamikleri, silah ve siber saldırılar, güç merkezileşmesi ve yapay zekanın yanlış veya yanıltıcı bilgiler yayması olduğunu belirtti.
*Bilgi, ulusal güvenlik ve finans sektörleri en savunmasız sektörler olarak kabul ediliyor. Yapay zeka geliştiricileri ve yönetim aktörleri riskleri ele almakta birincil sorumluluğa sahipken, sistem kullanıcıları ve diğer paydaşlar bu risklere karşı en savunmasız olanlardır.
Yapay Zeka iş dünyası liderlerine zorlu bir yönetim problemi sunuyor: Riskler çok sayıda ve hızla değişiyor ve kuruluşlar, sektörler ve paydaşlar arasında eşit olmayan bir şekilde dağılıyor. Ayrımcılık potansiyeli ve yanlış bilginin yayılması gibi bazı zorluklar iyi bilinirken, diğerleri siber saldırıları hızlandırabilecek, silah geliştirmeyi kolaylaştırabilecek veya asla amaçlanmayan şekillerde davranabilecek yapay Zekasistemleri gibi ortaya çıkıyor.
MIT FutureTech ve Queensland Üniversitesi’nden yeni bir çalışma, bu karmaşık durumu değerlendirmenin bir yolunu sunuyor. MIT Sloan İşletme Okulu’ndan baş araştırma bilimcisinin de yer aldığı bir araştırma ekibi, “Yapay Zekadan Kaynaklanan Risklerin Önceliklendirilmesi” başlıklı çalışmada bu konuyu ele alıyor.Neil Thompson 272 uluslararası yapay zeka uzmanından, 24 yapay zeka riskini zarar verme olasılığı ve ciddiyetine göre değerlendirmelerini, hangi sektörlerin ve aktörlerin en savunmasız olduğunu ve risklerle mücadele sorumluluğunu kimin üstlenmesi gerektiğini belirtmelerini istedik .
Uzmanlar, önümüzdeki beş yıl içinde en ciddi zararlara yol açma olasılığı en yüksek olan beş riski belirledi: tehlikeli yetenekler, rekabet baskıları, silahlar ve siber saldırılar, yoğunlaşmış güç ve yanlış bilgi. Uzmanlar, özellikle bilgi ve finans sektörlerinin savunmasız olduğunu ve risklere karşı en savunmasız kişi ve kuruluşların genellikle bu risklerle başa çıkmak için en iyi konumda olmadığını söyledi.
MIT FutureTech’te araştırma bilimcisi ve çalışmanın ortak yazarlarından Peter Slattery , “Yapay zekanın birçok riski var,” dedi . “Bu çalışmanın en önemli noktalarından biri, kimin neyi farklı yapması gerektiğini ve ne tür bir koordinasyon içinde olması gerektiğini anlamaya çalışmaktır.”
Yapay zekânın en ciddi risklerini anlamak
Bu çalışmada, daha net fikir birliği ve fikir ayrılığı alanlarına ulaşmak için birden fazla turda uzman görüşlerini toplayan yapılandırılmış bir araştırma süreci olan Delphi yöntemi kullanılmıştır. Araştırmacılar, bu uzman değerlendirmelerini kullanarak, 2025’ten 2030’a kadar beş yıllık bir ufukta, iki senaryo altında riskleri değerlendirdiler: kuruluşların ve hükümetlerin mevcut yollarına devam ettiği “olağan işleyiş” ve yapay zeka risklerini azaltmak için maliyet etkin çabalar gösterdikleri “pragmatik azaltma”.
Uzmanlar, mevcut durumun devam etmesi senaryosunda, 24 yapay zeka risk alanından 18’inin önümüzdeki beş yıl içinde en az %10 olasılıkla felaketle sonuçlanacağını değerlendirdi. Felaketle sonuçlanma, 1 milyondan fazla ölüm, 100 milyar dolardan fazla mali kayıp veya medeniyet ölçeğinde benzer maddi olmayan zararları içeren zararlar olarak tanımlandı.
Pragmatik azaltma yöntemleri bu tahminleri düşürdü ancak riski ortadan kaldırmadı. Zararları azaltmaya yönelik maliyet etkin çabalara rağmen, uzmanlar hala beş alanın en az %10 olasılıkla felaketle sonuçlanabileceğini değerlendirdi:
Tehlikeli yeteneklere sahip yapay zeka sistemleri (%12 olasılık)
Yapay Zekadestekli silahlar, siber saldırılar veya diğer kitlesel zarar verme yetenekleri (%12)
Çevresel zarar (%12)
Eşitsizlik ve işsizlik (%11)
Güç merkezileşmesi ve yapay zekanın faydalarının adaletsiz dağılımı (%11)
Slattery’ye göre, yapay Zekad estekli silahlar ve siber saldırılar yüksek sıralarda yer alıyor çünkü yapay Zekaözellikle kodlama, örüntü tanıma ve bilgi sentezi yapma konusunda oldukça uygun. Modern altyapıların çoğu yazılıma dayanıyor ve bu da potansiyel bilgisayar korsanlarının güvenlik açıklarını belirlemesine, kod üretmesine veya saldırgan siber çalışmaları hızlandırmasına yardımcı olabilecek sistemler için geniş bir saldırı yüzeyi sunuyor.
Slattery, “Yapay zeka, toplumun bu yönlerine saldırmak ve zarar vermek konusunda benzersiz bir şekilde donanımlı,” dedi. “Kodlama ve siber saldırılar, yapay zeka yeteneklerinde en hızlı büyümeyi gördüğümüz alanlardan bazıları.”
Tehlikeli yetenekler daha geniş kapsamlı: Kötü niyetli aktörler yapay Zekasistemlerini zarar vermek için kullanabilirken, bu sistemlerdeki gelişmeler ikna ve gözetleme, deepfake oluşturma ve hatta kimyasal veya biyolojik silah yapımına yardımcı olma gibi zor ve tehlikeli görevleri daha kolay hale getirebilir. Slattery, “Bunların hepsi daha önce yapabileceğiniz ama şimdi çok daha kolay yapabileceğiniz şeyler” dedi.
Rekabet dinamikleri farklıdır: Bunlar yapay zekanın tek bir zararlı kullanımı değil, diğer riskleri yoğunlaştırabilen bir durumdur. Şirketler veya ülkeler yapay zekanın büyük ekonomik veya stratejik avantaj sağlayacağına inandıklarında, hızlı hareket etme, kısıtlamalara direnme veya güvenliğe yeterince yatırım yapmama konusunda teşviklere sahip olabilirler. Slattery, “Bu, diğer riskleri yaratan araçsal bir risktir” dedi.
Yapay Zeka riskinin en çok nerede hissedilebileceği ve sorumluluğun kimde olduğu.
Çalışma ayrıca, uzmanların önümüzdeki beş yıl içinde yapay zeka riskine karşı en savunmasız olduğunu belirttiği üç sektörü de işaret ediyor: bilgi, ulusal güvenlik ve finans. Slattery, bu sektörlerdeki liderlerin maruz kaldıkları riskin genel geçer olmadığını anlamaları gerektiğini söyledi. Her sektör, kendine özgü özelliklerinden dolayı farklı şekillerde savunmasızdır.
Bilgi sektörü: Riskler, yanlış bilgilendirme, dezenformasyon, gizlilik ihlali, manipülasyon ve insanların gördüklerine ve okuduklarına olan güvenin aşınması da dahil olmak üzere, içerik ve veri akışıyla yakından bağlantılıdır.
Ulusal güvenlik: En büyük endişeler arasında siber saldırılar, silah geliştirme, gözetim ve düşman aktörler tarafından giderek daha yetenekli hale gelen yapay zeka sistemlerinin kullanımı yer almaktadır.
Finans: Yapay zeka, dolandırıcılığı, siber riskleri, piyasa manipülasyonunu, gizlilik ihlallerini ve daha geniş ekonomik etkileri olan sistem arızalarını artırabilir.
Slattery, bu sektörlerin tamamında yapay zekanın mevcut risklerin ölçeklendirilmesini kolaylaştırabileceğini söyledi. Daha önce siber saldırı yapamayan kişilerin artık “siber saldırıyla ilgili bir dizi şey yapabileceğini, halihazırda siber saldırı yapabilenlerin ise işleri daha hızlı, daha iyi veya daha kolay yapabileceğini” belirtti.
Uzmanlar, yapay zeka geliştiricilerinin ve hükümetler ve düzenleyiciler gibi yönetim aktörlerinin yapay zeka risklerini ele alma konusunda birincil sorumluluğa sahip olduğunu söyledi. Ancak yapay zeka sistemi kullanıcıları ve bu sistemlerin etkilediği paydaşlar bu risklere karşı en savunmasız olanlardır. Riskleri ele almakla en çok sorumlu olanların en savunmasız olanlar olmaması göz önüne alındığında, harekete geçmek için uyumsuz teşvikler söz konusudur.
Liderlerin şimdi yapması gerekenler
Slattery, araştırmanın geleceği kesin olarak tahmin etmeyi amaçlamadığını, ancak liderlerin uzmanların yakın vadede hem ciddi hem de olası olduğuna inandığı yapay zeka risklerine odaklanmalarına yardımcı olmayı amaçladığını söyledi. “Bunların kesinlikle olacağını söylemiyoruz,” dedi. “Uzmanların şu anda dikkat etmeye değer olduğunu düşündükleri şeyleri söylüyoruz.”
İş dünyası liderleri için en büyük riskler iki acil soruyu gündeme getiriyor: giderek daha yetenekli hale gelen yapay zeka sistemleri artık neler yapabiliyor ve rekabet baskısı, kuruluşları yönetim uygulamalarını güncelleme hızından daha hızlı bir şekilde bu sistemleri kullanmaya itiyor mu? Endişe şu ki, şirketler, sektörler ve hükümetler, riskler tam olarak anlaşılmasa bile hızlı hareket etme baskısı hissedebilirler.
Slattery’nin belirttiğine göre, bu bulgular özellikle iş liderleri için son derece faydalı; çünkü birçok kuruluş yapay zeka riskini hâlâ bir uyumluluk sorunu veya uzak bir endişe olarak görüyor. Liderler, yapay zekayı iş süreçleri düzeyinde değerlendirmeli, yatırım getirisi yaratabileceği, daha geniş ekosistemi değiştirebileceği ve kuruluşlarının sunduğu ürün veya hizmetleri aksatabileceği noktaları incelemelidir.
Yöneticiler, yapay Zekariskinin alışılagelmiş iş süreçlerinden farklı olduğunu kabul ederek işe başlamalıdır. Slattery, halihazırda işe yarayan şeyleri terk etmeye karşı uyarıda bulunurken, liderlerin yapay zekâyı birçok insan görevini değiştirebilecek, yeni güvenlik açıkları ortaya çıkarabilecek ve “ekosistem çapında, toplum çapında fırsatlar ve güvenlik açıkları” yaratabilecek yeni bir paradigma olarak ele almaları gerektiğini söyledi.
Yanıt tek seferlik bir ayarlama da olamaz. Slattery, “Yapay zeka o kadar hızlı ilerliyor ki, kuruluşların bu teknolojiye ve ilgili risklere ve fırsatlara önceki teknolojilere göre çok daha dikkatli ve duyarlı olmaları gerekiyor, bu nedenle bundan sonra sürekli ve istikrarlı bir süreç olacak” dedi.
Slattery’nin belirttiği gibi, asıl mesaj şu ki, kuruluşların harekete geçmeden önce mükemmel tahminleri veya düzenlemeleri beklemelerine gerek yok. En ciddi ve muhtemel zararlara daha yakından dikkat ederek ve yapay zeka riskini, siber güvenlik, gizlilik, emniyet ve iş sürekliliği konularında zaten yürüttükleri yönetimsel görüşmelerin bir parçası haline getirerek işe başlayabilirler.
“ Yapay Zekadan Kaynaklanan Risklerin Önceliklendirilmesi ” başlıklı çalışmanın 188 ortak yazarı bulunmakta olup, çekirdek araştırma ekibi Alexander K. Saeri, Jess Graham, Michael Noetel, Peter Slattery ve Neil Thompson’dan oluşmaktadır.
Bu araştırma, MIT FutureTech laboratuvarı tarafından yürütülen MIT Yapay Zeka Risk Girişimi’nin bir parçasıdır . MIT FutureTech, MIT Sloan İşletme Okulu ve MIT Bilgisayar Bilimleri ve Yapay Zeka Laboratuvarı’na bağlı, bilişimdeki ilerlemenin ekonomik ve teknik temellerini inceleyen disiplinlerarası bir gruptur.
MIT Yapay Zeka Risk Girişimi, yapay zekadan kaynaklanan riskleri belirlemeye, önceliklendirmeye ve yönetmeye yardımcı olacak yetkili veriler ve çerçeveler sağlamayı amaçlamaktadır. Bu girişim, politika yapıcılar, teknoloji uzmanları ve kuruluşlar tarafından yapay zeka yönetişimini bilgilendirmek için kullanılan, neden ve risk alanına göre düzenlenmiş 1.600’den fazla yapay zeka riskini içeren sürekli güncellenen bir veritabanı olan Yapay Zeka Risk Deposu’nu da içermektedir.
Neil Thompson, MIT Bilgisayar Bilimleri ve Yapay Zeka Laboratuvarı ile MIT Dijital Ekonomi Girişimi’nde baş araştırma bilimcisi olup , Yapay Zeka, Kuantum ve Ötesi araştırma grubunun başkanlığını yürütmektedir. Ayrıca MIT FutureTech laboratuvarının da direktörüdür.
Peter Slattery, MIT FutureTech’te araştırma bilimcisi olarak çalışmaktadır. MIT Yapay Zeka Risk Girişimi’nde görev almaktadır ve bu girişim MIT Yapay Zeka Risk Deposu’nu da içermektedir. Bu girişime dayanarak, şu anda uzmanların en iyi uygulama yapay zeka risk yönetimi önerilerini, model geliştiricilerin, işletmelerin ve yönetim organlarının pratikte yaptıklarıyla karşılaştırarak önemli risk-yanıt boşluklarını belirleyecek olan Yapay Zeka Risk Endeksi üzerinde çalışmaktadır.
Alexander K. Saeri, MIT FutureTech’te araştırmacı olup, MIT Yapay Zeka Risk Girişimi’ni yönetmekte ve aynı zamanda Queensland Üniversitesi’nde kıdemli araştırma proje yöneticisi olarak görev yapmaktadır. Yapay zekanın yönetişimi de dahil olmak üzere karmaşık zorlukları anlamak ve ele almak için uygulamalı davranış bilimleri ve sosyal bilimler yöntemlerinin bir karışımını kullanmaktadır. Uygulama bilimi, etkili müdahalelerin ölçeklendirilmesi, grup süreçleri, sistem düşüncesi ve sosyoteknik geçişler konularında uzmanlığı bulunmaktadır.
Jess Graham, Queensland Üniversitesi’nde kıdemli araştırma koordinatörü ve MIT FutureTech’te araştırmacı olarak görev yapmaktadır; burada MIT Yapay Zeka Risk Girişimi üzerinde çalışmaktadır. Mevcut çalışmaları, yapay zekadan kaynaklanan riskleri sınıflandırma ve ele alma çabalarını iyileştirmeye odaklanmıştır. Gelişmiş yapay zekadan kaynaklanan riskleri karşılaştırılabilir ve yönetilebilir hale getirmek ve büyük ölçekli zararları önlemek amacıyla uygulamalı sosyal bilimlerden yararlanmaktadır.
Michael Noetel, MIT Yapay Zeka Risk Girişimi’nde kıdemli araştırmacı, MIT FutureTech’te araştırma ortağı ve Queensland Üniversitesi’nde doçenttir. Psikoloji, kanıt sentezi ve yapay zeka yönetişimi alanlarının kesiştiği noktada çalışmakta olup, amacı gelişmiş yapay zekadan kaynaklanan en büyük riskleri azaltmaktır.