Özet ve derleme: Haluk Orhun
Önceki 62. Sayımızda yayınladığımız, Birleşmiş Milletler’in OpenAI-Hugging Face olayına ilişkin yeni bir raporu, ajanların uyumsuzluğu ve kontrolün kaybedilmesi riski de dahil olmak üzere ortaya çıkan yapay zeka tehditlerini vurguluyor. İlgili herkesin okuması gerektiğine inanmaktayız.
OpenAI/Hugging Face olayı, oyunun kurallarını değiştiren ve konuya yeni bir perde açan bir olaydı.
Bu durum, küresel ölçekte, özellikle yapay zeka güvenlik standartları , acil durdurma mekanizmaları ve sorumluluk yasalarının uygulanması konularında daha sıkı yapay zeka düzenlemeleri çağrılarına yol açtı.
Bu durum aynı zamanda birçok yapay zeka yönetimi uzmanının, yapay zekanın mevcut durumu, ortaya çıkan riskler ve bilim kurgu ile gerçeklik arasındaki fark hakkındaki varsayımlarını sorgulamasına yol açtı.
Bu olay, şirketlerin pratik yapay zeka yönetimine bakış açısını da değiştirdi: Yapay zeka dağıtımı sırasında uygulanan inceleme, gözetim ve kontrol seviyeleri, daha önce birçok kişinin varsayımsal olarak ele aldığı yükselen bir tehdit seviyesini yansıtmalıdır.
Bu konuda, BM Bağımsız Uluslararası Yapay Zeka Bilimsel Paneli, “ Yapay Zeka Ajanları, Uyumsuzluk ve İnsan Kontrolünün Kaybı Riski: OpenAI-Hugging Face Olayından Elde Edilen Kanıtlar ” başlıklı tematik bir özet yayınladı. 62. Sayımızda da yayınladığımız gibi.
Özet metinde şu ifadeler yer almaktadır:
“OpenAI-Hugging Face olayı, gelecekte daha ciddi kontrol kaybına yol açabilecek olası bir yolun erken uyarısıdır : Yetenekli yapay zeka ajanlarının, insan niyetlerinin ötesine geçen veya hatta onlarla çelişen bir hedefi ısrarla takip etmesi.”
Aşağıdaki tablo, olay sırasında gözlemlenenlerin gelecekteki sistemlerde nasıl daha da güçlenebileceğini ve insan kontrolü üzerinde doğrudan etkilerini göstermektedir:
Ajan kaynaklı tehditlere yönelik risk yönetimi yaklaşımlarına ilişkin özet metinde şu ifadeler yer almaktadır.
“Genel olarak, başarısızlıkların felaketlere yol açabileceği alanlarda belirsizlik, ekonomik ve yasal sorumluluk , olay raporlaması, ampirik kanıt ve matematiksel analiz kullanılarak belgelenmiş güvenlik değerlendirmeleri, bağımsız inceleme, çoklu teknik engeller ve altta yatan nedenlere yönelik araştırmalar , yoluyla yönetilir .
Bu yaklaşımlar, ajansal yapay zeka için geçerli olabilir ve dikkate alınmaya değerdir. Hiçbiri, merkezi bilimsel ve teknik sorunu çözmez: Yapay zekâ ajanlarının bazen geliştiricilerin niyetlerinden keskin bir şekilde ayrılan hedefleri neden takip ettiği ve bu hedeflerin ortaya çıktıktan sonra hafifletilmek yerine nasıl önlenebileceği. Özellikle, kontrol kaybı riski, ihtiyat ilkesinin ele almak üzere tasarlandığı türden bir karar problemi sunar: potansiyel zararın felaket veya geri döndürülemez olabileceği, ancak olasılığının bilimsel olarak belirsiz kaldığı bir durum.”
Bu özet, yapay zeka yönetişimi uzmanları için mutlaka okunması gereken bir belgedir. Buradan indirebilirsiniz .
Bu olaydan sonra yapay zeka yönetimi ve güvenliği asla eskisi gibi olmayacak . Yapay zeka riskleri geliştikçe, profesyoneller kuruluşlarının yapay zeka yönetimi yeteneklerini ve kendi bilgi, muhakeme ve eleştirel düşünme becerilerini güçlendirmelidir.
Umarım bu olaydan ders çıkarır ve daha büyük bir direnç geliştiririz.
Ne yazık ki, OpenAI/Hugging Face olayı, her kuruluştan daha iyi farkındalık, hazırlık ve müdahale gerektirecek, sistemik, önemli ve daha büyük ölçekli yapay zeka kaynaklı olayların yeni bir dalgasının yalnızca bir başlangıcı gibi görünüyor.