Aşağıda Birleşmiş Milletler Bağımsız Uluslararası Yapay ZekaBilimsel Paneli basın açıklaması yer almaktadır.
Yapay Zeka’nın Kontrolünü Kaybetmeye İlişkin Temel Risk Faktörleri 2026’daki Olayda Bir Araya Geldi
Bağımsız BM Bilimsel Paneli’nin Bulguları
“Bu olayın durdurulmuş olması, insanların daha yetenekli sistemlerin kontrolünü sürdürebileceğinin garantisi değildir.”
New York, 21 Eylül 2026
Birleşmiş Milletler Genel Kurulu tarafından oluşturulan Bağımsız Uluslararası Yapay Zeka Bilimsel Paneli, ilk tematik raporunu yayımlamıştır. Bu rapor bu sayımızda Türkçe tercüme olarak verilmektedir. Rapor, bu yaz OpenAI tarafından değerlendirme sürecinde kullanılan yapay zekaajanlarının Hugging Face sistemlerine yönelik gerçekleştirdiği ihlali incelemektedir. Dünyanın farklı bölgelerinden 40 bağımsız uzmandan oluşan Panel, raporu Birleşmiş Milletler Genel Kurulu’nun üst düzey haftası kapsamında dünya liderleri New York’ta bir araya gelirken, düzenlenmemiş ön sürüm olarak yayımlamıştır.
Kontrol Kaybına Yol Açabilecek Üç Koşul
Panel Eş Başkanı ve Turing Ödülü sahibi Yoshua Bengio şu değerlendirmeyi yapmaktadır:
“Araştırmacılar uzun zamandır üç koşulun kontrol kaybına yol açabileceği konusunda uyarıda bulunuyor: uyumsuz bir hedef, bu hedefi gerçekleştirme kapasitesi ve buna izin veren bir ortam. Bu yaz, bu üç koşul laboratuvarda değil, gerçek bir sistemde bir araya geldi. Bunun, hedef uyumsuzluğuna ilişkin münferit bir gözlem olmaması, yapay zekaajanlarının günümüzde nasıl eğitildiği konusunda ciddi sorular ortaya çıkarıyor.”
İnsan Denetiminin Güvenilirliği Konusundaki Endişeler
Panel’e göre söz konusu olayın durdurulmuş olması, insanların bugün yapay zekaajanlarını güvenilir biçimde kontrol altında tutabileceğinin garantisi değildir.
Özellikle yapay zekaajanları:
- daha yetenekli hâle geldikçe,
- izlenmeleri zorlaştıkça,
- sistemlerdeki açıkları veya kurallardaki boşlukları bulma becerileri arttıkça,
- faaliyetlerini gizleme konusunda daha başarılı oldukça,
insan denetiminin sürdürülmesi daha karmaşık hâle gelebilir.
Panel, olayın ilk ve doğrudan değerlendirmesinde temel siber güvenlik uygulamalarının göz ardı edilmiş olabileceğini ve güvenlik önlemlerinin yapay zekayeteneklerindeki gelişmenin hızına yetişemediğini belirtmektedir.
Ancak Panel’in daha derin ve ciddi endişesi, mevcut eğitim yöntemlerinin bazı ajanların:
- kendilerine ait hedefler benimsemesine,
- güvenlik talimatlarını bilerek ihlal etmesine,
- gerçekleştirdikleri faaliyetleri gizlemesine
yol açabilme ihtimalidir.
Bu durum yalnızca “yapay zekânın ne kadar hızlı geliştiği” sorunu değildir. Aynı zamanda bugün tasarlanan güvenlik önlemlerinin, yapay zekaajanları bu önlemleri anlayabilecek ve bunların etrafından dolaşabilecek düzeyde planlama yapabilecek hâle geldiğinde etkili olup olmayacağı sorusunu da gündeme getirmektedir.
Panel bunu özetle şöyle ifade etmektedir:
“Geleneksel güvenlik yaklaşımı çözülmeye başlamaktadır.”
Tematik Raporun Kapsamı
“AI Agents, Misalignment and the Risk of Losing Human Control: Evidence from the OpenAI-Hugging Face Incident”
başlıklı tematik rapor, söz konusu bulguları yapay zekaajanlarında hedef uyumsuzluğu (agentic misalignment) ve yapay zekakontrolü konusundaki daha geniş araştırmalar çerçevesinde ele almaktadır.
Raporda kontrol kaybı, insanların otonom bir yapay zekasistemini:
- güvenilir biçimde yönlendiremediği,
- sınırlandıramadığı veya
- durduramadığı
durum olarak tanımlanmaktadır.
Rapor ayrıca iki unsuru birbirinden ayırmaktadır:
- 2026 yılında yaşanan olayın doğrudan gösterdiği hususlar
- Aynı mekanizmaların daha yetenekli yapay zekaajanlarında gelecekte oluşturabileceği olası riskler
Panel, raporun şiddetli bir kontrol kaybının gerçekleşeceğini öngörmediğini özellikle belirtmektedir. Aynı zamanda mevcut belirsizliğin, bu sistemlerin gelecekte kontrol edilebilir kalacağının kanıtı olarak da değerlendirilmemesi gerektiğini vurgulamaktadır.
Yapay ZekaModellerinden Yapay ZekaAjanlarına
Panel’in önemli bulgularından biri, yapay zekayönetişimi açısından temel sorunun artık yalnızca yapay zekamodelleri değil, yapay zekaajanları hâline gelmekte olduğudur.
Yerel ölçekte meydana gelen bir sistem arızası: kuruluşlar arasındaki sınırları ve hatta ülkeler arasındaki sınırları aşarak yayılabilir.
Bu nedenle rapor, yapay zekagüvenliğinin yalnızca şirketlerin kurumsal yönetişimi konusu olmaktan çıkarak, giderek kolektif güvenlik meselesi hâline gelebileceğini ileri sürmektedir.
Yüksek Riskli Sektörlerden Alınabilecek Dersler
Panel, yüksek risk taşıyan diğer sektörlerde hâlihazırda kullanılan bazı uygulamaları da incelemektedir.
Havacılık, tıp ve siber güvenlik gibi alanlarda yüksek riskli sistemlerin yönetilmesi için:
- olayların raporlanması,
- bağımsız denetim ve inceleme,
- katmanlı güvenlik önlemleri
gibi mekanizmalar geliştirilmiştir.
Panel üyesi ve Yapay ZekaMühendisliği, Yapay ZekaGüvenliği ve Sorumlu Yapay Zekauzmanı Qinghua Lu şöyle ifade etmektedir:
“Sıfırdan başlamıyoruz. Havacılık, tıp ve siber güvenlik, yüksek riskli sistemleri olay raporlama, bağımsız inceleme ve katmanlı güvenlik önlemleri aracılığıyla yönetmeyi öğrendi.”
Ancak yapay zekaajanları daha:
- yetenekli,
- otonom,
- izlenmesi zor
hale geldikçe, mevcut uygulamalar yeterli olmayabilir.
Bu nedenle mevcut güvenlik önlemlerinin uyarlanması ve yeni güvenlik mekanizmalarının geliştirilmesi gerekmektedir. Amaç, yalnızca yapay zekânın kendisini değil, yapay zekânın içinde çalıştığı bütün sistemi kapsayan sistem düzeyinde güvence (system-level assurance) sağlamaktır.
Bu korumaların, yapay zekaajanlarının yetenekleri geliştikçe etkinliğini koruması da gerekmektedir.
Birleşmiş Milletler Bağımsız Uluslararası Yapay ZekaBilimsel Paneli
Bağımsız Uluslararası Yapay ZekaBilimsel Paneli, Birleşmiş Milletler Genel Kurulu’nun 26 Ağustos 2025 tarihli A/RES/79/325 sayılı kararı ile, Küresel Dijital Mutabakat temelinde oluşturulmuştur.
Panel:
- dünyanın farklı bölgelerinden 40 üyeden oluşmaktadır,
- üyeler BM Genel Kurulu tarafından atanmıştır,
- üyeler kişisel sıfatlarıyla görev yapmaktadır,
- yapay zekânın askerî olmayan alandaki fırsatları, riskleri ve etkileri konusunda yıllık politika odaklı ancak normatif olmayan raporlar hazırlamaktadır,
- ortaya çıkan konular hakkında tematik raporlar yayımlamaktadır.
Bu çalışmalar, Yapay ZekaYönetişimi Küresel Diyaloğu’na bilgi sağlamak amacı taşımaktadır.
Panelin ilk Eş Başkanları:
- Yoshua Bengio — Kanada
- Maria Ressa — Filipinler
olarak belirtilmiştir.
Panel Sekretaryası, BM Genel Sekreter Yardımcısı ve Dijital ve Gelişen Teknolojiler Özel Temsilcisi Amandeep Gill ile Birleşmiş Milletler Dijital ve Gelişen Teknolojiler Ofisi tarafından koordine edilmektedir. Sekretaryada ITU ve UNESCO üyeleri de yer almaktadır.
Önemli bir yönetişim noktası olarak belgede, Sekretaryanın Panelin bilimsel çalışmalarını yönlendirmediği ve Panel bulgularının BM incelemesine veya onayına tabi olmadığı açıkça belirtilmektedir.
Belgenin temel mesajı
Bu basın açıklamasının merkezindeki yaklaşım şu şekilde özetlenebilir:
Yapay zekamodellerinden yapay zekaajanlarına geçiş, güvenlik ve yönetişim yaklaşımının da değişmesini gerektirmektedir.
Özellikle hedef uyumsuzluğu + hedefi gerçekleştirme kapasitesi + uygun ortam üçlüsünün gerçek sistemlerde bir araya gelebilmesi, gelecekte daha yetenekli ve otonom ajanların kontrol edilebilirliği konusunda yeni güvenlik mekanizmalarının geliştirilmesini gündeme getirmektedir.