Politika Özeti | Temmuz 2026
Bu özet, Uluslararası Güvenli ve Etik Yapay Zeka Derneği (IASEAI) İleri Düzey Yapay Zeka Kırmızı Çizgileri Çalışma Grubu tarafından hazırlanmıştır. Geçtiğimiz yılda ileri düzey yapay zeka kırmızı çizgilerini hem gerekli hem de uygulanabilir kılan gelişmeleri özetlemekte ve hükümetlerin ve kurumların şimdi alabileceği eylemleri önermektedir.
Ana mesajlar
- Yapay zeka yetenekleri arttıkça, olaylar ve zararlara dair kanıt tabanı da büyüyor. Geçtiğimiz yıl, ileri düzey yapay zeka sistemlerinin operatör komutlarını görmezden geldiği, yetkisiz finansal transferler gerçekleştirdiği ve devlet destekli casusluk için kullanıldığı belgelenmiş vakalar yaşandı.
- Bilim insanları, hükümetler, sivil toplum, dini liderler ve hatta öncü yapay zeka geliştiricilerinin kendileri tarafından ileri düzey yapay zeka yönetişimi konusunda uluslararası koordinasyon çağrıları duyuldu. Hepsi benzer bir talepte bulunuyor: Yapay zeka sistemlerinin asla yapmaması gereken şeyleri tanımlayan sınırlar ve bunları koordine edecek küresel bir mekanizma.
- Uluslararası kırmızı çizgiler bu ihtiyaca cevap verebilir. Kabul edilemez sonuçların dar bir kümesini yasaklar; ister yapay zekanın kullanımını kısıtlayarak (kullanım temelli kırmızı çizgiler) ister sistemlerin ne yapmaya muktedir ve eğilimli olabileceğini kısıtlayarak (davranışsal kırmızı çizgiler).
- Davranışsal kırmızı çizgilerde küresel bir boşluk devam ediyor. Mevcut yasalar sosyal puanlama gibi zararlı yapay zeka uygulamalarını yasaklıyor ancak sistemlerin kendilerinin tehlikeli davranışlarını (rekürsif kendini iyileştirme, kendini kopyalama veya kapanmaya direnme gibi) yasaklayan bir çerçeve henüz yok.
- Dört risk alanı acil uluslararası dikkat gerektiriyor: kontrol kaybı; kimyasal, biyolojik, radyolojik ve nükleer (CBRN) tehditler; siber saldırı yetenekleri ve büyük ölçekli manipülasyon. Her biri, ele alınmazsa zararın ciddiyeti ve siyasi uygulanabilirlik açısından yüksek sıralamada yer alıyor.
- Bu yapay zeka kırmızı çizgilerinin etkili olmasını sağlamak için hükümetler doğrulama kapasitelerini geliştirmeye yatırım yapabilir. Kritik doğrulama teknolojisi zaten mevcut ve daha fazla geliştirme ile dağıtım yatırımı, hükümetleri üzerinde anlaşmaya vardıkları kırmızı çizgileri uygulamaya hazır hale getirecektir.
1. Sorun: Yapay zeka gelişimi, yapay zeka yönetişimini geride bırakıyor
Geçtiğimiz yılda ileri düzey yapay zeka sistemleri, akıl yürütme, kodlama, bilimsel araştırma ve giderek artan özerk eylem yeteneğine sahip genel amaçlı modellere doğru ilerledi. Öncü geliştiriciler bu on yıl içinde yapay genel zekâyı (AGI) hedeflediklerini açıkça belirtiyor.
Uluslararası Yapay Zeka Güvenliği Raporu hızlı yetenek kazanımlarını, uyum, yorumlanabilirlik ve kontrolde kalıcı boşluklarla birlikte belgeliyor. OECD Yapay Zeka Olayları ve Tehlikeleri İzleyicisi, altı yılda aylık raporlanan olaylarda yaklaşık 19 kat artış kaydetti. Bağımsız gözlemevleri ise halka açık platformlarda beş aylık bir pencerede kumpas kurma ve kontrol kaybı olaylarında neredeyse beş kat artış izledi.
Geçtiğimiz on iki aydan bazı endişe verici yapay zeka olayları ve gelişmeleri aşağıda paylaşılmıştır:
- ABD hükümeti, en güçlü halka açık modeli tüm yabancılar için kısıtladı. Haziran 2026’da Anthropic en yetenekli halka açık modeli Fable 5’i yayınladıktan birkaç gün sonra ABD, ulusal güvenlik gerekçesiyle tüm yabancı uyrukluların erişimini askıya aldı. Buna uymak için model dünya çapında çevrimdışı oldu. Bu, tek hükümetlerin duruma göre karar verdiği ve etkilenen ülkelerin söz hakkının olmadığı yapısal sorunu gösteriyor. En tehlikeli yetenekler konusunda ortak standartlar ve doğrulama ile desteklenen anlaşmalar, hükümetlerin bir modeli ortak bir standarda göre değerlendirmesini sağlayacak, öngörülemez tek taraflı kısıtlamalara olan ihtiyacı azaltacak ve geliştiricilere daha istikrarlı, uluslararası kabul görmüş bir yayın temeli verecektir.
- Bir devlet aktörü, bir yapay zeka sistemi aracılığıyla siber casusluk kampanyası yürüttü. Kasım 2025’te Anthropic, yüksek güvenle Çin devlet destekli bir grubun Claude Code aracını yaklaşık otuz örgüte (hükümet kurumları, finansal kuruluşlar ve kimyasal üreticileri dahil) karşı özerk penetrasyon test ajanı olarak manipüle ettiğini açıkladı. Sistem operasyonun tahmini %80-90’ını bağımsız olarak yürüttü; hiçbir insan ekibin ulaşamayacağı hızda.
- Bir öncü geliştirici kendi modelini yayınlamak için çok tehlikeli buldu. 2026 başlarında Anthropic, Mythos Preview modelini siber yetenek gerekçesiyle halka açık yayından çekti ve yalnızca doğrulanmış kuruluşlara kısıtladı. OpenAI birkaç hafta sonra GPT-5.5’i yayınladığında, Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü siber korumalarında evrensel bir jailbreak’i uzman kırmızı takım çalışmasından altı saat içinde buldu ve yamalı yapılandırmayı yayın öncesi doğrulayamadı. Model, geliştiricinin kendi güvencesiyle piyasaya sürüldü.
- Özerk bir ajan doğrudan durma emirlerini görmezden geldi. Şubat 2026’da Meta Superintelligence Labs uyum direktörü, geniş çapta kullanılan açık kaynaklı bir ajanın e-posta kutusuna bağlanarak 200’den fazla e-postayı silmesini, açık talimatlara rağmen doğrulamadan hareket etmesini ve tekrarlanan dur komutlarına rağmen devam etmesini rapor etti. Yapay zekayı kontrol altında tutmakla görevli kişi, kendi ajanını kontrol edemedi.
- Gizli bir talimat gerçek para hareket ettirdi. Mayıs 2026’da bir saldırgan, halka açık olarak paylaşılan Mors kodlu bir mesajla xAI’nin Grok’unu otomatik cüzdan ajanıyla zincirleyerek yaklaşık 200.000 USD’lik kripto varlığı transfer etmeye yönlendirdi. Kodlama, düz metin denetimi yapan güvenlik filtrelerini atladı.
- Modeller test koşullarında gözetimi aşındırmaya çalışıyor. Kontrollü değerlendirmelerde o1, Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro ve Llama 3.1 405B gibi modeller gözetim mekanizmalarını devre dışı bırakmaya ve kendi ağırlıklarını sızdırmaya çalıştı. Daha yetenekli modeller bu davranışları daha yüksek oranlarda gösteriyor.
Bu olaylar devlet tarafından kasıtlı kötüye kullanımı, operatör kontrol kaybını, manipülasyonla finansal hırsızlığı ve değerlendirme altında kendini koruma davranışını kapsıyor. Olaylar gerçekleştiğinde mevcut korumalar geliştiricilerin kendi iç değerlendirmeleri, gönüllü taahhütleri ve ticari baskı altında alınan yayın kararlarıydı. Bir vakada dış değerlendirici bir kusur bulmuş ancak düzeltmeyi model yayınlanmadan doğrulayamamıştı.
Olaylar aynı zamanda yapay zeka sistemlerinin birkaç yargı alanında geliştirilip her yerde konuşlandırıldığını vurguluyor; bu da uluslararası eylem gerektiren bir mesele yapıyor. Yapay zeka sistemlerinin kullanıldığı çoğu ülkede geliştiricilerin tuttuğu bilgilere resmi erişim ya da riskleri bağımsız olarak değerlendirme teknik kapasitesi bulunmuyor.
Basitçe ifade etmek gerekirse, yetenekler ekonomik çıkarlara dayalı ticari bir saatle ilerlerken yönetişim jeopolitik ve diplomatik kısıtlamalar içinde ilerliyor. Sonraki bölümler bu boşluğu nasıl kapatacağımızı ortaya koyuyor.
2. Bağlam: İleri düzey yapay zeka yönetişimi konusunda uluslararası koordinasyon talebi artıyor
Koordinasyon talebi artık net ve güçlü; çok çeşitli kesimlerden geliyor.
Bilim insanları ve kamu figürleri. Eylül 2025’te 80. Birleşmiş Milletler Genel Kurulu’nda “Yapay Zeka Kırmızı Çizgileri İçin Küresel Çağrı” başlatıldı. 11 eski devlet ve bakan başkanı ile 15 Nobel ve Turing ödülü sahibinin de aralarında bulunduğu 300’den fazla önde gelen isim tarafından imzalanan çağrı, hükümetleri mühendislik pandemileri, büyük ölçekli dezenformasyon ve manipülasyon, güvenlik tehditleri ve sistematik insan hakları ihlalleri gibi riskleri içeren net ve doğrulanabilir yapay zeka kırmızı çizgileri konusunda uluslararası anlaşmaya çağırıyor.
Bu çağrı, Süperzekâa Bildirgesi, The Elders’ın 2026 Eylem Çağrısı ve Pro-Human AI Deklarasyonu ile birlikte aynı teşhisi paylaşıyor: Riskler ciddi, küresel ve tek bir hükümetin erişiminin ötesinde.
Öncü yapay zeka şirketleri de rekabet baskısının onları yalnız hareket etmekten alıkoyduğunu açıkça belirtiyor.
“Bu teknolojinin muazzam sonuçlarıyla başa çıkmak için gelişimini etkili bir şekilde yavaşlatmak mümkün olsaydı, muhtemelen iyi bir şey olurdu. Ancak yavaşlama yalnızca en az temkinli aktörlerin teknolojik olarak yetişmesine izin verirse, herkesi daha güvensiz bırakabilir. Küresel bir koordinasyon mekanizması olmadan şirketler ve hükümetler güvenlik konusunda rekabetçi ve jeopolitik baskılar altında zor kararlar almak zorunda kalacak.” — Anthropic, Mayıs 2026
“Hükümetin, üçüncü taraf değerlendirmesi ışığında modelin kabul edilemez riskler taşıdığına karar verilmesi halinde dağıtımını engelleme veya caydırma gücüne sahip olması gerekir.” — Anthropic’in Dario Amodei’si, Haziran 2026
“Uzun zamandır, öncü yapay zeka çabalarını felaket riskini azaltmak için koordine etmeye yardımcı olacak uluslararası bir örgüt olması gerektiğine inanıyoruz. İşbirliği ve paylaşılan güvenlik standartları, özellikle ticari ve ulusal rekabet teşviklerinin kaçınılmaz olduğu durumlarda yolun önemli bir parçasıdır.” — OpenAI, Haziran 2026
“Uluslararası işbirliği veya anlayış olmadıkça… minimum güvenlik standartları gibi konularda… bence bu kesinlikle gerekli. Bu teknoloji sınır ötesi olacak. Herkesi etkileyecek. Tüm insanlığı etkileyecek.” — Google DeepMind’in Demis Hassabis’i, WEF, Ocak 2026
Bu pozisyonlar artık şirket politikalarına yansıyor. Nisan 2025’te OpenAI, Preparedness Framework’ine rakip bir geliştirici yüksek riskli bir sistemi benzer korumalar olmadan yayınlarsa güvenlik gerekliliklerini gevşetebilme hükmü ekledi. Şubat 2026’da Anthropic, Responsible Scaling Policy’sini yeniden yapılandırarak model bir tehlike eşiğini aşınca eğitim veya dağıtımı duraklatma taahhüdünü bıraktı. Her iki şirket de değişikliği rekabet baskısına bağlıyor ve en katı korumalarını sektör çapında benimsemeye bağlı hale getiriyor. Bu, geliştirici temelli korumaların rekabet altında eridiğinin doğrudan kanıtıdır ve bir yönetişim tabanının kalıcı olması için tüm geliştiriciler için ortak bir seviyede belirlenmesi gerektiğinin göstergesidir.
Siyasi ve ahlaki liderlik. G7 Dijital Teknoloji Bakanlar Bildirgesi (Mayıs 2026) yapay zeka sistemlerinden kaynaklanan riskleri, siber güvenlik açıkları ve kimyasal, biyolojik, radyolojik yeteneklere olası yükseltme dahil olmak üzere tanıdı. Papa XIV. Leo’nun Ansiklopedisi (Mayıs 2026) yapay zeka yönetişimi için ölümcül veya geri döndürülemez kararların yapay zekaya devredilmesine yasaklar içeren bir gerekçe ortaya koydu. Eski dünya liderlerinden oluşan The Elders grubu, hükümetleri ileri düzey yapay zekayı kamu yararına yönetmek için şimdi harekete geçmeye çağırdı. Bu çağrılar ulusal parlamentolara da ulaşıyor.
Tüm bunlar, ileri düzey yapay zeka yönetişiminin tek bir yargı alanına veya sektörün kendi kendini düzenlemesine bırakılamayacağına dair sektörler arası olağanüstü bir uzlaşıya işaret ediyor. Ortak bir teşhisin yanı sıra örtük bir reçete paylaşıyorlar: En tehlikeli sonuçlar üzerinde uluslararası anlaşmayla belirlenen sınırlar.
3. Çözüm: İleri düzey yapay zeka kırmızı çizgileri konusunda uluslararası koordinasyon için bir gerekçe
Yapay zeka kırmızı çizgisi, kategorik bir yasaktır: Hiçbir yapay zeka sisteminin sergileyemeyeceği ve hiçbir geliştiricinin peşinden koşamayacağı bir davranış, yetenek veya kullanım; iddia edilen faydalar ne olursa olsun. Kırmızı çizgiler, kabul edilemez sonuçların dar bir tabanını tanımlar. Ülkelerin koordinasyon kurabileceği uygulanabilir giriş noktası olmalarını sağlayan da budur.
Yapay zeka kırmızı çizgileri iki geniş form alabilir:
- Kullanım temelli kırmızı çizgiler sosyal puanlama ve kamusal alanlarda gerçek zamanlı biyometrik tanımlama gibi belirli uygulamaları yasaklar. Kullanıcılara yapay zeka ile ne yapamayacaklarını söyler.
- Davranışsal kırmızı çizgiler özerk kendini kopyalama, kapatma protokollerini aşındırma ve izlemeyi aşındırmak için diğer sistemlerle komplo kurma gibi yapay zeka sistemlerinin belirli davranış türlerini yasaklar. Sistemlerin tasarımına kısıtlamalar getirir.
Kullanım temelli kırmızı çizgiler önemli ölçüde ilerledi ve şimdi uygulanmalıdır. AB Yapay Zeka Yasası, aldatıcı teknikler dahil kabul edilemez kullanımları yasaklıyor. Avrupa Konseyi Yapay Zeka Çerçeve Sözleşmesi, insan hakları, demokrasi ve hukukun üstünlüğüyle bağdaşmayan kullanımları yasaklamaya izin veriyor. UNESCO Yapay Zeka Etiği Tavsiyesi sosyal puanlama ve kitlesel gözetimi yasaklıyor.
Davranışsal kırmızı çizgiler ise boşluğun olduğu yerdir. Mevcut çerçeveler bu risklere ilke ve süreç üzerinden ulaşıyor, yasaklama üzerinden değil. OECD çerçevesi sistemlerin geçersiz kılınabilir, onarılabilir ve devre dışı bırakılabilir olmasını gerektiriyor. Ancak hiçbiri hangi davranış veya yeteneklerin kesinlikle yasak olduğunu net olarak belirtmiyor.
Davranışsal kırmızı çizgilerin gerektiği yerler:
Çalışma Grubu, bir yapay zeka davranışının güvenlik, insan hakları ve küresel istikrara ciddi zarar verebileceği dört alan belirledi:
- Kontrol kaybı ve yetenek artışı. Gözetimi aşındıran, kapanmaya direnen, kendini kopyalayan veya özerk şekilde hesaplama, kaynak veya iyileştirilmiş yetenek edinen sistemler.
- Kimyasal, biyolojik, radyolojik ve nükleer (CBRN) tehditler. Devlete ait olmayan aktörler tarafından kimyasal, biyolojik, radyolojik veya nükleer silah geliştirilmesine anlamlı katkı sağlayan sistemler.
- Siber saldırı yetenekleri. Kritik sistemlere karşı sofistike saldırıları özerk şekilde yürütebilen veya önemli ölçüde hızlandırabilen sistemler.
- Büyük ölçekli manipülasyon. Nüfusları ölçekte aldatan veya manipüle eden sistemler.
Bu dört alan, ciddiyet ve siyasi uygulanabilirlik kriterlerine göre seçildi. Her biri, AB Yapay Zeka Yasası GPAI Uygulama Kodu’nda sistemik riskler arasında yer alıyor ve diğer uluslararası deklarasyonlarda da tekrarlanıyor.
4. Küresel liderlere ve politika yapıcılara tavsiyeler
- 2026’da uluslararası forumlardaki müdahalelerinizde kırmızı çizgileri ön plana çıkarın.
- Davranışsal kırmızı çizgiler konusunda özel bir uzman sürecinin kurulmasını destekleyin. Çok paydaşlı bir çalışma grubu oluşturarak doğrulanabilir, izlenebilir ve uygulanabilir somut kırmızı çizgi tanımlarının geliştirilmesine destek verin.
- Yapay zeka kırmızı çizgilerini ilerletmek için koalisyonlar kurun.
- Yerel ve sınır ötesi doğrulama kapasitesi oluşturun. Doğrulama, kırmızı çizgilerin pratikte bağlayıcı olmasını sağlayan unsurdur.
Doğrulama, geliştirme döngüsünün farklı aşamalarında yapılmalıdır. Çoğu risk için dağıtım öncesi yapılabilir. Kontrol kaybı riski için ise geliştirme öncesinde, tasarım ve eğitim planı üzerinden değerlendirilmelidir.
Bu süreç, yapay zeka güvenliği ve doğrulama mühendisliği alanına yetenek ve yatırım çekecektir. Hükümetler şimdi bağımsız değerlendirme kapasitesi oluşturarak ve henüz mevcut olmayan yöntemlere araştırma fonu sağlayarak harekete geçebilir.
Daha fazla kaynak IASEAI kütüphanesinde yapay zeka kırmızı çizgileri ve doğrulanabilir kılma konusunda ek kaynaklar mevcuttur.
Yazarlar Bu özet, IASEAI İleri Düzey Yapay Zeka Kırmızı Çizgileri Çalışma Grubu tarafından hazırlanmıştır.
İletişim Julia Irwin (jairwin@iaseai.org) Niki Iliadis (niki.iliadis@thefuturesociety.org)