Yasaman Yousefi, Marco Billi, Antonino Rotolo* Alma YZ, Bologna Üniversitesi Hukuk Fakültesi, İtalya
Özet
Yapay zekânın hızlı gelişimi, sürekli insan müdahalesine ihtiyaç duymadan karmaşık akıl yürütme, hedef parçalama ve proaktif eylem gerçekleştirebilen otonom varlıklar olan YZ Ajanları sistemlerinde zirveye ulaşmıştır. Dinamik bellek, koordinasyon yetenekleri gibi özelliklerle karakterize edilen bu işlevsel özerklik; LLM /(Büyük Dil Modelleri) teknolojisindeki son iyileştirmeler sayesinde mümkün olmuş ve AB YZ Yasası’nın geleneksel risk ve uyum paradigmasını zorlayan sistemik riskler ortaya çıkarmıştır.
Bu makale, ajanlık sistemlerinin temel teknik özelliğinin bir risk yükselticisi olarak işlev gördüğünü ve AB YZ Yasası’nın statik, “belirlenmiş amaç” temelli sınıflandırma çerçevesinin sınırlarını temelden zorladığını savunmaktadır. Çok ajanlı sistemlerin karmaşıklığı ve ortaya çıkan öngörülemeyen tırmanma şekilleri, düzenlemede mutlaka değişiklik gerekmese de, teknik uygulanışında yeniden değerlendirme gerektirebilir.
Makalede sorun analiz edilmekte; risk değerlendirmesinde statik hata kontrollerinden dinamik risk yayılımı modellemeye geçiş gerektiği vurgulanmakta ve AB YZ Yasası Madde 14’te düzenlenen Etkili İnsan Gözetiminin uygulanmasında büyük bir yönetim boşluğu olduğu belirtilmektedir. Özellikle, gözetimin geriye dönük log tutmadan, ajanın durdurulabilmesi, yönlendirilebilmesi veya tamamen kapatılabilmesi gibi açık, teknik müdahale mekanizmalarının zorunlu kılınacağı gerçek zamanlı bir yapıya evrilmesi gerektiği savunulmaktadır. Ayrıca, Genel Amaçlı Yapay Zeka (GPYZ) modelleri üzerine kurulu sistemlerde ajanlık karmaşıklığın uyum yükümlülüklerini nasıl büyüttüğü incelenmektedir.
Makale, doğrusal olmayan riskler göz önüne alındığında, ajanlık kavramının teknik standartlarla net bir şekilde tanımlanması ve statik risk düzenlemesi ile dinamik YZ teknolojisi arasındaki boşluğun kapatılması için acil düzenleyici netliğe ihtiyaç olduğu sonucuna varmaktadır.
1. Giriş: “Ajanlık” Tanımı ve Özerklikle İlişkisi
YZ ajanları kavramı onlarca yıldır mevcut olsa da (Castelfranchi, 1998), güncel yorumu büyük dil modellerindeki (LLM) ilerlemelerle değişmiştir. Günümüz sistemleri, LLM’leri dış araç kullanımı, fonksiyon çağırma ve ardışık akıl yürütme yetenekleriyle birleştirerek gerçek zamanlı bilgi alabiliyor ve çok adımlı iş akışlarını otonom olarak yürütebiliyor. AutoGPT bunun ilk örneklerinden biridir; üretken modelleri tekrarlayan geri bildirim döngüleri içinde gömerek hedef parçalama, planlama ve uyarlanabilir yürütme sağlar (Ferrag et al., 2025).
YZ Ajanları, tek başına çalışan geleneksel YZ ajanlarından farklı olarak çok ajanlı işbirliği, dağıtık koordinasyon ve dinamik görev dağılımı içeren sistemlerdir (Sapkota et al., 2025). CrewYZ, Google’ın A2A (Agent-to-Agent) protokolü gibi çerçeveler, birbirleriyle sürekli iletişim kurabilen ajan ekosistemlerine doğru gidildiğini göstermektedir.
YZ Ajanları; reaktif asistanlardan proaktif, hedef odaklı zekâya geçişi temsil eder. Russell & Norvig’in (1995) klasik tanımına göre bir ajan, çevresini algılayıp ona göre hareket eden varlıktır. Ancak modern YZ Ajanları, kendi kendine hedef parçalama, kalıcı bellek ve dinamik araç kullanımıyla niteliksel olarak daha yüksek bir özerklik seviyesine ulaşmıştır.
AB YZ Yasası Resital 12, YZ sistemlerinin “farklı özerklik seviyelerinde” çalışabileceğini belirtir ve “uyarlanabilirlik” (adaptiveness) kavramını yalnızca parametre ayarlaması (ağırlık güncelleme) olarak dar yorumlamaktadır. Makale, uyarlanabilirliğin çok daha geniş yorumlanması gerektiğini, görev parçalama, planlama ve bellek yapılarının değişimini de kapsaması gerektiğini savunur.
YZ Ajanları’nin temel teknik özellikleri
- Proaktivite ve hedef parçalama: İnsan yalnızca üst düzey hedef verir (“ucuz uçak bileti bul”), sistem kendi akıl yürütme zincirini kurar, alternatifleri değerlendirir ve eyleme geçer.
- Kalıcı bellek ve öğrenme: Vektör veritabanları ile geçmiş etkileşimlerden öğrenir, deneyim biriktirir.
- Dinamik araç entegrasyonu ve yürütme: İnternet, API’ler ve dış sistemlere kendi başına erişip karmaşık iş akışlarını çalıştırabilir.
Bu özellikler, sistemin “ikincil kullanımlar” için yeniden tasarlanabilmesine yol açar ve riski sağlayıcının beyan ettiği niyetten bağımsız kılar.
2. İşlevsel Bir Ajanlık Sistem Taksonomisi
- Tek ajanlı ↔ Çok ajanlı sistemler
- Tek amaçlı ↔ Genel amaçlı kullanım
En yüksek risk: Genel amaçlı GPYZ modelleri üzerine kurulu çok ajanlı sistemler
3. “Risk Jump” (Risk Atlama) Kavramı ve GPYZ Risk Yükseltmesi
Makale, 10²⁵ FLOPS eşiğinin altında kalan “sistemik olmayan” GPYZ modellerinin bile ajanlık şekilde konuşlandırıldığında sistemik risk seviyesine ulaşabileceğini ve bu durumda otomatik olarak yüksek risk yükümlülüklerinin devreye girmesi gerektiğini savunuyor. Buna Risk Jump deniyor.
Ayrıca, ajanlık özelliklerin (otonom hedef parçalama + kalıcı bellek + dış araç yürütme) ölçülebilir eşiklerinin aşılması halinde, Annex III’te yer almayan bir alanda bile sistemin otomatik olarak yüksek risk sınıfına alınması gerektiği belirtiliyor.
4. İnsan Gözetimi (Madde 14 YZ Yasası) Yeniden Düşünülmeli
Güncel “log tutma + geriye dönük inceleme” modeli yetersiz. Ajanlık sistemlerde gereken:
- Gerçek zamanlı, garantili teknik müdahale mekanizmaları
- İnsan-onaylı kritik adımlar (ör. “rezervasyon yapabilir ama satın alamaz”)
- AURA gibi risk puanlama sistemleriyle dinamik insan döngüsü .
5. Sonuç
YZ Ajanları, riski beyan edilen niyetten ayırıp işlevsel kapasiteye bağlamaktadır. AB YZ Yasası vizyonerdir ancak statik sınıflandırmalara dayanır ve proaktif, hedef parçalayan, kendi kendine evrilen sistemler için yetersiz kalmaktadır. Makale, ajanlıkliğin açık teknik standartlarla tanımlanması, dinamik gözetim ve müdahale mekanizmalarının zorunlu kılınması gerektiğini, aksi takdirde mevcut Yasanın bu yeni nesil sistemleri düzenleyemeyeceğini güçlü bir şekilde savunmaktadır.
Komisyon’un şimdiki görüşüne göre çok sofistike YZ ajanları bile bazen “düzenlenen YZ sistemi” kapsamına girmeyebilir. Bu nedenle acilen yeni teknik standartlar ve tanımlara ihtiyaç vardır.
Kısaca: YZ Ajanları, AB YZ Yasası’nın mevcut statik çerçevesini zorlamakta ve özellikle insan gözetimi, risk sınıflandırması ve teknik müdahale zorunlulukları konusunda ciddi bir paradigma değişimi gerektirmektedir.