Derleyen: M. Nilgün Ercan
Science Dergisi’nde Ekim 2026’ da yayımlanan bir yazı, YZ ile ilgili güvenlik konusunun, insan unsuru dikkate alınmaksızın sadece YZ tarafı ile sınırlı tutulmasının yeterli olmadığına işaret ediyor. ABD/ New York’ ta bulunan, kar amacı gütmeyen bir inovasyon merkezi olan Human Computation Institute kuruluşunda yönetici olan Pietro Michelucci, başlığı “Yapay zeka tartışması sistemin yarısını eksik bırakıyor” olarak çevrilebilecek yazısında Eylül ayında YZ şirketlerinin önde gelen yöneticilerinin, hızla gelişen teknoloji üzerinde insan kontrolünün kaybedilmesinin riskleri hakkında Birleşmiş Milletler Güvenlik Konseyi’ ne başvurduklarını hatırlatıyor. Şirket yetkililerinin yaptıkları tavsiyelerin ağırlıkla YZ modelleri ve sistemlerinde alınacak önlemler, değerlendirme ve yönetişim üzerine olduğunu, ancak bu bakış açısının YZ’ nin insanlar ve kurumlarla olan etkileşimini büyük ölçüde gözden kaçırdığını belirtiyor. Bu noktadan hareketle, YZ güvenliği konusunun sadece YZ modeli ile sınırlı tutulmaması, insan-YZ sistemi bütünlüğü içinde ele alınması gerektiği üzerinde duruyor (1).
YZ ile gelen risklerin önemli olduğu biliniyor. Michelucci, YZ ve insan arasındaki etkileşim ile ortaya çıkan davranış ve yetenekler sonucunda insan unsurunun zaten sistemin içinde olduğuna dikkat çekiyor. YZ, insanların hangi tıbbi tedavileri izlediği, şirketlerin yatırımlarını nereye yönlendirdiği, kentlerin altyapısının nasıl en iyi hale getirileceği ve ülkelerin ulusal güvenliğine nasıl yaklaşılacağı gibi birçok alanı etkiliyor. İnsanlar artık kendi başına düşünmüyor; sürekli olarak YZ ile geri besleme yaparak kararlar alıyor; yani sisteme dışsal bir unsur niteliğinde değiller. Toplum YZ sistemlerine daha bağımlı hale geldikçe, uygulanabilir ve sürdürülebilir bir güvenlik özelliği için bir durdurma anahtarı yeterli olmayacak. Esas ihtiyaç bütünlüklü olarak insan-YZ sisteminin güvenliğini sağlamak. İnsan veya makine olsun, tek bir bileşen ile güvenilirliğin mükemmel şekilde sağlanması beklenemez. Bir başka deyişle, bileşenleri güvenilmez hale gelse bile sistem güvenli halde kalmalı. Sorun, bu kompleks sisteme kendisini düzeltme ve dirençli olma özelliği nasıl kazandırılacak meselesi.
Konu üstesinden gelinemez gibi görünse de bazı girişimler var. Güvenilir olamayan bileşenlerden güvenilir sistemler oluşturmak amacıyla, insan unsurunun da dahil edildiği bilgisayar sistemleri alanında yöntemler geliştirmek üzere uğraşılar sürüyor. Geri besleme döngüsünde insana dayanan YZ sistemleri üzerinde çalışılıyor. Örneğin, bunlardan biri temel bir sosyal ilke olarak kabul edilen “Güven yavaşça oluşur ama hızlıca yıkılır” ilkesine dayanan “güven skoru” yaklaşımı. Bu yaklaşımda insan-YZ sisteminin dayanıklılığı kullanıcının sistemle etkileşimi dikkate alınarak ölçülüyor. Ölçüm için, sisteme girilen ve cevabı henüz bilinmeyen asıl işlerin arasına sistemin doğru cevabını önceden bildiği kontrol soruları rastgele karıştırılıyor. Eğer bir kişi bir test sorusunu yanlış cevaplıyorsa veya hile yapmaya teşebbüs ediyorsa güven skoru düşüyor. Eğer skor belirli bir eşik değerin altına düşüyorsa bu kişi çalışmaya devam edebiliyor ancak cevapları artık sistem çıktısına etki etmiyor. Kişi doğru cevapları vermeye başlarsa yavaş yavaş yeniden güven kazanabiliyor. Dinamik bir gözlemleme yoluyla, performansındaki dalgalanmalara bağlı olarak etkisi değişebilmekle birlikte bir katılımcının katkısı değerli olabilir. Yazara göre esas mesele ve ihtiyaç, güven, etki ve yetki dağılımının sabitlenmesi değil, yeni kanıtlar/veriler ortaya çıktıkça bunların ayarlanabilmesidir. Formun Üstü
Yazıda, 2026’ nın Temmuz ayında OpenAI şirketinde siber güvenlik değerlendirmesi amacıyla çalıştırılan YZ ajanlarının bilgi almak üzere test ortamını aşarak Hugging Face açık kaynak platformuna siber saldırı yapmasına da değiniliyor. Dinamik bir değerlendirme yaklaşımı bir YZ sisteminin verilen bir görev sırasında zararlı faaliyetler yapmaya başlayıp başlamadığını gözlemleyebilir ve sistemin veri veya araçlara erişim ya da otonom olarak hareket etme yeteneğini hızla azaltabilirdi. Bu yetenekler ancak davranışın güvenilir olmasına yönelik sürekli kanıtlar elde edildikten sonra tekrar kazandırılabilirdi.
Söz konusu prensip daha geniş insan-YZ sistemleri için uygulanabilir. İnsan-YZ sisteminin verilen bir görevi yerine getirdiği sıradaki performansının ne kadar iyi olabileceğini göstermesi açısından, koşullar değiştiğinde, örneğin veriye erişim gibi çeşitli parametreleri ayarlayabilmek için güvenilir kanıtlar kullanılabilir. Bu durum güven, etki ve otonominin insan-YZ sisteminde nasıl dağıtılırsa YZ güvenle kullanılabilir meselesine ilişkin söylemleri değiştirecektir. Birçok YZ ve sosyal bilim alanında çalışan bilim insanları güvenilir ve dayanuklı insan-YZ sistemleri geliştirme konusunda çalışma yapmaktadır. Örneğin, Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), YZ’ nin Risk ve Etkilerini Değerlendirme (ARIA) Programını modelden öteye taşımakta, YZ değerlendirme konusunu gerçek durumlarda modelin insan kullanıcılar ile olan etkileşimini dahil edecek şekilde genişletmektedir. Program yetkililerinin belirttiklerine göre, YZ kullanımı arttıkça ARIA programı gerçek dünya ihtiyaçlarını karşılamak üzere tasarlanmaktadır. YZ’ nin toplum üzerindeki etkilerini tam olarak anlayabilmek için YZ’ nin gerçekçi senaryolarda nasıl işlev gördüğünü test etmek gerekmektedir (2).
Bununla birlikte, sistemin performansını ölçmek için gösterge üretmek de güvenlik konusunda bir başka sorun oluşturmaktadır. Performansın her zaman bilinen çıktılara veya dış değerlendirme kararlarına göre test edilmesi yeterli olmuyor. Performansın izlenmesinin doğrudan kendisi de insan katılımcılar arasında mahremiyet ihlali, onay verme ve yetkilendirme gibi konularda riskler yaratabilir. Bundan dolayı sürdürülebilir bir yaklaşım sadece güven ve etkinin nasıl ayarlandığı ile sınırlı olmamalıdır. Aynı zamanda, hangi kanıtı kullanarak değişiklikleri geçerli sayıyoruz; onları kim gözlemliyor veya kim faaliyete geçme yetkisine sahip gibi hususların da önemli olduğu belirtiliyor. Bir YZ modelini başlangıçta bir kez testten geçtikten sonra bir daha kontrol edilmeyen bir cihaz gibi düşünmek yerine, düzenleyicilerin gerçek dünyada insan kullanıcılar ile birlikte modelin performansını dikkate almalarına gereksinim var. Ayrıca, modelin performansı sürekli gözlem altında olmalı ve zaman içinde belirtilen güvenilirliği baz alınarak ayarlama yapılmalı. Bu, durağan bir güvenlik anlayışı yerine, güvenlik protokollerinin dinamik bir değerlendirmeye tabi tutulmasını ve sadece YZ modellerini değil, insan-YZ sistemini birlikte ele alacak şekilde değiştirilmesini gerektiriyor.
Kaynaklar:
1- Pietro Michelucci, Science, 22 Ekim 2026, The AI debate is missing half the system | Science
2- NIST, 28 Mayıs 2024 (8 Nisan 2026’ da güncellendi), NIST Launches ARIA, a New Program to Advance Sociotechnical Testing and Evaluation for AI | NIST
Görsel: Can Artificial Intelligence Make Us Safer? – DLabs.AI