Merve Hickok tarafından | China Daily | Güncellendi: 20 Temmuz 2026
JIN DING/CHINA DAILY
Yapay zekâ teknolojisi, birçok tüketicinin veya hatta küçük şirketin, yeni yeteneklerinin yarattığı riskleri tam olarak anlayabileceğinden daha hızlı gelişiyor. Ajan tabanlı yapay zekâ ise bu evrimin önemli bir kilometre taşıdır.
Kullanıcı sorgularına yanıt veren, belge taslakları hazırlayan veya bilgileri sentezleyen üretken yapay zekanın aksine, ajansal yapay zeka insanlar adına harekete geçebilir.
Kullanıcılar yapay zekâ ajanına hedefi açıkça belirtir ve sistem bunu daha küçük adımlara böler, web siteleriyle etkileşime girer, formları doldurur, rezervasyon yapar, ürün satın alır, harici araçlar kullanır ve hatta hedefe ulaşmak için diğer ajanlarla koordinasyon sağlar.
Bir kişinin veya bir şirketin farklı görevleri tamamlamak için yüzlerce uzmanlaşmış ajanı görevlendirdiği bir geleceği hayal edin.
Ancak, tıpkı sohbet botları gibi, yapay zeka ajanları da üretken yapay zekanın sınırlamalarından muzdariptir. Bunlar deterministik olmayan sistemlerdir ve yanılgıya düşebilirler. Aynı soru farklı zamanlarda farklı cevaplar üretebilir. Ayrıca düşmanca saldırılara karşı da savunmasızdırlar.
Daha büyük risk, ajansal yapay zekanın yalnızca bilgi üretmekle kalmayıp, istenmeyen eylemlerde de bulunabilmesidir. Bir ajanın hatası, sonraki ajanların eylemleriyle daha büyük bir soruna dönüşebilir.
Yapay zekâ ajanları sistemler, ürünler ve sınırlar arasında faaliyet gösterdiğinden, siber alana ve dijital ticarete kesinlikle daha fazla karmaşıklık katacaklardır. Yakında, alışveriş ajanınız bir satıcının fiyatlandırma ajanıyla uçak bileti fiyatı konusunda pazarlık yapabilir veya bir ev finans ajanı bir elektrik şirketinin sohbet robotuyla fatura konusunda anlaşmazlık yaşayabilir. Çoklu ajan sistemlerinin artan karmaşıklığıyla birlikte, tüketicileri korumak için güçlü güvenlik önlemlerine ihtiyaç duyulmaktadır.
Asıl soru şu: Yapay zekâ ajanları insanlar adına karar verebiliyorsa, sınırı nerede çizmeliyiz? Ajanların her zaman onları kullanan tüketicilerin çıkarları doğrultusunda hareket etmelerini ve manipülasyona karşı direnç göstermelerini nasıl sağlayabiliriz? Bunlar artık varsayımsal sorular değil.
Öncelik güvenliktir. Geleneksel bir sohbet robotu kötü tavsiye verdiğinde, zarar yalnızca zaman kaybıyla sınırlıdır.
Ancak harekete geçebilen acenteler, kötü kararları makine hızıyla gerçek dünyada sonuçlara dönüştürebilirler: yanlış seyahat rezervasyonu yapmak, para transferi yapmak, istenmeyen aboneliklere kaydolmak, diğer acentelerle pazarlık yapmak veya pahalı ürünler satın almak gibi.
Sözleşme maddesini yanlış yorumlayan bir aracı, daha ikna edici bir muhatap tarafından olumsuz bir anlaşmayı kabul etmeye zorlanabilir.
Bu bağlamda güvenlik, gereksiz cevaplardan kaçınmaktan daha fazlasını ifade eder. Güvenlik, yetkinin net sınırlarının belirlenmesi anlamına gelir.
Tüketicilerin ayarlanabilir sınırlar içinde çalışan aracılara ihtiyacı vardır: satın alımlarda parasal sınırlar, her zaman açık insan onayı gerektiren karar kategorileri ve geri döndürülemez eylemleri önleyecek güvenceler. Bir aracı, makul bir kişinin yeni bir çalışanın onayı olmadan yapmasına izin vermeyeceği bir şeyi asla yapamamalıdır.
Bu nedenle, farklı ürünler ve platformlarda çalışabilen güvenli kimlik yönetimi protokollerine ve yetkilendirme mekanizmalarına ihtiyacımız var.
Güvenilirlik ikinci temel unsurdur ve göründüğünden daha karmaşıktır. Güvenilirlik sadece çalışma süresi veya doğrulukla ilgili değildir. Bir ajanın kullanıcının amacını sürekli olarak anlaması ve takip etmesi anlamına gelir.
Kullanıcının niyetini yanlış yorumlayan veya yanlış anlaması için manipüle edilebilen bir aracı, verimsizdir. Çoklu aracılı ticaret, aracıların sürekli olarak diğer aracılarla iletişim kurduğu bir ortam yaratır; bu aracılardan bazıları, tüketiciden daha fazla veri, para veya dikkat elde etme konusunda açık bir çıkarı olan şirketler tarafından tasarlanmış olabilir.
Bir perakendecinin satış temsilcisi, ek satış yapmaya odaklanmış olabilir; bir rezervasyon temsilcisi ise kullanıcıları daha yüksek komisyon ödeyen seçeneklere yönlendirmek üzere tasarlanmış olabilir. Tüketicileri korumak için izlenebilirlik ve şeffaflığa ihtiyacımız var.
Kullanıcılar, temsilcilerinin hangi adımları attığını ve nedenini anlayabilmelidir. Farklı tedarikçilerden gelen temsilciler arasında şeffaflık olmalı ki, aralarında gizli anlaşma olmasın.
Yetkili temsilciler düzgün çalışsa bile, ajan tabanlı yapay zekâ, eylemlerini manipüle etmek için kötü niyetli saldırılara karşı savunmasızdır. Bir tüketicinin temsilcisi güvenli ve bu taktiklere karşı dayanıklı olacak şekilde yapılandırılmamışsa, “zaman kazanmak için kararları devretme”nin tüm önermesi “sessizce istismar edilmek üzere kararları devretme”ye dönüşür. Saldırganlar tüketicilerin özel bilgilerini ele geçirebilir, onları kötü amaçlı web sitelerine yönlendirebilir veya temsilcileri zararlı seçimler yapmaya yönlendirebilir.
Bu nedenle güvenilirlik, denetlenebilir ve sağlam ajanlar gerektirir. Bankaların sistemlerini düzenli olarak dolandırıcılığa karşı test etmeleri gibi, yapay zeka ajanları da diğer ticari ajanlardan veya kötü niyetli aktörlerden karşılaşabilecekleri ikna ve manipülasyon tekniklerine karşı stres testinden geçirilmelidir.
Son olarak, sorumluluk sorunu var. Bir aracı zarar verdiğinde kimin sorumlu olduğuna dair net kurallara ihtiyacımız var: altta yatan modeli geliştiren şirket mi, aracı kullanan kullanıcı mı, satıcıları birbirine bağlayan protokollerin geliştiricileri mi, yoksa manipülatif aracıları barındıran web siteleri mi?
Buradaki belirsizlik, çıkarları zarar gören tüketiciye fayda sağlamaz. Mantıklı bir çerçeve, öncelikle aracısının eylemlerinden sorumlu olan tarafı belirlerken, model ve platform sağlayıcılarının da temel güvenlik ve şeffaflık standartlarını karşılamasını gerektirir.
Bunların hiçbiri, ajan tabanlı yapay zekayı yasaklamak veya onu doğası gereği güvenilmez olarak değerlendirmek anlamına gelmiyor. Ajanlar aslında zaman ve para açısından önemli tasarruflar sağlayabilir. Girişimciler için giriş engellerini veya maliyetleri düşürebilirler.
Ancak teknolojinin faydası tamamen güvene bağlıdır ve güven, zarar meydana gelmeden önce var olan kurallara bağlıdır, zarar meydana geldikten sonra değil.
Net sınırlar ve sorumluluk zincirleri oluşturmamız gerekiyor. Bu kadar güçlü bir araç, yapabilecekleri veya sağlayabilecekleriyle orantılı güvenlik önlemlerine ihtiyaç duyar.
Yazar, AIethicist.org’un kurucusu, Yapay Zeka ve Dijital Politika Merkezi’nin başkanı ve 2023 Kuzey Amerika Yapay Zeka Kadın Ödülleri’nin sahibidir.
lhttps://www.chinadaily.com.cn/a/202607/20/WS6a5d836da310986e2b466230.html