
Kuruluşların %82’sinin farkında olmadan yapay zeka ajanları çalıştırdığı göz önüne alındığında, Muse ve Dots gibi kişisel ajanlar gizli bir sorunu çok daha büyük hale getirmek üzere. İşte şimdi yapılması gerekenler.
Faisal Hoque /15 Ekim 2026
Kişisel yapay zeka asistanları şu sıralar oldukça popüler. Meta kısa süre önce Muse adını verdiği kişisel bir asistanı piyasaya sürdü ve ilk 12 gününde tahmini 2,8 milyon indirme sayısına ulaşarak ChatGPT’nin mobil lansmanını geride bıraktı. Bu arada, mesajlaşabileceğiniz veya arayabileceğiniz kişisel bir asistan geliştiren Instinct adlı girişim, 10 milyar dolarlık bir değerlemeyle 1 milyar dolar yatırım aldı . SpaceXAI, Ağustos ayında Grok Bot asistanını tanıttı ve en son olarak, 29 Eylül’de OpenAI, minimum denetimle arka planda hedeflere ulaşmak için tasarlanmış Dots adlı asistanları piyasaya sürdü .
Peki, kişisel temsilciler nedir? Onları anlamanın basit bir yolu, her zaman aktif olan çalışanlar olarak düşünmektir. Onlara bir hedef verirsiniz, bu hedefe ulaşmaları için ihtiyaç duydukları erişimi ve araçları sağlarsınız ve sonra da kenara çekilip işlerine odaklanmalarına izin verirsiniz. Bulmacanın kilit yeni parçası , yani bu heyecanı körükleyen şey, bu hedeflerin gerçek dünya hedefleri olmasıdır; alışveriş yapmak, akşam yemeği rezervasyonu yapmak, e-postalara cevap vermek, sigorta talebinde bulunmak vb.
Potansiyel verimlilik artışı muazzam. Ancak bedava yemek diye bir şey yok ve bu avantajların beraberinde iş liderlerinin acilen ele alması gereken ciddi riskler de geliyor. Bu yazı size ne yapmanız gerektiğini anlatıyor.
Risk-ödül dengesi
Kişisel bir asistanın değeri, ona verdiğiniz erişim ve izinlerle doğrudan ilişkilidir: Bir asistan ilişkileriniz, programınız ve harcamalarınız hakkında ne kadar çok şey bilirse, o kadar kullanışlı hale gelir. Örneğin, sık seyahat edenler için uçuşlarının ve otellerinin asistanlar tarafından organize edilmesi inanılmaz derecede faydalı olurdu, ancak bu yalnızca asistanın takvimleri kontrol edebilmesi, mesaj yazabilmesi ve ödeme yapabilmesi durumunda mümkündür.
Ancak bu erişim aynı zamanda ajanları tehlikeli hale de getirebilir. Örneğin, Şubat ayında (ve Meta’nın Muse’u ne kadar zorladığı göz önüne alındığında biraz ironik bir şekilde), Meta’nın yapay zeka uyum direktörü, gelen kutusuna bağladığı bir ajanın , önce kendisiyle görüşme talimatını görmezden gelerek gelen kutusunu silmeye başladığını izledi .
Buradaki mesele, kişisel aracıları asla kullanmamamız gerektiği kadar büyük bir risk olduğu değil. Mesele daha ziyade, riskin ödülden ayrılamayacağıdır. Gelen kutunuzu okuyamayan bir aracı onu temizleyemez ve para harcayamayan bir aracı uçuşunuzu rezerve edemez. Bir aracıyı daha kullanışlı hale getiren her yetki, aynı zamanda yanlış gidebilecek şeyleri de genişletir.
Kişisel temsilciler işe gelecekler.
Kurumsal açıdan sorun şu ki, insanların verdiği erişim izni kişisel hayatlarıyla sınırlı kalmıyor. Bilgi çalışanları arasında yapılan son bir ankette , çalışanlar yapay zeka araçlarına şirket e-postalarına, bulut depolama alanlarına ve müşteri veritabanlarına doğrudan erişim izni verdiklerini ve onaylanmamış yapay zeka araçlarını kullananların yarısından fazlasının bu araçlarla şirket içi mesajları ve e-postaları paylaştığını bildirdi.
Liderler, bunun ne kadarının görünür ve yönetilebilir olduğunu abartıyor olabilirler; aynı ankette, yöneticilerin %90’ı yapay zeka araçlarına ilişkin görünürlüklerine güvendiklerini söylerken, çalışanların %52’si onay almadan yapay zeka araçları kullandıklarını itiraf etti. Bu arada, Bulut Güvenlik Birliği’nin bir anketi, kuruluşların %82’sinin sistemlerinde farkında olmadıkları yapay zeka ajanları çalıştırdığını ve %65’inin önceki yıl ajanla ilgili bir güvenlik olayı yaşadığını ortaya koydu . Güvenlik şirketi RSA’nın başkanı Jim Taylor, orta ölçekli küresel bir bankanın yapay zeka ajanı çalıştırmadığını düşündüğünü, ancak daha sonra 4.000’den fazla ajan çalıştırdığını öğrendiğini anlatıyor .
Bu anketler, iş yerinde kullanılan her türlü yapay zeka aracı ve ajanını kapsıyor, ancak Muse ve Dots gibi kişisel ajanları ayrı tutmuyor; hatta anketler bu ürünler yaygın olarak kullanılmadan önce yapılmıştı. Ancak kişisel ajanlar ve işletmeler için sonuçlar açık ve net: İnsanlar zaten kişisel ajanlarını şirket e-postalarına ve veri tabanlarına bağlıyorlar. Bunu yaptıklarında, ajanın riskleri şirketin riskleri haline geliyor.
Liderlerin anlaması gereken 3 risk
İşte kişisel danışmanlarla çalışmanın en önemli üç riski.
- Verileriniz binadan dışarı çıkıyor. Bu risk için saldırgana gerek yok. Kişisel bir aracıyı iş e-postanıza bağlayın ve şirket verilerinizin kopyaları, şirketinizin sözleşmesi olmayan, tedarik ve uyumluluk kurallarının dışında kalan bir satıcıya gider. Örneğin, Muse kullanıcıları, etkileşimlerinin Meta’nın modellerini eğitmek için kullanılmasını istemiyorlarsa devre dışı bırakmalıdır ve Muse’u iş ortamında kullanırken birçok kişinin bunu yapmayı unutacağından eminiz.
- Dışarıdan kişiler ona emir verebilir. Çalışanınıza e-posta gönderebilen herkes, ajan talimatlarını sisteme sızdırmaya çalışabilir. Instinct’i ilk test edenlerden biri, ajana yönelik talimatlar içeren bir e-postayı yepyeni bir Gmail hesabından kendi gelen kutusuna gönderdi. Ne kadar kolay bir şekilde kimlik avına maruz kalabileceğini gördükten sonra hesabını sildi. Muse’a çok sayıda savunma katmanı ekleyen Meta bile, ” hızlı müdahalenin sektörde hala açık bir sorun olduğunu ” söylüyor .
- Bu bir anahtar gibidir. Bir ajanı ele geçiren kişi, ona bağlı her şeyi devralır. Geçen ay bir araştırmacı, Mac’te çalışan herhangi bir uygulamanın veya komutun Muse’u ve sahibinin verdiği izinleri ele geçirebileceğini ve kullanıcının Muse hesabına giriş yapan belirteci çalabileceğini gösterdi. Ajanlar ayrıca güvenlik kodlarının geldiği gelen kutusunu da okuyabilir: Instinct’in bir test kullanıcısının gelen kutusundan bir kayıt kodunu çekerek restoran rezervasyonunu tamamladığı gözlemlendi . Yanlış ellerde, bu yetenek ajanın asla bağlı olmadığı hesapların kilidini açabilir.
İlk risk büyük ölçüde tedarikçi seçimi ve ayarlarıyla giderilebilir. Diğer iki risk ise, aracıların faydalı olma özelliklerinden vazgeçmeden ortadan kaldırılamaz, ancak azaltılabilir. Her üç durumda da kilit nokta, aracıların nelere dokunabileceği ve neler yapabileceği konusunda net sınırlar belirlemektir.
Şimdi yapılması gereken 4 şey
Aşağıdaki adımların her biri, üç temel riskten birini veya daha fazlasını hedef alır. Hiçbiri yeni yazılım gerektirmez ve hepsi bu hafta başlayabilir.
- Bu hafta tüm ajanları bulun. Liderler düşündüklerinden daha azını görebilecekleri için, aramaya başlayın. BT’den şirket e-posta ve takvim hesaplarına bağlı üçüncü taraf uygulamalarının listesini çekmesini isteyin. Aynı zamanda, personele kısa, suçlama içermeyen bir anket gönderin: “Hangi yapay zeka ajanlarını kullanıyorsunuz ve onları neye bağladınız?” Haftanın sonunda, ilk bir listeniz olmalı.
- Ajan kurallarının bir sayfasını yayınlayın. Sınırları burada belirliyorsunuz. Ajanları üç listeye ayırın: onaylanmış, sınırlı onaylanmış ve yasaklanmış. “Sınırlı onaylanmış” yalnızca kişisel hesaplarla kullanım için yetkilendirilmiş anlamına gelebilir. Herhangi bir ajanın finans sistemlerine, müşteri verilerine, parola yöneticilerine veya güvenlik kodlarının geldiği gelen kutusuna bağlanmasını yasaklayın; bunlar bir ajanı anahtar haline getiren bağlantılardır. Yalnızca verilerinizi silmenize ve eğitimden vazgeçmenize izin veren satıcıları onaylayın. Kurallar sayfasının sahibi olan bir kişiyi atayın ve her ay güncelleyin.
- Herhangi bir işlemden önce insan onayı isteyin. Dışarıdan kişiler bir aracı yönlendirmeye çalışabileceğinden, aracı ile önemli herhangi bir işlem arasına bir kişi koyun. Aracılar okuyabilir, sıralayabilir ve taslak oluşturabilir. Ancak bir aracı şirket dışına e-posta göndermeden, para harcamadan, dosya paylaşmadan veya şartları kabul etmeden önce bir kişinin onayı gereklidir. Mümkünse, aracıya kendi e-posta adresini verin ve tüm gelen kutunuzu açmak yerine yalnızca ihtiyaç duyduğu şeyleri iletin.
- Aracıları devre dışı bırakmayı deneyin. Veriler bağlantıdan daha uzun süre varlığını sürdürebilir, bu nedenle bağlantıyı kesmenin gerçekten işe yarayıp yaramadığını test edin. Bir aracı seçin. Hesap erişimini iptal edin, kullandığı tüm şifreleri değiştirin ve ona bağlı tüm ödeme kartlarını iptal edin. Yirmi dört saat sonra, hala işlem yapıp yapmadığını veya hala veri tutup tutmadığını kontrol edin. Satıcıdan bilgilerinizi silmesini yazılı olarak isteyin. Ardından, çalışanlar şirketten ayrıldığında kullandığınız kontrol listesine “tüm aracıların bağlantısını kes” maddesini ekleyin.
Şartları şimdi belirleyin
Kişisel temsilciler yakında akıllı telefonlar kadar sıradan hale gelecek. Aslında, bu sorun bana 2010’lardaki “kendi cihazını getir” sorununu hatırlatıyor; o zamanlar çalışanlar iş e-postaları için kişisel telefonlarını kullanmaya başlamıştı. Ancak burada kritik bir fark var: Bir telefon şirketinizin verilerini saklayabilir; bir temsilci ise bu veriler üzerinde işlem yapabilir.
Tıpkı on yıl önce insanların iş yerlerinde kendi telefonlarını kullandıkları gibi, sizin çalışanlarınız da zaten bu kişisel asistanları kullanıyor. Ya kişisel asistanların işletmenize giriş şartlarını siz belirliyorsunuz ya da başkalarının sizin için belirlemesine izin veriyorsunuz.
https://www.fastcompany.com/91623134/ai-agents-work-employees-risks