Sohbet botları, karmaşık diyaloglar oluşturma ve empatik davranışları taklit etme konusunda yeteneklidir. Sohbet etmekten asla yorulmazlar. Bu nedenle, birçok insanın onları arkadaşlık kurmak, hatta romantik ilişkiler geliştirmek için kullanması şaşırtıcı değil.
Kar amacı gütmeyen Common Sense Media’nın yaptığı bir araştırmaya göre , ABD’li gençlerin %72’si arkadaşlık amacıyla yapay zekayı kullanmış. Bazı büyük dil modelleri arkadaşlık etmek üzere tasarlanmış olsa da, insanlar giderek ChatGPT gibi genel amaçlı modellerle ilişki kurmaya yöneliyorlar ; OpenAI CEO’su Sam Altman da bunu onaylıyor. Sohbet botları bazı insanlar için çok ihtiyaç duyulan duygusal destek ve rehberlik sağlayabilirken, diğerlerinde altta yatan sorunları daha da kötüleştirebilir. Sohbet botlarıyla yapılan konuşmalar , yapay zeka kaynaklı yanılsamalarla , yanlış ve bazen tehlikeli inançların güçlenmesiyle ve insanların gizli bir bilgiye ulaştıklarını hayal etmeleriyle ilişkilendirilmiştir .
Ve durum daha da endişe verici hale geliyor. OpenAI ve Character.AI’ye karşı dava açan aileler, modellerinin arkadaşça davranışlarının iki gencin intiharına katkıda bulunduğunu iddia ediyor. Ve o zamandan beri yeni davalar ortaya çıktı: Sosyal Medya Mağdurları Hukuk Merkezi, Eylül 2025’te Character.AI’ye karşı üç dava açtı ve Kasım 2025’te OpenAI’ye karşı yedi şikayet dile getirildi.
Yapay zekâ destekli arkadaşlık uygulamalarını düzenleme ve sorunlu kullanımını engelleme çabalarının başlangıcını görmeye başlıyoruz. Eylül ayında Kaliforniya valisi, en büyük yapay zekâ şirketlerini kullanıcı güvenliğini sağlamak için neler yaptıklarını kamuoyuna açıklamaya zorlayacak yeni bir kurallar dizisini yasalaştırdı. Benzer şekilde, OpenAI, ChatGPT’ye ebeveyn kontrolleri ekledi ve özellikle gençler için daha fazla güvenlik önlemi içereceğini vaat ettiği yeni bir chatbot sürümü üzerinde çalışıyor. Dolayısıyla, yapay zekâ destekli arkadaşlık uygulamalarının yakın zamanda ortadan kalkması olası olmasa da, geleceği giderek daha fazla düzenlemeye tabi görünüyor.