20 Temmuz 2026/ Courtney C. Radsch
Hükümetler çok uzun zamandır, kullanıcıların kişisel verilerinin ticari olarak sömürülmesine ve sosyal ve psikolojik manipülasyonu ödüllendirmeye dayalı iş modellerinin oluşturulmasına seyirci kaldılar. Yapay zeka endüstrisinin bu modeli kopyalamaya hazırlandığı bir dönemde, politika yapıcılar çok geç olmadan müdahale etmelidir.
WASHINGTON, DC—Megan Garcia, yapay zekâyı düzenleme mücadelesinde en etkili isimlerden biri olmayı hedeflememişti . Avukat ve üç çocuk annesi olan Garcia, olayları fark eden türden bir ebeveyn. En büyük çocuğu Sewell 14 yaşına geldiğinde, basketbol takımından ayrıldı, odasına çekildi ve rahatsız edici derecede sessizleşti. Değişiklikleri görmezden gelmek yerine, ceza olarak ekran süresini kısıtladı ve telefonunu elinden aldı; ancak bu bile yeterli olmadı.
Mayıs ayında ABD Senatosu’nda Garcia’nın bu hikâyeyi kürsüden anlatışını izlerken, Sewell’in intihar ederek ölümüne giden ayları ne kadar hassas bir şekilde anlattığına hayran kaldım. Olayları kafasında binlerce kez tekrar tekrar canlandırmış, zamanında müdahale edebileceği anı aramıştı. Polis, 2024’te oğlunun ölümünden sonra telefonunu incelediğinde, eski Google çalışanları tarafından oluşturulan Character.AI uygulamasından hiç haberi yoktu. Sewell’in, Game of Thrones’tan Daenerys Targaryen’i taklit etmek üzere tasarlanmış bir chatbot ile iletişim kurduğu ortaya çıktı . Ona “en kısa sürede eve gel, sevgilim” diyen “o”ydu. Sewell ise bir yolunu bulacağını söyleyerek cevap vermişti.
Garcia daha sonra dava yoluyla platformun insan ve makine arasındaki çizgiyi bulanıklaştırmak, cinsel rol yapma oyunlarına katılmak, romantik bir partner hatta psikoterapist gibi davranmak üzere tasarlandığını öğrendi. Sewell intihar düşüncelerini itiraf ettiğinde, sohbet robotu hiçbir uyarıda bulunmadı, kimseyi bilgilendirmedi ve onu kimseye yönlendirmedi.
Geçen yıl Senato Yargı Komitesi önünde ifade veren Garcia, oğlunun son aylarını “insan gibi görünmek, güvenini kazanmak, onu ve diğer çocukları sonsuza dek meşgul tutmak için bir yapay zeka şirketi tarafından tasarlanmış sohbet robotları tarafından istismar edilerek ve cinsel tacize maruz bırakılarak” geçirdiğini söyledi . Bir yapay zeka şirketine karşı ilk kez haksız ölüm davası açtığında, umutsuzluğunu bir motivasyona dönüştürdü ve hesap sorulmasını talep eden giderek artan sayıda ebeveyn ve politika yapıcıya katıldı.
Bu ayın başlarında Meta, çocuklara yönelik zararların “işletmemizi ve finansal sonuçlarımızı önemli ölçüde etkileyebileceğini” nihayet kabul ettikten sonra, Instagram ve Facebook’taki gençler için içerik kontrollerini dünya çapında genişleteceğini duyurdu. Bu duyuru, Kaliforniya’da bir jürinin Meta’nın ürünlerinin reşit olmayanlar için bağımlılık yapacak şekilde tasarlandığına karar vermesinin (ve ayrıca şirketin “platformlarında çocuk cinsel istismarı hakkında bildiklerini gizlediğine” karar veren New Mexico’daki bir jüri kararının) ardından geldi. Aynı zamanda, politika yapıcıların Büyük Teknoloji şirketlerinin son derece zararlı hamlesiyle de başa çıkmaları gerekiyor: dijital yaşamlarımıza giderek daha fazla nüfuz eden sohbet robotları ve yapay zeka uygulamaları içinde gözetim reklamlarının kullanıma sunulması.
Süregelen bu düzenleyici dramaların her biri, aynı temel başarısızlığın bir ifadesidir. Politika yapıcılar, kullanıcıların kişisel verilerinin ticari olarak sömürülmesine ve sosyal ve psikolojik manipülasyonun ödüllendirilmesine dayalı iş modellerinin oluşturulmasına seyirci kaldılar. Güven yükümlülükleri, sorumluluk standartları, uygulanabilir şeffaflık ve gizlilik güvenceleri gibi temel koruyucu çerçevelerin bulunmadığı büyük bir yasal boşluk devam etmektedir.
Gözetim temelli, yıkıcı iş modellerini ortadan kaldıracak düzenlemelerin yokluğunda, reşit olmayanların sosyal medyaya erişimini kısıtlamaya yönelik küresel bir hareket, yakın geçmişteki en hızlı ilerleyen yasal düzenlemelerden birine yol açtı. En az 40 ülke, teknoloji şirketlerinin sosyal medya platformlarındaki sorunları gidermedeki başarısızlıklarına yanıt olarak yaş sınırlaması getiren yasal düzenlemeleri değerlendiriyor. Hedeflenen yaşlar farklılık gösterse de, teşhis tutarlı: gözetim odaklı platformların ergenlerin ruh sağlığına zarar verdiği kanıtlanmıştır. Şirketlerin gönüllü önlemleri bu zararları önlemede başarısız olmakla kalmamış, birçok durumda şirketler tasarım ve dağıtım seçimlerini yaparken bunların tamamen farkında olmuş gibi görünmektedir.
Bu arada, mahkemeler nihayet platformların neden oldukları zararlardan sorumlu olduklarını tespit etmeye başladı; bu da artık olağanüstü sorumluluk muafiyetlerinin arkasına saklanamayacakları veya sorumluluktan kaçınmak için ABD Anayasası’nın Birinci Değişikliğini silah olarak kullanamayacakları anlamına geliyor. Kaliforniya’da yakın zamanda görülen dönüm noktası niteliğindeki bir çocuk güvenliği davası, Meta CEO’su Mark Zuckerberg’i, şirket uzmanlarının Instagram’ın genç kullanıcılarda yeme bozukluklarına yol açan güzellik filtrelerini yasaklaması gerektiği konusunda oybirliğiyle hemfikir olduğunu kabul etmeye zorladı. Bunu yapmadı, çünkü bunu yapmak büyümeyi ve dolayısıyla karları sınırlayabilirdi.
Belgeler ayrıca Instagram’ın 13 yaşın altındaki yaklaşık dört milyon çocuğun davranışlarını takip ettiğini de ortaya koydu . Bu uyarı işaretlerinin hiçbiri Zuckerberg’in kullanıcıların platformda geçirdikleri günlük sürede %12’lik bir artış hedeflemesini engellemedi.
Meta için durum daha da kötüleşiyor çünkü bu davaların masraflarını sigorta şirketlerine yükleyemiyor. Başka bir mahkeme, sigortacıların şirketin kasıtlı ve bilerek yaptığı eylemler sonucu oluşan zararları iddia eden binlerce davaya karşı Meta’yı savunmak zorunda olmadığına karar verdi .
Ancak tüm olumsuz tepkilere rağmen, yapay zeka şirketleri ve platformları yapay zeka reklamcılığında ilerlemeye devam ediyor. Bu yıl OpenAI, haftalık 800 milyondan fazla kullanıcısının tıbbi korkularını, ilişki krizlerini ve mesleki şüphelerini şirketin sohbet robotuna anlattığı ChatGPT’de reklam testlerine başladı ve eski OpenAI araştırmacısı Zoë Hitzig’in “emsalsiz bir insan samimiyeti arşivi” olarak adlandırdığı bir birikim oluşturdu.
Reklam testinin başlatıldığı gün istifa eden Hitzig, reklamların konuşma konularına ve geçmiş sohbet kayıtlarına göre eşleştirileceğini ve bunun da “anlayamayacağımız, hatta önleyemeyeceğimiz şekillerde kullanıcıları manipüle etme potansiyeli” yaratacağını belirtiyor. Uyarısı, kurumsal yapay zekanın ticarileştirilmesini yönlendirecek güvenlik önlemlerinin eksikliğine ilişkin endişeleri yansıtıyor . Google zaten yapay zeka destekli aramalarda reklam yayınlıyor ve Gemini sohbet robotu için reklamları da dışlamadı .
Sosyal medya, davranışsal gözetim yoluyla kişisel veriler elde etme, en yüksek psikolojik etki anlarında ticari mesajlar hedefleme ve tıklamalardan duygusal durumları çıkararak hedefli reklamlar satma üzerine kurulu bir iş modeli geliştirdi. Yapay zeka bu modeli sağlamlaştıracak ve daha da güçlendirecek. Sosyal medya iç dünyanızı davranışlarınızdan çıkarırken, yapay zeka bunu doğrudan kendi sözlerinizden ve gerçek zamanlı olarak alıyor.
Sosyal medya sektörü, zehirli uygulamalarını yasal ve politik olarak dokunulmaz kılmak için on yıl harcadı. Zarar görenlerin çocukları, ebeveynleri ve sevdikleri şimdi hesap sorulmasını talep ediyor. Soru şu ki, yapay zeka sektörü aynı modeli kopyalamadan önce politika yapıcılar yanıt verecek mi?
Open Markets Institute’te Medya ve Dijital Yönetişim Merkezi Direktörü ve Brookings Enstitüsü’nde misafir kıdemli araştırmacı olan Courtney C. Radsch, “Mısır’da Siberaktivizm ve Yurttaş Gazeteciliği: Dijital Muhalefet ve Siyasi Değişim ” (Palgrave Macmillan, 2016) adlı kitabın yazarıdır .