Şubat/2024/Alexandra Tsalidis
Avrupa’daki Deepfake uygulamalarını yok etmek, pornografik deepfake istismarına karşı koruma sağlamak için Kadına Yönelik Şiddet Direktifi kapsamında kurumsal cezai sorumluluktan yararlanmak gerekmektedir.
Bugün, kadınları rızaları olmadan cinsel bir şekilde tasvir eden sömürücü deepfake’ler yaratmak her zamankinden daha kolay – ve yakın zamanda müzakere edilen kadına yönelik şiddetle mücadele eden AB direktifi, yapay zeka modeli geliştiricilerini cezai olarak sorumlu tutarak nihayet mağdurlar için adalet getirebilir.
Deepfake’ler yapay zeka tarafından üretilen sesler, görüntüler veya rızası olmadan üretilen videolar anlamına gelir ve örneklerin en az %96’sını oluşturan en popüler deepfake türü pornografiktir. Mağdurların %99’unu kadınlar ve kız çocukları oluşturmaktadır. Bu mağdurların birçoğu, içeriğin binlerce, bazen milyonlarca görüntülenme aldığı olaydan aylar sonra bile bir deepfake’e konu olduklarının farkında olmayacaktır.
Deepfake üreten yapay zeka sistemlerinin yaygın popülaritesi göz önüne alındığında, deepfake’lere karşı en etkili yaklaşım, hükümetlerin üretim ve dağıtımın her aşamasında kapsamlı yasaklar getirmesidir. Deepfake üretiminin ve paylaşımının sadece kriminalize edilmesi yeterli değildir; hesap verebilirlik, sürece dahil olan geliştiricileri, model sağlayıcıları, hizmet sağlayıcıları ve hesaplama sağlayıcılarını da kapsamalıdır.
Bununla birlikte, Avrupa’da cinsel içerikli bir deepfake oluşturmak mutlaka yasadışı değildir. AB YZ Yasasının nihai metni, Madde 52 kapsamında yalnızca belirli YZ sistemlerinin ve genel amaçlı YZ modellerinin sağlayıcıları ve kullanıcıları için şeffaflık yükümlülükleri gerektirecektir. Bu tür ifşa yükümlülükleri, pornografik deepfake’lerin zararlarını azaltmak için çok az şey yapmaktadır, çünkü çoğu durumda içerik, gerçeğe uygun olmadığı tam olarak bilinerek tüketilmektedir. Bu nedenle, çoğu AB Üye Devletinin hakaret yasaları mağdurlar için eşit derecede yararsız olma eğilimindedir.
Kadına yönelik şiddetle mücadele konusunda yakında yürürlüğe girecek olan direktif bu durumu değiştirebilir. 6 Şubat 2024 tarihinde yasa koyucular, cinsiyete dayalı şiddetle mücadele ve mağdurların korunmasını amaçlayan kurallar üzerinde siyasi bir anlaşmaya varmıştır. Direktif özellikle deepfake’leri ele almakta ve bunları, başka bir kişinin cinsel faaliyetlerde bulunuyormuş gibi görünmesini sağlayan materyalin rıza dışı üretimi, manipülasyonu veya değiştirilmesi olarak tanımlamaktadır. İçeriğin mevcut bir kişiye “kayda değer ölçüde” benzemesi ve “başkalarına yanlış bir şekilde gerçek veya doğru gibi görünmesi” gerekmektedir (Resital 19).
Deepfake yayınlamak, bilgi ve iletişim teknolojilerini kullanarak cinsel içerikli içerikleri ilgili kişilerin rızası olmaksızın kamuya erişilebilir kılmak anlamına geleceğinden, 7. Madde kapsamında cezai bir suç olarak kabul edilecektir. Bu suç yalnızca davranışın ciddi zarara yol açma ihtimali varsa geçerlidir.
Aynı zamanda, Madde 7’nin işlenmesine yardım, yataklık veya teşvik etmek de Madde 11 kapsamında cezai bir suç olacaktır. Bu nedenle, cinsel deepfake’ler üreten yapay zeka sistemleri sağlayıcıları, Madde 7 suçunun işlenmesine doğrudan olanak sağlayacakları için direktif kapsamına alınabilir. Birçok sitenin modellerinin deepfake yeteneklerinin reklamını açıkça yaptığı ve eğitim verilerinin genellikle cinsel içerikli içerikle dolu olduğu göz önüne alındığında, geliştiricilerin ve sağlayıcıların suçun işlenmesinde önemsiz veya yardımcı bir rol oynadığını iddia etmek zordur.
Madde 11’in yorumlanması, deepfake’ler yoluyla cinsel sömürüyü besleyen boru hattının sökülmesi için çok önemli bir ilk adım olabilir. Madde 11’in en geniş yorumu, geliştiricilerin kurumsal cezai sorumluluğa tabi olduğu anlamına gelecektir.
Önemli bir engel, kurumsal cezai sorumluluğun Avrupa genelinde aynı şekilde uygulanmamasıdır; bazı Üye Devletler şirketleri suç işleyebilecek varlıklar olarak kabul ederken diğerleri kabul etmemektedir. Bununla birlikte, 11. Maddenin en azından bazı yargı bölgelerinde uygulanması, cinsel içerikli sahte ürünlerin seri üretiminin durdurulmasına yönelik muazzam bir adım olacaktır. Sonuçta, yargı yetkisi 14. Maddeye göre bölge, uyruk ve ikametgaha dayalı olarak tesis edilmektedir.
Direktif ayrıca barındırma ve aracı platformların rolüne de kısaca değinmektedir. Resital 40, Üye Devletlere, barındırma hizmeti sağlayıcılarına Madde 7’yi ihlal eden materyalleri kaldırmalarını veya bunlara erişimi engellemelerini emretme yetkisi vererek, bir davranış kuralları aracılığıyla işbirliğini ve öz düzenlemeyi teşvik etmektedir. Bu, aracılar için kabul edilebilir bir sorumluluk seviyesi olsa da, aşağı yönlü zararın aktif ve kasıtlı kaynağını oluşturan sağlayıcılar için öz düzenleme tamamen uygunsuzdur.
Nihai genel kurul oylamasının Nisan ayında yapılması planlanıyor. Bu direktifin kadınları ve kız çocuklarını zararlı deepfake’ler yoluyla sömürülmekten koruma kapasitesi, bu sömürüyü ticarileştiren şirketlerin de cezai olarak sorumlu tutulup tutulmayacağına bağlıdır.
https://futureoflife.org/ai-policy/disrupting-the-deepfake-pipeline-in-europe/