Temmuz 2024
Sadece 2024 yılının ilk altı ayında, IEEE Xplore dijital kütüphanesinde deepfake tespit araçları oluşturmaya odaklanan 300’den fazla makale yayınlandı .
IEEE Kıdemli Üyesi Aiyappan Pillai, “Yapay zeka, deepfake algoritmalarının tespit edilmesi daha zor sahtecilikler üretmesini sağlarken, yapay zeka destekli tespit teknolojileri, sahtecilikleri tespit etmek için çeşitli teknikler ve algoritmalar kullanarak bu hıza ayak uyduruyor” dedi.
Deepfake Nedir?
Deepfake terimi iki terimin bir karışımıdır: derin öğrenme ve sahtecilikte olduğu gibi sahte. Deepfake’ler, gerçek insanların yapmadıkları veya söylemedikleri şeyleri yaparken veya söylerken tasvir eden yapay zeka tarafından oluşturulmuş gerçekçi videolar, ses klipleri veya durağan görüntülerdir. Son yıllarda politik alanlarda ortaya çıktılar. Eğlence dünyasını da etkilediler. Deepfake’ler, genellikle sanatçıların izni olmadan popüler müzik eylemlerini taklit eden şarkılar yoluyla eğlence ekonomisini bozmakla tehdit ediyor.
Ortaya Çıkan Tespit Yöntemleri
Deepfake’leri tespit etmek için iki geniş teknoloji kategorisi mevcut ve bunların ne kadar iyi çalıştığını belirlemek için önemli araştırmalar yapılmıştır.
Makine Öğrenimi: Deepfake’leri tespit etmek için bir yöntem, bir makine öğrenimi modeline çok sayıda deepfake ve gerçek içerik beslemeyi içerir, böylece aralarındaki farkları tespit etmeyi öğrenebilir. Bu teknikler makine görüşünü hiç içermeyebilir. Bunun yerine, görüntüyü veriye dönüştürür ve desenlerinden öğrenirler. Bu yöntemle ilgili bir zorluk, eğitildiği verilerden önemli ölçüde farklıysa yeni bir deepfake’i tespit etmekte sorun yaşamak olabilir.
Anlamsal Analiz: Ham verilere dayanan makine öğrenimi yöntemlerinin aksine, anlamsal analiz, yapay zeka sistemlerinin bir resimdeki elmaları veya kitapları tanımasına yardımcı olan aynı makine görüş tekniklerini kullanarak görüntünün içeriğine ve bağlamına bakar. Bu yöntemler, bir konuşmacının yüzündeki kan akışının örüntüsünü, başının şeklini veya görünümünün zaman içinde tutarlı olup olmadığını analiz edebilir. Anlamsal analiz ayrıca, mantıklı olmayan nesneler arasındaki ilişkileri de kapsar. Örneğin, bir banyonun mimari bir görüntüsünü hayal edin. Yapay zeka tarafından oluşturulan bir görüntü, bir duş başlığını işlevsel olarak kullanılamayacağı bir yere yerleştirebilir.
Filigranlama
Deepfake’leri tespit etme ihtiyacı, bazı üretken AI şirketlerini bu amaçla işaretler oluşturmaya yöneltti. Bazı durumlarda, bu işaretler kullanıcılar tarafından görülebilir; diğerlerinde ise görülmez.
IEEE Kıdemli Üyesi Rahul Vishwakarma, “En etkili tekniklerden biri, üretken yapay zeka platformları kullanılarak oluşturulan görüntülerin dijital filigranlanmasıdır” dedi.
Önyargı Soruları
Yaklaşık beş veya altı yaygın olarak kullanılan veri kümesi -insanların videoları ve görüntüleri- deepfake’leri tespit etmek için derin öğrenme modellerini eğitmek için kullanılır. Bir veri kümesi tamamen ünlülerden oluşur. Araştırmacıların karşılaştığı zorluklardan biri, bu veri kümelerinde yer alan kişilerin beyaz ve erkek olma olasılığının daha yüksek olmasıdır. Bu, deepfake tespit araçlarının farklı geçmişlere sahip insanlardan gelen verilerle karşı karşıya kaldıklarında daha zor zamanlar geçirip geçirmediklerine dair sorulara yol açmıştır.
İnsanlar Daha Mı İyi?
Deepfake’ler gerçekçi olsa da, insanlar onları tespit edebilir. IEEE Privacy & Security’de yayınlanan yakın tarihli bir çalışma, insanları makinelerle karşı karşıya getirdi. Araştırmacılar, insanların ortalama olarak deepfake’lerin yaklaşık %71’ini tespit edebildiğini, son teknoloji tespit yöntemlerinin ise %93’ünü tespit edebildiğini buldu.
Ancak bazı deepfake görüntüler tespit algoritmalarını yanıltırken, insanlar sahte görüntüleri tespit edebildi.
Bazı insanlar deepfake’leri diğerlerinden çok daha iyi tespit edebiliyor, ancak araştırmacılar bunun nedenini araştırmaya yeni başlıyor. Başka bir çalışmada , araştırmacılar polis memurlarının ve “süper tanıyıcıların” deepfake’leri ne kadar iyi tespit edebildiklerini incelediler. Yetenekleri bir laboratuvar tarafından onaylanan süper tanıyıcılar, yüzleri tanıma ve teşhis etmede gerçekten iyi olan kişilerdir. Çalışma, süper tanıyıcıların deepfake’leri tespit etmede sıradan insanlardan daha iyi olmadığını gösterdi. Bu, bir şeyin deepfake olup olmadığını söyleyebilmenin, yüzleri tanımada iyi olmaktan farklı olduğunu gösteriyor.