Shannon Bond
Çeviri: Nezih Kazankaya
Ocak ayında, New Hampshire’daki binlerce seçmen, Başkan Biden’ın Demokratlara eyaletteki ön seçimlerde oy kullanmamalarını söylediğini duymak için telefonlarını açtı; ön seçimler sadece birkaç gün sonra gerçekleşecekti.
“Oylarımızın sayıldığı zaman Demokratlara oy vermenin değerini biliyoruz. Oylarınızı Kasım seçimleri için saklamanız önemli” dedi telefondaki ses.
Ama Biden değildi. Yapay zeka ile yaratılmış bir deepfake’ti ve 2024’ün küresel seçim dalgasının, üretken YZ teknolojisindeki hızlı ilerlemeler nedeniyle sahte resimler, ses ve videolarla manipüle edileceğine dair korkuların bir belirtisiydi.
Kaliforniya Üniversitesi Berkeley Kampüsü’nde manipüle edilmiş medyayı inceleyen Profesör Hany Farid, “ gibi bir durum, seçimden bir gün önce, seçimden bir gün sonra, bir bomba görüntü, bir bomba video veya sesin dünyayı kasıp kavurmasıydı” dedi.
Biden deepfake’inin, bunu yapay zeka konusunda alarm vermek için yaptığını söyleyen bir Demokrat siyasi danışman tarafından yaptırıldığı ortaya çıktı. FCC (Federal İletişim Komisyonu) tarafından 6 milyon dolar para cezasına çarptırıldı ve New Hampshire’da cezai suçlamalarla suçlandı.
Ancak 2024 yılı ilerledikçe korkulan aldatıcı, hedefli deepfake dalgası gerçekleşmedi. NYU Sosyal Medya ve Politika Merkezi’nde dijital bilginin toplumu nasıl değiştirdiğini inceleyen Zeve Sanderson, “Birçok kişinin öngördüğü gibi yapay zeka seçimlerinin yılı olmadı” dedi.
Bunun yerine, birçok ülkede YZ’nın en görünür kullanımı, yapay kökenleri gizlenmemiş memler (bir kültür içerisinde kişiden kişiye aktarılarak geçen fikir, davranış veya bilgi parçaları) ve içerikler yaratmaktı. Bunlar genellikle politikacılar ve destekçileri tarafından açıkça paylaşılıyordu.
Farid, bu yıla girerken yapay zeka bombası senaryosundan çok, bu tür “binlerce kesikle ölüm”den* endişe duyduğunu söyledi.
“Görüntülerin açıkça aldatıcı olacak şekilde tasarlandığını düşünmüyorum, ancak bir anlatıyı ilerletmek için tasarlanmışlardı ve propaganda işe yarıyor” dedi. “İnsanların pes etmeye başladığı genel bir bilgi ekosistemi kirliliği olduğunu düşünüyorum.”
Ölü bir diktatörü diriltmek:
Endonezya’da Golkar adlı siyasi parti, 2008’de ölen uzun süreli diktatör Suharto’yu yeniden canlandırmak için yapay zekayı kullandı.
“Ben Endonezya’nın ikinci başkanı Suharto’yum” diyor YZ Suharto, partinin adaylarını desteklemeden önce, Golkar’ın başkan yardımcısı tarafından sosyal medya sitesi X’e gönderilen bir videoda. Sahte Suharto, Golkar’ın adaylarının “Endonezya’nın ilerlemesi hayalimi sürdüreceğini” söylüyor.
Kısa bir süre sonra Golkar’ın da desteğini alan Suharto’nun damadı cumhurbaşkanı seçildi.
Yapay zeka temalı memler, geçtiğimiz baharda dünyanın en büyük demokratik tatbikatının gerçekleştiği Hindistan’da da yaygındı.
Mayıs ayında Jaipur’daki bir pazarda, yalnızca bir adı olan Dilip isimli bir tüccar, NPR’ye arkadaşlarının kendisine Meta’nın sahibi olduğu popüler mesajlaşma platformu WhatsApp’ta yapay zeka tarafından üretilen paylaşımları ilettiğini söyledi.
Muhalefet lideri Rahul Gandhi ile alay edenleri sevdiğini, örneğin Gandhi’nin yapay zeka versiyonunun, kazanırsa çalacağı tüm parayı hayal eden aptal bir hırsız olarak betimlendiğini söyledi.
Ancak Dilip, tüm bu paylaşımlara rağmen kime oy vereceğine karar verdiğini söyledi.
Hindistan’da profesyonel olarak Sahid SK adıyla bilinen bir yapay zeka sanatçısı, öfkeli adaylar tarafından iftira nedeniyle dava edilme riskinin daha az olması nedeniyle memlerle ilgilendiğini söyledi. Memlerin bir göz kırpma olduğunu, düpedüz yanlış tanıtım olmadığını söyledi.
“Sanırım bu seçimde pek çok deepfake görmememizin tek nedeni bu. Çünkü herkes yasal bildirimlerden korkuyor,”; dedi Sahid SK.
Hindistan ve diğer ülkelerde, yapay zeka kullanılmadan ”cheapfake” olarak bilinen düzenlenmiş ve tahrif edilmiş videolar aracılığıyla pek çok yanlış ve yanıltıcı hikaye yayıldı.
Musk ve Trump yapay zeka tarafından üretilen memleri benimsiyor.
ABD’de siyasi paylaşımlar ve viral videolar, Photoshop’ görüntülerden ve bağlam dışı kliplerden, Sovyet kıyafetleri içindeki Başkan Yardımcısı Kamala Harris’in yapay zeka tarafından oluşturulmuş portrelerine ve eski Başkan Donald Trump’;ı destekleyen siyahi Amerikalılara kadar uzanıyordu.
Temmuz ayında X’in sahibi Elon Musk, Harris’in sesinin yapay zeka klonunun kendisini “en son çeşitlilik çalışanı” (normalde işe alınmayacak olanlardan, çeşitlilik yaratmak için işe alınanların en uç noktası) olarak tanımladığı sahte bir reklam paylaştı; ancak videonun başlangıcında bir parodi olarak yayınlandığını açıklamadı.
Musk ve Trump’ın diğer destekçileri, Harris ve Demokratlarla alay eden ve eski başkanı öven yapay zeka paylaşımlarını sık sık paylaşıyordu.
Trump, Taylor Swift’ı in kendisini desteklediğini gösteren karikatürize bir yapay zeka görüntüsünü bizzat kendisi paylaştı; ancak açık söylemek gerekirse, Swift bunu yapmamıştı.
Sanderson, yapay zekanın bu şekilde kullanılmasının insanların fikirlerini değiştirmek için olmadığını, “tercih edilen adayın vatansever veya asil görünmesini sağlamak [ya da] karşıt adayın kötü görünmesini sağlamak” için yapıldığını söyledi. Bu manipülasyonların geleneksel fotoğraf ve video düzenleme araçlarıyla yapılabileceğini, ancak “üretken yapay zekanın bunu çok daha kolay hale getirdiğini” belirtti.
Sanderson ayrıca YZ’nın daha az tespit edilebilir şekillerde kullanılmış olabileceği konusunda uyardı.
“Hala üretken YZ’nın ölçekte, kim tarafından, hangi amaçlarla kullanıldığına dair gerçekten iyi ve titiz bir anlayışımız olduğunu düşünmüyorum” dedi.
Dahası, UC Berkeley’den Farid, bu yıl tespit edilen yapay zeka sahtekarlıklarıyla insanların nasıl oy kullandığı arasında doğrudan bir bağlantı kurmanın zor olduğunu söylüyor.
“Seçim sonucunu değiştirdiğini düşünüyor muyum? Hayır” dedi. “İnsanların düşüncelerini etkilediğini düşünüyor muyum? Evet, etkilediğini düşünüyorum. Ve bunu yapmaya devam edeceğini düşünüyorum.”
*Taylor Swift’in “Death by a Thousand Cuts” şarkısına gönderme yapıyor.
https://www.npr.org/2024/12/21/nx-s1-5220301/deepfakes-memes-artificial-intelligence-elections
İlgili Bağlantılar:
Yapay zeka sahtekarlıkları, kanun koyucular ve teknoloji şirketlerinin yetişmeye çalışmasıyla seçim risklerini artırıyor
https://www.npr.org/2024/02/08/1229641751/ai-deepfakes-election-risks-lawmakers-tech-
companies-artificial-intelligence
Yapay zeka tarafından üretilen görseller bu seçim döneminde yeni bir propaganda biçimi haline geldi
https://www.npr.org/2024/10/18/nx-s1-5153741/ai-images-hurricanes-disasters-propaganda
Yapay zeka tarafından üretilen memler 2024 seçimlerini nasıl değiştiriyor?
https://www.npr.org/2024/08/30/nx-s1-5087913/donald-trump-artificial-intelligence-memes-