Glaze ve Nightshade araçları sanatçılara, eğitim için internet verilerini toplayan YZ’ya karşı savaşabilecekleri konusunda umut veriyor. Yeterli mi?
Melissa Heikkilä / 13 Kasım 2024
Ben Zhao, sanatçılarla yapay zeka arasındaki mücadeleye resmen katıldığı anı çok iyi hatırlıyor: Sanatçılardan biri yapay zekadan muz istemişti.
Chicago Üniversitesi’nde bilgisayar güvenliği araştırmacısı olan Zhao, yüz tanıma teknolojisinden görüntüleri korumak için araçlar geliştirerek kendine bir isim yapmıştı. Kasım 2022’de ticari medyada çalışan sanatçılar için bir savunma örgütü olan Concept Art Association tarafından düzenlenen bir Zoom görüşmesine davet eden fantezi illüstratörü Kim Van Deun’un dikkatini çeken bu çalışmaydı.
Sanatçılar, o zamanlar yepyeni olan üretken YZ patlamasından nasıl zarar gördüklerine dYZr ayrıntıları görüşmede paylaştılar. O anda, YZ aniden her yerdeydi. Teknoloji topluluğu, Midjourney, Stable Diffusion ve basit kelime komutlarını izleyerek fantezi diyarlarını veya avokadolardan yapılmış tuhaf sandalyeleri tasvir edebilen OpenYZ’nin DALL-E 2’si gibi görüntü üreten YZ modelleri hakkında konuşuyordu.
Ancak bu sanatçılar bu teknolojik harikayı yeni bir hırsızlık türü olarak gördüler. Modellerin işlerini etkili bir şekilde çaldığını ve değiştirdiğini düşünüyorlardı. Bazıları sanatlarının internetten kopyalandığını ve modelleri eğitmek için kullanıldığını fark etti, diğerleri ise kendi isimlerinin istem haline geldiğini ve çalışmalarının yapay zeka taklitleri tarafından çevrimiçi ortamda bastırıldığını keşfetti.
Zhao duydukları karşısında şok olduğunu hatırlıyor. “İnsanlar size kelimenin tam anlamıyla geçim kaynaklarını kaybettiklerini söylüyorlar,” dedi bana bu baharın bir öğleden sonrası Chicago’daki oturma odasında otururken. “Bu görmezden gelemeyeceğiniz bir şey.”
Bu yüzden Zoom’da bir öneride bulundu: Varsayımsal olarak, yapay zekanın veri toplamasına müdahale etmek için sanat eserlerini maskelemeye yardımcı olacak bir mekanizma inşa etmek mümkün olsaydı ne olurdu?
“Birisi adımı yazıp bir istem oluşturduğunda, çöp gibi bir şey ortaya çıksın isterdim,” diye yanıtladı önde gelen bir dijital sanatçı olan Karla Ortiz. “Sadece muz veya garip bir şeyler.”
Zhao’nun davaya katılması için ihtiyaç duyduğu tek şey ikna olmaktı.
Bugüne geldiğimizde, milyonlarca sanatçının o Zoom’dan doğan iki aracı kullandığını görüyoruz: Zhao ve Chicago Üniversitesi’nin SAND Lab’ı (bir kısaltması “güvenlik, algoritmalar, ağ oluşturma ve veri”) tarafından geliştirilen Glaze ve Nightshade.
Sanatçıların rızaya dayanmayan yapay zeka verilerine karşı cephaneliğindeki en önemli silahlardan biri olan Glaze ve Nightshade benzer şekillerde çalışıyor: Araştırmacıların “zar zor algılanabilen” bozukluklar olarak adlandırdığı şeyleri bir görüntünün piksellerine ekleyerek makine öğrenimi modellerinin bunları düzgün bir şekilde okumasını engelliyor. Mart 2023’te piyasaya sürülmesinden bu yana 6 milyondan fazla kez indirilen Glaze, yapay zeka algoritmalarının bir sanatçının tarzını fark edip kopyalamasını önleyen gizli bir pelerin ekliyor. Bu sonbaharda piyasaya sürüldüğünde neredeyse tam bir yıl önce hakkında yazdığım Nightshade , yapay zeka modellerini bozabilen, görüntülere görünmez bir zehir tabakası ekleyerek yapay zeka şirketlerine karşı saldırıyı artırıyor; 1,6 milyondan fazla kez indirildi.
Shan, sanatçıların telif haklarını korumalarına yardımcı olan iki araç olan Glaze ve Nightshade’i geliştirdi.
Ortiz, araçlar sayesinde “Çalışmalarımı çevrimiçi olarak yayınlayabiliyorum” diyor ve “bu oldukça büyük bir şey.” Onun gibi sanatçılar için çevrimiçi olarak görülmek daha fazla iş almak için çok önemli. Tazminatsız, büyük bir kâr amacı güden yapay zeka modelinde yer almaktan rahatsız oluyorlarsa, tek seçenekleri çalışmalarını internetten silmek. Bu kariyer intiharı anlamına gelir. “Bizim için gerçekten çok kötü” diye ekliyor Ortiz, diğer sanatçılar için en yüksek sesle savunuculardan biri haline geldi ve telif hakkı ihlali nedeniyle Stability YZ dahil yapay zeka şirketlerine karşı açılan toplu dava davasının bir parçası.
Ancak Zhao, araçların bireysel sanatçılara güç vermekten daha fazlasını yapmasını umuyor. Glaze ve Nightshade, büyük şirketlerden bireysel yaratıcılara doğru güç dengesini yavaşça değiştirme mücadelesinin bir parçası olarak görüyor.
“İnsan hayatının bu kadar az değer görmesi inanılmaz derecede sinir bozucu,” diyor, özellikle Büyük Teknoloji hakkında konuşurken, onun için oldukça tipik olduğunu gördüğüm bir küçümsemeyle. “Ve bunun tekrar tekrar tekrarlandığını görmek, kârın insanlıktan daha öncelikli hale getirilmesi… inanılmaz derecede sinir bozucu ve çileden çıkarıcı.”
Araçlar daha yaygın olarak benimsendikçe, yüce hedefi sınanıyor. Glaze ve Nightshade, yaratıcılar için gerçek güvenliği erişilebilir hale getirebilir mi yoksa araçların kendisi nefret edenler ve bilgisayar korsanları için hedef haline gelirken, sanatçıları çalışmalarının güvenli olduğuna inandırarak istemeden uyutacaklar mı? Uzmanlar büyük ölçüde yaklaşımın etkili olduğu ve Nightshade’in güçlü bir zehir olabileceği konusunda hemfikir olsa da, diğer araştırmacılar Glaze tarafından sunulan korumalarda delikler açtıklarını ve bu araçlara güvenmenin riskli olduğunu iddia ediyorlar.
Ancak Recording Industry Association of America’da çalışmış bir telif hakkı avukatı olan Neil Turkewitz, SAND Lab’ın katıldığı mücadeleye dair daha kapsamlı bir görüş sunuyor. Tek bir YZ şirketi veya tek bir bireyle ilgili değil, diyor: “Yaşamak istediğimiz dünyanın kurallarını tanımlamakla ilgili.”
Ayıyı dürtmek
SAND Lab, Chicago Üniversitesi’nin bilgisayar bilimi binasının bir köşesine sıkıştırılmış bir düzine kadar araştırmacıyı kapsayan sıkı bir yapıdır. O alan, tipik işyeri artıklarını biriktirmiştir; burada bir Meta Quest başlığı, orada Cadılar Bayramı partilerinden aptalca kostüm fotoğrafları. Ancak duvarlar, Ortiz’in çerçevelenmiş bir tablosu da dahil olmak üzere orijinal sanat eserleriyle de kaplıdır.
Zhao’nun ifadesiyle “Yapay Zeka Kardeşler”e karşı Ortiz gibi sanatçılarla birlikte mücadele etmeden yıllar önce, Zhao ve laboratuvarın eş lideri ve aynı zamanda eşi olan Heather Zheng, yeni teknolojinin yol açtığı zararlarla mücadele konusunda bir sicil oluşturmuştu.
Her ikisi de yaklaşık yirmi yıl önce, Kaliforniya Üniversitesi, Santa Barbara’dayken (2005’te Zheng ” bilişsel radyolar ” için ve bir yıl sonra Zhao eşler arası ağlar için) başka çalışmalarıyla MIT Technology Review’un 35 Yaş Altı 35 Yenilikçi listesinde yer almış olsalar da , birincil araştırma odakları güvenlik ve gizlilik olmuştur.
Çift, Chicago Üniversitesi Veri Bilimi Enstitüsü’nün yeni eş direktörü Michael Franklin tarafından kaçırıldıktan sonra 2017’de Santa Barbara’dan ayrıldı. UC Santa Barbara laboratuvarındaki sekiz doktora öğrencisi de onları Chicago’ya takip etmeye karar verdi. O zamandan beri grup, Amazon Echo gibi yapay zeka sesli asistanlarındaki mikrofonları sıkıştıran bir ” sessizlik bileziği ” geliştirdi. Ayrıca, Zhao’nun 2020’de New York Times’a verdiği bir röportajda söylediği gibi, insanların yüz tanıma yazılımlarından korumak için fotoğraflarına uygulayabilecekleri Fawkes – “gizlilik zırhı” – adlı bir araç da yarattılar. Ayrıca, bilgisayar korsanlarının sanal gerçeklik başlıklarına gizli saldırılar düzenleyerek hassas bilgileri nasıl çalabileceklerini ve insan sanatını yapay zeka tarafından üretilen görüntülerden nasıl ayırt edebileceklerini incelediler .
Franklin bana, “Ben ve Heather ve grupları bir bakıma benzersiz çünkü aslında yapay zeka ve nasıl kullanıldığına dair bazı temel sorulara doğrudan değinen bir teknoloji inşa etmeye çalışıyorlar,” diyor. “Bunu sadece bu soruları sorarak değil, aynı zamanda bu soruları ön plana çıkaran bir teknoloji inşa ederek yapıyorlar.”
İki yıl önce, fantezi illüstratörü Van Deun’un ilgisini çeken kişi Fawkes’tu; benzer bir şeyin üretken yapay zekaya karşı koruma sağlamasını umuyordu ve bu yüzden o kader davetini Concept Art Association’ın Zoom görüşmesine iletti.
Bu çağrı, takip eden haftalarda çılgın bir telaşa yol açtı. Zhao ve Zheng laboratuvarın tüm projelerinde işbirliği yapsalar da, her biri ayrı girişimlere öncülük ediyor; Zhao, Glaze’in başına geçti ve doktora öğrencisi Shawn Shan (bu yılın 35 Yaş Altı Yenilikçiler listesindeydi) programın algoritmasının geliştirilmesine öncülük etti.
Shan’ın kodlamasına paralel olarak, doktora öğrencileri Jenna Cryan ve Emily Wenger sanatçıların görüşleri ve ihtiyaçları hakkında daha fazla bilgi edinmeye çalıştılar. Ortiz’in yardımıyla ekibin sanatçılara dağıttığı bir kullanıcı anketi oluşturdular . Bilgisayar bilimindeki kullanıcı çalışmalarına verilen ortalama yanıt sayısından çok daha fazla olan 1.200’den fazla sanatçıdan gelen yanıtlarda, ekip yaratıcıların büyük çoğunluğunun sanatın modelleri eğitmek için kullanıldığı hakkında bir şeyler okuduğunu ve %97’sinin yapay zekanın bazı sanatçıların iş güvenliğini azaltacağını beklediğini buldu. Dördün biri yapay zeka sanatının işlerini etkilediğini söyledi.
Sanatçıların neredeyse tamamı çalışmalarını çevrimiçi ortamda yayınladıklarını ve yarısından fazlası, profesyonel ve mali sonuçları ne olursa olsun, halihazırda yapmamışlarsa çevrimiçi çalışmalarını azaltmayı veya kaldırmayı beklediklerini söyledi.
Glaze’in ilk dağınık versiyonu sadece bir ayda geliştirildi ve bu noktada Ortiz, modelin test edilmesi için ekibine tüm çalışma kataloğunu verdi. En temel düzeyde, Glaze savunma kalkanı görevi görür. Algoritması, bir sanatçının bireysel stilini oluşturan özellikleri görüntüden belirler ve bunlara ince değişiklikler ekler. Bir YZ modeli Glaze ile korunan görüntüler üzerinde eğitildiğinde, model orijinal görüntüye benzer stilleri yeniden üretemez.
Ortiz’in bir tablosu daha sonra Glaze’in yer aldığı ilk kamuya açık görüntü oldu: Uçan kartallarla çevrili, elinde bir çelenk tutan genç bir kadın. Adı Musa Victoriosa , “muzaffer ilham perisi.”
Şu anda SAND Laboratuvarı’nın duvarlarında asılı duran bu.
Zhao, birçok sanatçının başlangıçtaki coşkusuna rağmen Glaze’in lansmanının önemli bir tepkiye neden olduğunu söylüyor. Bazı sanatçılar, bunun bir dolandırıcılık veya başka bir veri toplama kampanyası olduğundan endişelendikleri için şüpheciydi.
Laboratuvarın güven oluşturmak için birkaç adım atması gerekti; örneğin Glaze uygulamasını indirme seçeneği sunarak koruyucu katmanı çevrimdışı olarak eklemesi, yani hiçbir verinin hiçbir yere aktarılmaması anlamına geliyordu. (Daha sonra sanatçılar görüntüleri yüklediğinde görüntüler korunuyordu.)
Glaze’in lansmanından kısa bir süre sonra Shan, ikinci araç olan Nightshade’in geliştirilmesine de öncülük etti. Glaze bir savunma mekanizmasıyken, Nightshade rızaya dayanmayan eğitime karşı saldırgan bir caydırıcı olarak hareket etmek üzere tasarlandı. Görüntülerin piksellerini insan gözüyle fark edilemeyecek şekilde değiştirerek çalışır ancak makine öğrenimi modellerini görüntüyü gerçekte gösterdiğinden farklı bir şey olarak yorumlayacak şekilde manipüle eder. Zehirli örnekler YZ eğitim setlerine kazınırsa, bu örnekler YZ modellerini kandırır: Köpekler kedilere, çantalar tost makinelerine dönüşür. Araştırmacılar, üretken bir YZ modelinin görüntü üretme biçimine kalıcı olarak zarar vermek için yalnızca nispeten az sayıda örneğin yeterli olduğunu söylüyor.
Şu anda her iki araç da ücretsiz uygulamalar olarak mevcut veya projenin web sitesi üzerinden uygulanabilir . Laboratuvar ayrıca yakın zamanda, istismarcı YZ eğitimine karşı bir tepki sonucu doğan ve YZ tarafından üretilen içeriği yasaklayan yeni sanatçı destekli sosyal ağ Cara ile entegrasyon sunarak erişimini genişletti.
Zhao ve laboratuvarın araştırmacıları ve bir avuç sanatçı işbirlikçisiyle yapılan onlarca sohbette, her iki grubun da artık tek bir misyonda birleştiklerini hissettikleri açıkça ortaya çıktı. Nightshade’de ekiple yakın bir şekilde çalışan Hollandalı sanatçı Eva Toorenent, “Chicago’daki bilim insanlarıyla arkadaş olmayı hiç beklemiyordum,” diyor. “Bu kolektif mücadele sırasında bu insanlarla tanıştığım için çok mutluyum.”
EVA KURALLARI
Bir diğer adı da patlıcangiller familyasından olan Belladonna adlı tablosu , patlıcangiller familyasının zehrinin kullanıldığı ilk eserdir.
“Bu çok sembolik,” diyor. “İnsanlar bizim iznimiz olmadan çalışmalarımızı alıyorlar ve sonra da iznimiz olmadan çalışmalarımızı alıyorlar ve bu da modellerini mahvedebiliyor. Bu sadece şiirsel adalet.”
Mükemmel bir çözüm yok
SAND Lab’ın çalışmalarının yapay zeka topluluğunda daha az uyumlu karşılandığı görülüyor.
Glaze halka açıklandıktan sonra, Zhao’nun bana söylediğine göre, birileri bunu kötü amaçlı yazılımları izleyen VirusTotal gibi sitelere bildirdi, bu yüzden antivirüs programları tarafından işaretlendi. Ayrıca birkaç kişi sosyal medyada aracın hızla bozulduğunu iddia etmeye başladı. Nightshade de piyasaya sürüldüğünde benzer şekilde adil bir eleştiri payı aldı; TechCrunch’ın Ocak ayında bildirdiği gibi, bazıları buna “virüs” dedi ve hikayenin açıkladığı gibi, ” X’te istemeden viral olan başka bir Reddit kullanıcısı, Nightshade’in yasallığını sorguladı ve bunu ‘işletimini bozmak için savunmasız bir bilgisayar sistemini hacklemek’ ile karşılaştırdı.”
“Neyle karşı karşıya olduğumuz hakkında hiçbir fikrimiz yoktu,” diyor Zhao bana. “Diğer tarafın kim veya ne olabileceğini bilmemek, telefonun her yeni vızıltısının belki de birinin Glaze’i kırdığı anlamına geldiği anlamına geliyordu.”
Ancak her iki araç da titiz akademik akran incelemesinden geçti ve bilgisayar güvenliği topluluğundan takdir kazandı. Nightshade, IEEE Güvenlik ve Gizlilik Sempozyumu’nda kabul edildi ve Glaze, alandaki en iyi konferanslardan biri olan Usenix Güvenlik Sempozyumu’nda seçkin bir makale ödülü ve 2023 İnternet Savunma Ödülü’nü aldı.
IBM’de YZ güvenlik ve gizlilik çözümleri ekibine liderlik eden ve veri zehirlenmesini inceleyen Nathalie Baracaldo, “Zehirle çalışma deneyimime göre, [Nightshade’in] oldukça etkili olduğunu düşünüyorum,” diyor. “Henüz Ben’in önerdiği türden bir savunmayı bozan hiçbir şey görmedim ve burada “henüz ” kelimesi önemli.” Ve ekibin Nightshade’in kaynak kodunu başkalarının araştırması için yayınlamış olması ve bozulmamış olması, bunun oldukça güvenli olduğunu da gösteriyor, diye ekliyor.
Aynı zamanda en azından bir araştırma ekibi Glaze’in korumalarını, ya da en azından eski bir versiyonunu deldiklerini iddia ediyor.
Google DeepMind ve ETH Zürih’ten araştırmacıların Haziran ayında yayınlanan bir makalede ayrıntılı olarak açıkladıkları gibi, Glaze’in (ve Mist ve Anti-DreamBooth gibi benzer ancak daha az popüler koruma araçlarının ) herkesin erişebileceği hazır teknikler kullanılarak nasıl engellenebileceğini buldular; örneğin, büyütülen bir görüntünün çözünürlüğünü artırmak için pikselleri doldurmak anlamına gelen görüntü yükseltme. Araştırmacılar, çalışmalarının “mevcut korumaların kırılganlığını” gösterdiğini yazıyor ve “sanatçıların bunların etkili olduğuna inanabileceği. Ancak deneylerimiz bunların etkili olmadığını gösteriyor .” uyarısında bulunuyorlar.
Çalışmaya katılan ETH Zürih’te doçent olan Florian Tramèr, “burada gerçekten fark yaratacak güçlü bir teknik çözüm bulmanın çok zor” olduğunu kabul ediyor. Herhangi bir bireysel araçtan ziyade, nihayetinde neredeyse kesinlikle gerçekçi olmayan bir ideali savunuyor: İnsanların yalnızca insan yapımı sanat satın almaya kararlı olduğu bir ortam yaratmaya yardımcı olacak daha güçlü politikalar ve yasalar.
Baracaldo, burada yaşananların güvenlik araştırmalarında yaygın olduğunu belirtiyor: Bir savunma öneriliyor, bir düşman bunu bozuyor ve ideal olarak savunan düşmandan ders çıkarıyor ve savunmayı daha iyi hale getiriyor. “YZ sistemlerimizi daha güvenli hale getirmek için hem etik saldırganların hem de savunucuların birlikte çalışması önemli,” diyor ve ekliyor, “ideal olarak tüm savunmalar inceleme için herkese açık olmalı,” bu hem “şeffaflığa izin verir” hem de yanlış bir güvenlik duygusu yaratmaktan kaçınmaya yardımcı olur. (Ancak Zhao, araştırmacıların Glaze’in kaynak kodunu yayınlama niyetinde olmadığını söylüyor.)
Yine de, tüm bu araştırmacılar sanatçıları ve sanatlarını desteklediklerini iddia etseler bile, bu tür testler Zhao’nun sinirine dokundu. Daha sonra sızdırılan Discord sohbetlerinde, ETH Zürih-Google DeepMind ekibinden araştırmacılardan birinin insanları “umursamıyor” olduğunu iddia etti. (Bu araştırmacı yorum talebine yanıt vermedi, ancak bir blog yazısında savunmaları kırmanın, onları nasıl düzelteceğimizi bilmek için önemli olduğunu söyledi. Zhao, sözlerinin bağlamından çıkarıldığını söylüyor.)
Zhao ayrıca bana makalenin yazarlarının esas olarak Glaze’in daha eski bir sürümünü değerlendirdiğini vurguluyor; yeni güncellemesinin kurcalamaya karşı daha dirençli olduğunu söylüyor. Güncel Glaze korumalarına sahip görsellerle uğraşmanın, kopyalanan stile zarar vereceğini ve böyle bir saldırıyı işe yaramaz hale getireceğini söylüyor.
Bu ileri geri hareket, bilgisayar güvenliği topluluğunda önemli bir gerginliği ve daha genel olarak yapay zekadaki farklı gruplar arasındaki sıklıkla düşmanca ilişkiyi yansıtıyor. Sunduğunuz korumalar bozulabileceğinde insanlara güvenlik hissi vermek yanlış mıdır? Yoksa bir saldırganın zarar verme eşiğini yükselten bir koruma düzeyine sahip olmak, hiç olmamasından daha mı iyidir?
Imperial College London’da uygulamalı matematik ve bilgisayar bilimi doçenti olan Yves-Alexandre de Montjoye, benzer teknik korumaların kurşun geçirmez olmayı başaramadığı birçok örnek olduğunu söylüyor. Örneğin, 2023’te de Montjoye ve ekibi, tıbbi hastaların yüz görüntülerinin gizliliğini korumak için tasarlanmış yüz tanıma algoritmaları için dijital bir maskeyi inceledi ; programın algoritmasında (açık kaynaklı olan) sadece bir şeyi değiştirerek korumaları kırmayı başardılar.
Bu tür savunmaları kullanmak hala bir mesaj göndermek ve veri profillemesine biraz sürtüşme eklemektir, diyor. “Kullanıcıları veri profillemesinden koruyan TrackMeNot gibi araçlar” “protesto etmenin bir yolu olarak sunuldu; rızam olmadığını söylemenin bir yolu olarak .”
“Ancak aynı zamanda,” diye savunuyor, “sanatçılara bunun kaldırılabilir olduğu ve gelecekteki algoritmalara karşı koruma sağlamayabileceği konusunda çok net olmamız gerekiyor.”
Zhao, araştırmacıların Glaze’in bazı zayıf noktalarına işaret ettiğini kabul etse de, “güvenlik araçlarının asla mükemmel olmadığı” göz önüne alındığında, Glaze ve Nightshade’in konuşlandırılmaya değer olduğuna dair şaşırtıcı olmayan bir şekilde kendine güveniyor. Gerçekten de, Baracaldo’nun da belirttiği gibi, Google DeepMind ve ETH Zürih araştırmacıları, oldukça motive olmuş ve gelişmiş bir saldırganın neredeyse her zaman bir yol bulacağını gösterdi.
Ancak Zhao, spam filtrelerini ve güvenlik duvarlarını örnek göstererek, “Doğada gerçek bir güvenlik sorununuz varsa ve bir koruma aracı tasarlamaya çalışıyorsanız, cevabın ya mükemmel çalışması ya da kullanılmaması gerektiğini düşünmek basite indirgemektir” diyor. Savunma, sürekli bir kedi-fare oyunudur. Ve çoğu sanatçının riski anlayacak kadar bilgili olduğuna inanıyor.
Umut sunmak
Yaratıcılar ve yapay zeka şirketleri arasındaki mücadele şiddetlidir. Yapay zekadaki mevcut paradigma, giderek daha büyük modeller inşa etmektir ve en azından şu anda, eğitim için internetten toplanan geniş veri kümelerine ihtiyaç duydukları gerçeğinden kaçış yoktur. Teknoloji şirketleri, kamuya açık internetteki her şeyin adil bir oyun olduğunu ve telif hakkıyla korunan materyal olmadan gelişmiş yapay zeka araçları inşa etmenin “imkansız” olduğunu savunuyor ; birçok sanatçı, teknoloji şirketlerinin fikri mülkiyetlerini çaldığını ve telif hakkı yasasını ihlal ettiğini ve bireysel çalışmalarını modellerden uzak tutmanın yollarına ihtiyaçları olduğunu savunuyor – veya en azından kullanımları için uygun kredi ve tazminat almaları gerektiğini.
Şimdiye kadar, yaratıcılar tam olarak kazanmıyor. Birçok şirket tasarımcıları, metin yazarlarını ve illüstratörleri yapay zeka sistemleriyle değiştirdi . Yüksek profilli bir davada, Marvel Studios 2023 TV dizisi Secret Invasion’ın jenerik sekansında insan yapımı sanat eserleri yerine yapay zeka tarafından üretilen görseller kullandı . Bir diğerinde, bir radyo istasyonu insan sunucularını kovdu ve yerlerine yapay zeka ile değiştirdi. Teknoloji, sendikalar ile film, TV ve yaratıcı stüdyolar arasında büyük bir çekişme konusu haline geldi ve en son video oyunu sanatçılarının grevine yol açtı . Sanatçılar, yazarlar, yayıncılar ve plak şirketleri tarafından yapay zeka şirketlerine karşı açılan çok sayıda devam eden dava var. Net bir yasal çözüm bulunana kadar yıllar geçmesi muhtemel. Ancak bir mahkeme kararı bile yaratıcı yapay zekanın yarattığı zor etik soruları çözemeyebilir. Gelecekteki herhangi bir hükümet düzenlemesinin de, eğer gerçekleşirse, bunu başarması pek olası değil.
İşte bu yüzden Zhao ve Zheng, Glaze ve Nightshade’i gerekli müdahaleler olarak görüyorlar; orijinal çalışmaları savunmak, kendilerine yardım etmek isteyenlere saldırmak ve en azından sanatçılara biraz zaman kazandırmak için araçlar. Mükemmel bir çözüme sahip olmak gerçekten önemli değil. Araştırmacıların hemen bir şeyler sunması gerekiyor çünkü Zheng, YZ sektörünün inanılmaz bir hızla hareket ettiğini ve şirketlerin insanlara yönelik çok gerçek zararları görmezden geldiği anlamına geldiğini söylüyor. “Muhtemelen tüm teknoloji kariyerlerimizde bu kadar çok çatışma gördüğümüz ilk sefer bu,” diye ekliyor.
Çok daha büyük bir ölçekte, o ve Zhao, Glaze ve Nightshade’in sonunda YZ şirketlerinin sanatı nasıl kullandıklarını ve ürünlerinin onu nasıl ürettiklerini elden geçirecek güce sahip olmasını umduklarını söylüyorlar. YZ modellerini eğitmek göz yaşartıcı derecede pahalıdır ve mühendislerin milyarlarca görüntüden oluşan bir veri setinde zehirli örnekleri bulup temizlemesi son derece zahmetlidir. Teorik olarak, internette yeterli sayıda Nightshade görüntüsü varsa ve teknoloji şirketleri bunun sonucunda modellerinin bozulduğunu görürse, geliştiricileri lisanslama ve adil tazminat konusunda pazarlık yapmak için pazarlık masasına itebilir.
Elbette bu hala büyük bir “eğer”. MIT Technology Review, Midjourney ve Stability YZ gibi çeşitli YZ şirketlerine ulaştı ancak bu şirketler yorum taleplerine yanıt vermedi. Bu arada OpenYZ’nin bir sözcüsü, veri zehirlenmesiyle karşılaşma hakkında herhangi bir ayrıntıyı doğrulamadı ancak şirketin ürünlerinin güvenliğini ciddiye aldığını ve güvenlik önlemlerini sürekli olarak iyileştirdiğini söyledi: “Sistemlerimizi bu tür suistimallere karşı nasıl daha sağlam hale getirebileceğimiz konusunda her zaman çalışıyoruz.”
Bu arada, SAND Lab ilerliyor ve projeyi devam ettirmek için vakıflardan ve kâr amacı gütmeyen kuruluşlardan fon arıyor. Ayrıca, fikri mülkiyetlerini korumak isteyen büyük şirketlerin de ilgi gösterdiğini söylüyorlar (hangileri olduğunu söylemeyi reddediyorlar) ve Zhao ile Zheng, araçların oyun, video veya müzik gibi diğer endüstrilerde nasıl uygulanabileceğini araştırıyorlar. Bu arada, Chicago laboratuvarındaki öğrencilerle yakın bir şekilde çalışarak Glaze ve Nightshade’i olabildiğince sağlam hale getirmeye devam etmeyi planlıyorlar; burada, başka bir duvarda Toorenent’in Belladonna’sı asılı . Resmin sağ alt köşesine kalp şeklinde bir not yapıştırılmış: “Teşekkürler! Biz sanatçılara umut verdiniz.”