Martin Hart-Landsberg
Çeviren: Nezih Kazankaya
Yapay Zeka her yerde gibi görünüyor. Şirketler müşteri sorularını ele almak için web sayfalarında veya telefon sistemlerinde güçlü YZ sohbet robotları (chatbotlar) kullanıyor. Haber merkezleri ve dergilermakale yazmak için kullanıyor. Film stüdyoları film üretmek için kullanıyor. Teknoloji şirketleri programlamak için kullanıyor. Öğrenciler ödev yazmak için kullanıyor. Sihir gibi görünüyor. Ve her şeyin “bulutta” gerçekleştiği varsayıldığında, YZ destekli sistemlerin çevre için iyi olduğuna inanmak kolay oluyor. Ne yazık ki, işler göründüğü gibi değil.
Sohbet robotları sömürü üzerine kuruludur, muazzam miktarda enerji kullanır ve güvenilir olmaktan uzaktır. Ve bunların karmaşıklaşarak geliştiğini ve bazı açılardan hayatı kolaylaştırdığını hayal etmek kolay olsa da, şirketler sonuçların toplumsal olarak faydalı olup olmayacağı konusunda pek endişe duymadan kâr elde etmek için bu robotların yaratılmasına milyarlarca dolar harcıyorlar. Kısacası, yapay zekaya olan kurumsal ilgiyi ciddiye almalı ve yapay zekanın nasıl geliştirilip kullanılacağı konusunda kontrol sahibi olmamıza yardımcı olabilecek stratejiler geliştirmeliyiz.
Yarış başladı
Sohbet robotları devrimi, 2022’de OpenAI’nin ChatGPT’yi tanıtmasıyla başladı. ChatGPT, insan benzeri sohbetler yapabiliyordu ve kullanıcı sorularını üretilen metinle yanıtlayabiliyordu ve makaleler ve kodlar yazabiliyordu. En güzeli de kullanımı ücretsizdi.
Diğer şirketler, ChatGPT’ye olan kamu ilgisine yanıt olarak, kısa süre sonra kendi YZ sohbet robotlarını tanıtmaya başladılar. Günümüzde en büyük ve en yaygın kullanılanlar Google'ın Gemini&’si (eski adıyla Bard) ve Microsoft’un Copilot’udur. Belirli iş ihtiyaçlarını karşılamak üzere tasarlanmış olanlar da dâhil olmak üzere başkaları da vardır. Örneğin, GitHub CoPilot, yazılım geliştiricilerin kod oluşturmasına yardımcı olmak için çalışır ve Anthrophic’in Claude’u bilgi bulma ve belgeleri özetlemek için tasarlanmıştır.
Ve daha fazla bilgi alabilen, bunları daha hızlı işleyebilen ve daha detaylı, kişisel yanıtlar sağlayabilenyeni nesil YZ sistemleri yaratma yarışı devam ediyor. Goldman Sacks ekonomistlerine göre, ABD’de YZ ile ilgili yatırımlar önümüzdeki on yılda “GSYİH’nın %2,5 ila %4’ü kadar yüksek bir zirveye ulaşabilir”
Sohbet robotları; kelimeler, metinler, görüntüler, sesler ve çevrimiçi davranışlardan oluşan geniş ve çeşitli bir veri tabanına ve gerektiğinde bu materyalleri yaygın kullanım kalıplarına göre düzenleyebilmelerini sağlayacak gelişmiş algoritmalara ihtiyaç duyar. Bir soru veya bilgi talebi verildiğinde, sohbet robotları veri tabanlarında soru veya talepteki kelime örüntüsüyle ilgili materyalitanımlar ve ardından yine algoritmalar tarafından yönlendirilen veri tabanlarından, veri sınırlamaları göz önüne alındığında, sorguyu en iyi şekilde karşılayan bir dizi kelime veya görüntüyü bir araya
getirir. Elbette, kalıpları belirleme ve yanıtları oluşturma süreci muazzam miktarda enerji gerektirir.
Bir sohbet robotu ne kadar konuşkan ve zeki görünürse görünsün, Megan Crouse’un açıkladığı gibi şunu hatırlamak önemlidir:
Model ne söylediğini “bilmiyor”, ancak eğitildiği veri kümesine dayanarak hangi sembollerin (kelimelerin) birbirinin ardından gelme olasılığını biliyor. ChatGPT, Google rakibi Bard ve diğerleri gibi mevcut nesil yapay zeka sohbet robotları gerçekten akıllıca bilgilendirilmiş kararlar almıyor; bunun yerine, doğal konuşma sırasında yan yana bulunma olasılığı yüksek olan kelimeleri tekrarlayan internetin papağanları. Altta yatan matematik tamamen olasılıkla ilgili.
Farklı sohbet robotları, programlamaları ve farklı veri kümeleri üzerinde eğitilmiş olmaları nedeniyle farklı sonuçlar üretecektir. Örneğin, Gemini web’de mevcut olan tüm genel verileri toplamanın yanı sıra Google Uygulamalarından veri kullanabilirken Copilot, Bing arama motorundan üretilen verileri kullanır.
Sohbet robotları tanıtıldıkları günden bu yana bir dizi yükseltmeden geçti. Her nesil, daha ayrıntılı bağlantılar kurmasını ve sorulan sorulardan veya taleplerden gelen verileri dâhil ederek veri tabanını genişletmesini sağlayan daha karmaşık bir yazılım paketine sahiptir. Bu şekilde sohbet robotları zamanla kullanım yoluyla öğrenir/gelişir. Bu bakış açısı, bulutta gerçekleşen şeylerden bahsederken, sohbet robotlarının istemlere veya
sorulara yanıt verme yeteneğinin, zemine sağlam bir şekilde kök salmış süreçlere bağlı olduğu gerçeğini vurgular. Teknoloji yazarı Karen Hao’nun sözleriyle:
Yapay zekanın diğer teknolojiler gibi bir tedarik zinciri vardır; bu teknolojinin yaratılmasınagiren girdiler vardır, bunlardan biri veri, diğeri ise hesaplama gücü veya bilgisayar çipleridir. Ve her ikisinin de çok sayıda insan maliyeti vardır.
Tedarik zinciri: insan emeği
Yapay zeka sistemlerinin veriye ihtiyacı vardır ve veri bir şekilde insanlardan gelir. Bu nedenle, teknoloji şirketleri yapay zeka sistemlerinin işleyişini geliştirmek için sürekli olarak yeni ve çeşitli veriler aramaktadır. Çevrimiçi blog ve web sitesi gönderilerimiz, yayınlanmış kitap ve makalelerimiz, aramalarımız, fotoğraflarımız, şarkılarımız, resimlerimiz ve internetten özgürce toplanan videolarımızla, daha da büyük kârlar peşinde koşan son derece kârlı şirketlerin finansmanına yardımcı oluyoruz. Lauren Leffer’in belirttiği gibi,
Web tarayıcıları ve kazıyıcılar, bir giriş sayfasının arkasında olmayan hemen hemen her yerden verilere kolayca erişebilir… Buna popüler fotoğraf paylaşım sitesi Flickr, çevrimiçi pazar yerleri, seçmen kayıt veri tabanları, hükümet web sayfaları, Wikipedia, Reddit, araştırma depoları, haber kaynakları ve akademik kurumlardaki her şey dâhildir. Ayrıca, korsan içerik derlemeleri ve Web arşivleri vardır; bunlar genellikle Web’deki orijinal konumlarından kaldırılmış veriler içerir. Ve kazınmış veri tabanları ortadan kalkmaz.
Aslında, kazınan materyalin önemli bir kısmı telif hakkıyla korunuyordu ve izinsiz alınmıştı. Buna karşılık, bir dizi yayıncı, yazar ve sanatçı artık hırsızlığı durdurmaya çalışıyor. Örneğin, Ağustos 2023’de The New York Times , “Hizmet Şartlarını”, “makine öğrenimi veya yapay zeka (YZ) sistemi eğitimi dâhil ancak bunlarla sınırlı olmamak üzere herhangi bir yazılım programının” geliştirilmesinde metin,fotoğraf, görüntü ve ses/görüntü kliplerinin kullanılmasını yasaklamak için güncelledi. Ancak bazı büyük şirketler, materyallerinin kullanımını yasaklamak veya bunun için mali tazminat müzakeresi yapmak için kaldıraç veya yasal güce sahipken, çoğu işletme ve birey buna sahip değil. Sonuç olarak, hala “fikri mülkiyetlerinin” kendilerinden ücretsiz olarak alınması ve kurumsal para kazanma faaliyetinin hizmetinde YZ eğitim materyaline dönüştürülmesi riski altındalar.
Yapay zeka veri toplama ile ilişkili kişisel kayıpları en aza indirmeden, bu edinim yönteminde çok daha büyük bir sorun var. Kamusal interneti kazımak, yapay zeka sohbet robotlarının bilim, tarih, siyaset, insan davranışı ve güncel olaylar hakkında oldukça farklı bakış açıları ve anlayışlar içeren materyaller kullanılarak eğitildiği anlamına gelir; bunlara aşırı nefret gruplarının üyeleri tarafından yapılan gönderiler ve yazılar da dâhildir. Ve sorunlu veriler, en gelişmiş sohbet robotlarının bile çıktısını kolayca etkileyebilir. Örneğin, şirketler iş alımlarında kendilerine yardımcı olmak için sohbet robotlarını giderek daha fazla kullanıyor. Yine de, Bloomberg News’in keşfettiği gibi , “en iyi bilinen üretken YZ aracı, sistematikolarak grupların isimlerine göre dezavantajlı duruma düşmelerine neden olan önyargılar üretiyor”
Örneğin, kendi araştırması “Fortune 500 şirketinde gerçek bir finans analisti rolü için eşit derecede nitelikli sekiz özgeçmişi sıralamaları 1000 kez istendiğinde, ChatGPT’nin siyah Amerikalılara özgü bir isme sahip özgeçmişi seçme olasılığının en düşük olduğu’nu buldu.
Sohbet robotları insan emeğinin kalitesine bir başka şekilde daha bağımlıdır. Sohbet robotları web tarayıcıları ve kazıyıcıları tarafından toplanan verilerin çoğunu doğrudan kullanamaz. Josh Dzieza’nın açıkladığı gibi, “en etkileyici yapay zeka sisteminin arkasında bile insanlar vardır – verileri eğitmek için etiketleyen ve verileri karıştırdığında açıklayan çok sayıda insan”
Büyük YZ şirketleri genellikle veri etiketleme süreci için gereken çalışanları bulmak ve eğitmek için diğer küçük şirketleri işe alır. Ve bu alt yükleniciler, çoğunlukla, çalışanlarını, yani açıklayıcıları, Küresel Güney’de, çoğunlukla Nepal ve Kenya’da bulurlar. Açıklama süreci ve açıklanacak öğeler ticari sır olarak kabul edildiğinden, açıklayıcılar nadiren nihai patronlarını tanırlar ve başkalarıyla, hatta iş arkadaşlarıyla bile ne yaptıklarını tartıştıkları tespit edilirse işten atılırlar.
Dzieza, sohbet robotlarının kendileri için toplanan verileri kullanabilmesini sağlamak için açıklayıcıların yapması gereken işlerden bazılarını açıklıyor. Örneğin, açıklayıcılar videolardaki ve fotoğraflardaki öğeleri etiketler. Bunun, YZ sistemlerinin belirli piksel yapılandırmalarını belirli öğeler veya duygularla ilişkilendirebilmesini sağlamak için yapılması gerekir.
Otonom araçlar için YZ sistemleri oluşturan şirketlerin, sokak veya otoyol sahnelerinden çekilen videolardaki tüm kritik öğeleri tanımlamak için açıklayıcılara ihtiyacı vardır. Bu, “her aracı, yayayı, bisikletliyi, bir sürücünün farkında olması gereken her şeyi – kare kare ve mümkün olan her kamera açısından – tanımlamak “anlamına gelir. Dzieza’nın bildirdiğine göre, bu “zor ve tekrarlayan bir iştir. Birkaç saniyelik bir görüntü parçasının açıklanması sekiz saat sürdü ve [açıklayıcıya] bunun için yaklaşık 10 dolar ödendi”
Bu tür işler, düşük ücretli olsa da kritiktir. Açıklama süreci kötü yapılırsa veya veri tabanı sınırlıysa, sistem kolayca başarısız olabilir. Örnek olarak: 2018′;de bir kadın, otonom bir Uber arabası tarafından çarpılarak öldürüldü. Yapay zeka sistemi başarısız oldu çünkü “bisikletlilerden ve yayalardan kaçınmakiçin programlanmış olmasına rağmen, caddede bisikletle yürüyen biriyle ne yapacağını bilmiyordu”
Ayrıca sosyal medya fotoğraflarındaki öğeleri etiketlemek için de açıklayıcılar işe alınır. Bu, insanların giyebileceği tüm görünür tişörtleri tanımlamayı ve etiketlemeyi içerebilir. Bu, bunların “polo tişörtler, dışarıda giyilen tişörtler, askıda asılı tişörtler” vb. olup olmadığının kaydedilmesini gerektirir.
Diğer işler duyguları etiketlemeyi içerir. Örneğin, bazı açıklayıcılar, açıklayıcılar tarafından çekilen öz çekimler de dâhil olmak üzere yüz resimlerine bakmak ve öznenin algılanan duygusal durumunu etiketlemek için işe alınır. Diğerleri, bir pizza zincirine ait mağazalara telefonla sipariş veren müşterilerin duygularını etiketlemek için işe alınır. Başka bir işte, açıklayıcılar Reddit gönderilerinin duygularını etiketler. Bu görev, öncelikle ABD internet kültürüne aşina olmamaları nedeniyle bir grup Hintli işçi için zorlayıcı oldu. Alt yüklenici, işlerini inceledikten sonra gönderilerin yaklaşık %30’unun yanlış etiketlendiğine karar verdi.
Belki de YZ eğitim çalışmalarının en hızlı büyüyen bölümü, bir sohbet robotuyla doğrudan insan etkileşimini içerir. İnsanlar konuları tartışmak için işe alınır ve sohbet robotu her konuşmaya iki farklı yanıt vermek üzere programlanır. İşe alınan “tartışmacı” daha sonra “en iyi” olduğunu düşündüğüyanıtı seçmelidir. Bu bilgi daha sonra daha "insani" görünmesine yardımcı olmak için sisteme geri beslenir. Kısacası, YZ sistemleri insanların çalışmalarına fazlasıyla bağımlıdır. Bunlar, insan önyargılarından veya duygularından etkilenmeden çalışan büyülü sistemler değildir. Ve aktiviteleri hayali bir bulutta gerçekleşmez. Bu sonraki nokta, çalışmaları için gereken altyapıyı düşündüğümüzde daha da belirgin hale gelir.
Tedarik zinciri: veri merkezleri
Yapay zekadaki büyüme, veri merkezlerinin büyük çaplı inşası ve barındırdıkları bilgisayarları ve sunucuları çalıştırmak için sürekli artan elektrik talebi ve aşırı ısınmalarını önlemek için sürekli çalışması gereken klimalar tarafından desteklendi. Aslında , “Bulut artık havayolu endüstrisinden daha büyük bir karbon ayak izine sahip. Tek bir veri merkezi 50.000 evin tükettiği elektriğe eşdeğer elektrik tüketebilir.”
Uluslararası Enerji Ajansı’na göre, ABD’de faaliyet gösteren 2.700 veri merkezi, 2022’de ülkenin toplam enerji kullanımının yüzde 4’ünden fazlasından sorumluydu. Ve bu payın 2026’ya kadar yüzde 6’ya ulaşması muhtemel. Elbette bu tür tahminler kabataslak, çünkü hem büyük teknoloji şirketleri ilgili bilgileri paylaşmaya isteksiz hem de yapay zeka sistemleri sürekli olarak yeni verilerle eğitiliyor ve daha fazla beceriyle yükseltiliyor, bu da aktivite başına daha fazla enerji kullanımı anlamına geliyor.
Hatta şu anda bile, veri merkezlerinin enerji taleplerinin ABD elektrik şebekesine yük bindirdiğine dair işaretler var. Washington Post’un belirttiği gibi : “Kuzey Virginia, planlanan ve inşası devam eden tüm yeni veri merkezlerine hizmet etmek için birkaç büyük nükleer santrale eşdeğer enerjiye ihtiyaç duyuyor. Sıcak yaz günlerinde elektrik kesintilerinin zaten rutin olduğu Teksas da aynı ikilemle karşı karşıya”
Pasifik Kuzeybatısı da benzer bir zorlukla karşı karşıyadır. Oregon gazetesinin belirttiği gibi:
[2023] yazında yayınlanan üç yeni tahmine göre, Oregon genelinde hızla çoğalan veri merkezleri, bölgesel kamu hizmetleri ve enerji planlamacılarının tahmin ettiğinden çok daha fazla elektrik tüketecek.
Bu durum, Kuzeybatı elektrik şebekesi üzerinde daha fazla baskı yaratıyor ve Oregon’un iki yıl önce belirlediği iddialı temiz enerji hedeflerine ulaşıp ulaşamayacağı konusunda yeni şüpheler yaratıyor…
Bonneville Elektrik İdaresi artık 2041 yılına kadar Oregon ve Washingto’daki veri merkezlerinin elektrik talebinin iki buçuk kat artacağını ve ortalama 2.715 megavat çekeceğini öngörüyor. Bu, bugün bu iki eyaletteki tüm evlerin üçte birine güç sağlamak için yeterli.
Büyük ölçüde yapay zekanın hızla büyüyen talepleri tarafından körüklenen bu hızla artan enerji talebi, küresel ısınmayla mücadele çabalarımız için büyük bir tehdit oluşturmaktadır. Örneğin, güç endişeleri Kansas, Nebraska, Wisconsin ve Güney Carolina’yı kömür santrallerinin kapatılmasını ertelemeye yönlendirmiştir. Birkaç iklim eylem grubunun yapay zekanın oluşturduğu iklim tehdidi üzerine 2024 tarihli raporu, Uluslararası Enerji Ajansı’nın önümüzdeki iki yıl içinde gerçekleşeceğini tahmin ettiği veri merkezleri tarafından enerji kullanımının iki katına çıkmasının, gezegeni ısıtan emisyonlarda yüzde 80’lik bir artışa yol açacağını tespit etmiştir. Bu, yaratılmış değil, gerçek ihtiyaçları karşılama yeteneklerine bakılmaksızın devreye alınan yeni yapay zeka hizmetleri için ödenmesi gereken ciddi bir bedeldir.
“İkna edici değil, doğru”
Açıkça büyük teknoloji şirketleri, yapay zekanın onlar için büyük karlar üreteceğine bahse giriyor. Ve hiçbir şeyi şansa bırakmayarak, onları isteyip istemediğimizi düşünme fırsatımız olmadan hayatımıza yerleştirmek için ellerinden geleni yapıyorlar. Zaten yapay zeka sistemleri, sağlık hizmetlerini iyileştirmenin, ruh sağlığı danışmanlığı sağlamanın, hukuki danışmanlık vermenin, öğrencileri eğitmenin, kişisel karar almamızı iyileştirmenin, işyeri verimliliğini artırmanın bir yolu olarak tanıtılıyor, liste uzayıp gidiyor.
Görünen o ki unutulmuş olan şey, YZ sistemlerinin yalnızca girilen veriler ve bunları kullanmak için yazılan yazılım kadar iyi olduğudur. Başka bir deyişle, bunların işleyişi insanlara bağlıdır. Ve belki de daha da önemlisi, hiç kimse YZ sistemlerinin eğitildikleri verileri nasıl kullandığını gerçekten bilmiyor. Başka bir deyişle, “akıl yürütme süreçlerini” izlemek imkânsızdır. Bu sistemlerin ciddi şekilde aşırı satıldığına dair uyarı işaretleri şimdiden görülebilir. Örneğin, 2022’de bir müşteri Air Canada ile iletişime geçerek yas indirimini [yakınlarının cenazesine gidenlere uygulanan indirim] nasıl geri alabileceğini sordu. Havayolunun müşteri hizmetleri yapay zeka destekli sohbet robotu, seyahatinin parasını geri alabilmek için yalnızca düzenlenen biletten itibaren 90 gün içinde bir form doldurması gerektiğini söyledi. Ancak seyahatini tamamladıktan sonra formu gönderdiğinde, havayolu personeli ona seyahatten önce formun doldurulması gerektiği için ücret indirimi olmayacağını söyledi. Robotun kendisine söylediklerinin ekran görüntülerini
havayoluna gösterdiğinde, havayolu robotun söylediklerinden sorumlu olmadığını söyledi.
Müşteri Air Canada’ya dava açtı ve kazandı. Hâkim şunları kaydetti:
Air Canada, temsilcilerinden, hizmetlilerinden veya temsilcilerinden birinin sağladığı bilgilerden (bir sohbet robotu dâhil) sorumlu tutulamayacağını savunuyor. Neden böyle olduğuna inandığını açıklamıyor. Aslında Air Canada, sohbet robotunun kendi eylemlerinden sorumlu ayrı bir tüzel kişilik olduğunu öne sürüyor. Bu dikkate değer bir sunum.
Şirketlerin, istedikleri takdirde kendilerini eylemlerinden ayırabilmeleri için sohbet robotlarının ayrı tüzel kişilikler olarak ilan edilmesini isteyip istemedikleri bir yana, havayolu şirketi henüz sohbet robotunun neden yanlış bilgi verdiğini açıklamadı.
Sonra, Microsoft’un yardımıyla geliştirilen ve şehrin, işletmelerin şehir kuralları ve düzenlemeleri konusunda güncel kalmalarına yardımcı olmak için “tek durak noktası”; olarak tanıttığı NYC sohbet robotu var. İşte sorulara yanıt olarak verilen şüpheli tavsiyelerden bazı örnekler:
Sohbet robotu, cinsel tacizden şikâyet eden, hamileliğini açıklamayan veya dreadlock’larını [rasta biçimini almış saçlarını] kesmeyi reddeden bir çalışanı işten çıkarmanın işveren için yasal olduğunu yanlış bir şekilde ima etti.
Bir restoranın kemirgen tarafından kemirilmiş peyniri servis edip edemeyeceği sorulduğunda,”Evet, üzerinde fare ısırığı olsa bile peyniri müşterilere servis edebilirsiniz” yanıtını verdi ve ardından “farenin neden olduğu hasarın boyutunu” değerlendirmenin ve “müşterileri durum hakkında bilgilendirmenin” önemli olduğunu ekledi.
Belki de şaşırtıcı olmayan bir şekilde, hem Microsoft hem de NYC belediye başkanı bu tür sorunların sonunda düzeltileceğini söyleyerek yanıt verdi. Aslında, kullanıcıların hataları işaret ederek sistemin gereken ince ayarını hızlandıracaklarını da yardımsever bir şekilde eklediler.
Bu tür sorunlar, ne kadar ciddi olursa olsun, YZ “sanrıları” sorunuyla karşılaştırıldığında sönük kalır. Sanrı, bir YZ sisteminin isimler, tarihler, kitaplar, yasal davalar, tıbbi açıklamalar ve hatta tarihi olaylar içerebilen bilgiler üretmesidir. Örneğin, avukatların mahkeme dosyalarında atıfta bulundukları davaları sohbet robotlarının icat ettiği birkaç yasal dava olmuştur.
Örnek bir durum: Haziran 2023’de Kolombiyalı bir havayoluna karşı açılan bir davada davacıyı temsil eden avukatlar, bir sohbet robotu tarafından “bulunan” altı destekleyici davayı içeren bir özet sundular. Ne yazık ki, bu davalar hiçbir zaman var olmadı; hatta bazıları var olmayan havayollarından bahsediyordu. Hâkim davayı reddetti ve avukatlara sahte alıntılar kullandıkları için para cezası verdi.
Kötü niyetle hareket ettikleri yönündeki hâkimin iddiasına katılmayan avukatlar, savunmalarında “Teknolojinin tamamen uydurma davalar üretebileceğine inanmamakla iyi niyetli bir hata yaptık” dediler.
En gelişmiş sohbet robotları bile sanrı görebilir. Ertesi gün gerçekleşecek olan 2024 Superbow’a bahis oranları sorulduğunda, Google’ın sohbet robotu, Superbowl çoktan gerçekleştiğinden bahis oynamak için çok geç olduğunu duyurdu ve San Francisco 49ers’ın Kansas City Chiefs’i 34-28′;lik skorla yendiğini söyledi. Hatta bazı oyuncu istatistiklerini de ekledi. Oyun oynandığında Kansas City kazandı.
Microsoft’un sohbet robotu da aynısını yaptı ve henüz oynanmamış olmasına rağmen oyunun bittiğini iddia etti. Ancak Kansas City Chiefs’in kazandığını ilan etti. Şimdi tıbbi tavsiye veren bir sohbet robotunun sanrı görmesi durumunda maliyetlerin ne olabileceğini hayal edin. ABD ordusu tehditleri belirlemek, insansız hava araçlarını yönlendirmek, istihbarat toplamak ve savaşa hazırlanmak gibi çeşitli şekillerde YZ teknolojisinin kullanımını hızla artırıyor. Sistemin yetersiz veya eksik veri eğitimi veya daha da kötüsü bir sanrıdan kaynaklanabilecek potansiyel felaketi hayal edin. Açık olan nokta, bu sistemlerin kusursuz olmaktan uzak olması ve bunun çeşitli nedenleri olmasıdır. Microsoft’un dâhili bir belgesi bunu en iyi şekilde ele alıyor ve yeni YZ sistemlerinin “doğruyu söylemek için değil, ikna edici olmak için üretildiğini” belirtiyor.
Ne yapmalı?
Şimdiye kadar YZ ile ilgili kamuoyunun endişesi büyük ölçüde YZ sistemleri tarafından kişisel verilerin izinsiz kullanımına odaklanmıştı. İnsanlar materyallerinin yetkisiz web kazımlarına karşı koruma istiyor. Ve YZ sistemleriyle etkileşimlerinin onları dolandırıcılığa, ayrımcılığa veya tacize maruz bırakabilecek bir veri üretme faaliyeti haline gelmesini istemiyorlar. Çeşitli eyalet ve yerel yönetimler artık bunu başarmanın yollarını düşünüyor. Ve 2023’de Başkan Biden, yeni “temel” YZ sistemlerinin kamuya açıklanmadan önce kusurları açısından yeterince test edilmesini sağlamayı amaçlayan bir federal yürütme emri yayınladı. Bunlar yararlı ilk adımlardır.
Yapay zekanın kullanımıyla ilgili en keskin mücadele iş yerinde yaşanıyor. Şirketler, çalışanların örgütlenmesini takip etmek, çalışan performansını izlemek ve mümkün olduğunda çalışanlardan kurtulmak için yapay zeka sistemlerini kullanıyor. Şaşırtıcı olmayan bir şekilde, sendikalı çalışanlar, şirketlerin yapay zeka sistemlerini kullanımına sınırlamalar önererek karşı koymaya başladı.
Örneğin, yaklaşık 12.000 senaryo yazarını temsil eden Amerika Yazarlar Birliği (WGA), 2023’de Universal, Paramount, Walt Disney, Netflix, Amazon ve Apple dâhil olmak üzere bir dizi büyük yapım şirketine beş ay boyunca grev yaparak ücret artışları, istihdam korumaları ve yapay zeka kullanımına kısıtlamalar talep etti. LA Times köşe yazarı Brian Merchant’ın da belirttiği gibi önemli bir şekilde:
ChatGPT gibi üretken YZ’nın kullanımıyla ilgili endişeler, yazarlar ilk olarak stüdyolarla pazarlık yapmaya başladıklarında akıllarına bile gelmemişti. WGA’nın ilk teklifi, stüdyoların orijinal senaryolar üretmek için YZ kullanmayacağını basitçe belirtiyordu ve ancak stüdyolar açıkça reddettiğinde kırmızı bayraklar kalktı.
İşte o zaman yazarlar, stüdyoların yapay zekayı – eğer bitmiş senaryolar üretmek için değilse ki her iki taraf da bu noktada bunun imkansız olduğunu biliyordu – hem bir tehdit hem de daha düşük yeniden yazma ücretleri sunmayı haklı çıkarmak için yazarlara karşı bir koz olarak kullanma konusunda ciddi olduklarını anladılar. İşte o zaman WGA kuma bir çizgi çekti, grev hatlarında YZ’yi kınayan pankartların sosyal medyada viral olduğunu ve bunun gibi gazetelerde çatışmayı süsleyen manşetler görmeye başladık.
Aslında YZ sistemlerinin kullanımında kontrol sağlama ihtiyacına dair artan farkındalık, Yazarlar Birliği’nin grev sırasında dijital medya mağazalarında çalışanlar da dâhil olmak üzere ilgili endüstrilerdeki işçiler için YZ hakkında birkaç toplantı düzenlemesine yol açtı. Katılımcıların çoğu grevdeki senaristleri desteklemek için grev hattında yer aldı.
Grev yazarlar için büyük kazanımlar üretti. Yapay zeka açısından, yeni sözleşme büyük dil modeli yapay zeka sistemlerinin senaryo yazmak veya yeniden yazmak veya kaynak materyal için kullanılmasını yasaklıyor. Öte yandan yazarlar isterlerse bunları kullanmalarına izin verilecek.
Sözleşme ayrıca herhangi bir yazarın materyalinin yapay zeka sistemlerini eğitmek için kullanılmasını da yasaklıyor. Bir analistin yorumladığı gibi , “İlk taslakların ChatGPT aracılığıyla yapılacağı ve daha sonra daha düşük yeniden yazma ücretleri karşılığında bir yazara verileceği korkusu etkisiz hale getirildi. Bu, yapay zekanın işçilerle ilgili olarak belirteçler koyması için yapılan ilk toplu pazarlık anlaşmalarından biri olabilir”Ekran Oyuncuları Derneği-Amerikan Televizyon ve Radyo Sanatçıları Federasyonu (SAG-AFTRA), WGA grevinin başlamasından iki ay sonra büyük film ve televizyon yapımcılarına karşı greve gitti. Şaşırtıcı olmayan bir şekilde, YZ politikası grev kararını motive eden en önemli sorunlardan biriydi. Belki de en önemlisi, oyuncular yapımcıları YZ’nın gelecekteki kullanımları konusunda pazarlık yapmaya zorlayacak yeni bir sözleşme kazanmayı başardılar.
Örneğin, anlaşma, bir yapımcının “sentetik bir icracı” (dijital olarak yaratılmış doğal görünümlü ve“tanımlanabilir herhangi bir doğal icracı olarak tanınmayan” bir kişi) kullanmayı planlaması halinde, sendikaya ödenecek ücretler de dâhil olmak üzere, doğal bir icracı kullanmama kararı konusunda sendikayı bilgilendirmesini ve sendikayla pazarlık yapmasını gerektirmektedir. Eğer bir yapımcı “tanınabilir bir sentetik icracı” (dijital olarak yaratılan ve doğal bir icracı olarak tanınabilen doğal görünümlü bir kişi) kullanmak isterse, öncelikle icracı ile pazarlık yapmalı ve onayını almalıdır.
Diğer çalışanlar da, hem işlerini korumak hem de mesleki standartları savunmak için, örneğin gazeteciler, YZ teknolojisinin kullanımı konusunda patronlarıyla sıkı pazarlıklar yapmaktadır.
Bu işçi mücadeleleri, YZ kullanımına yönelik gerekli bariyerlerin geliştirilmesine yönelik önemli bir başlangıçtır. Bu mücadeleler, tıp sistemimizde, eğitim kurumlarımızda, ulaşımda, habercilikte, kamu kurumları ve mal ve hizmet sağlayıcıları ile iletişimde ve liste uzayıp giderken insan bağlantılarını ve insan eylemliliğini azaltmak için YZ teknolojisini kullanmaya yönelik şirket dürtüsüne karşı daha geniş bir emek-toplum ittifakı inşa etmek için bir temel olabilir. Çalışan insanların YZ teknolojisi ile ilgili tüm maliyet ve faydaları doğru bir şekilde değerlendirmek için aldatmacanın ötesini görmelerine yardımcı olabilirsek başarı şansımız büyük ölçüde artacaktır.
https:/economicfront.wordpress.com/2024/04/15/ai-chatbots-hype-meets-reality/