Marty Hart-Landsberg
Çeviren: Nezih Kazankaya
Şirketlerin sizi Facebook’ta eğlendirmek, çevrimiçi cinsel partneriniz olmak, 7/24 terapi sunmak, arama sorularınıza yanıt sağlamak, haber yazmak veya çalışanların faaliyetlerinin yönetim gözetimini artırmak için YZ destekli sistemler oluşturmasını yüksek sesle talep edenlerden misiniz? Sanırım hayır. Yine de, nereye baksanız, YZ daha üretken ve tatmin edici bir yaşama giden yol olarak tanıtılıyor.
Gerçek şu ki, YZ çılgınlığı teknoloji şirketleri tarafından yönlendiriliyor, bizim ihtiyaçlarımız tarafından değil. Ve bu şirketler yaşamlarımızda YZ’ya ne kadar ihtiyacımız olduğunu bize anlatmak için durmaksızın çalışıyorlar. Onlar için çok şey tehlikede; eğer başarılı olurlarsa, bir servet kazanabilirler. Elbette, çabalarının toplumsal sonuçlarını zerre kadar umursamıyorlar. Hepsi büyük bir altın küpü hayalinin peşinde.
Ancak, YZ çılgınlığı, nereye gittiğine dair bazı makul sonuçlar çıkarmaya başlamamız için yeterince uzun sürdü. En önemlisi, büyük teknoloji şirketlerinin asla vaat ettiği dönüştürücü YZ’yı sunamayacağına inanmak için iyi nedenler var. Büyük bir neden, YZ’nın devam eden gelişiminin, çıktısını güvenilmez kılan veri kısıtlamaları ve açıklanamayan sanrılar tarafından ciddi şekilde kısıtlanmış olmasıdır. Bir diğeri ise, giderek daha karmaşık sistemleri geliştirmenin ve işletmenin içerdiği finansal maliyetlerin şaşırtıcı olması ve engelleyici olma ihtimalinin yüksek olmasıdır.
Ancak kenarda durup YZ çılgınlığının kontrolsüzce devam etmesine izin veremeyiz, sonunda geçeceğinden emin olsak bile. Bunun nedeni, bunun büyük bir kamu maliyetine yol açmasıdır. Her düzeydeki hükümetler tarafından sübvanse ediliyor, şehirlerimizi ve eyaletlerimizi ihtiyaç duydukları vergi gelirlerinden mahrum bırakıyor. Daha da önemlisi, bizi iklim kaosuna doğru daha da hızlı bir şekilde sürüklüyor.
Sahte Vaatler
Her şeyden önce: İnsanlar YZ hakkında konuştuğunda, genellikle akıllarına üretken yapay zeka (veya makine öğrenimi YZ) gelir. OpenAI, Kasım 2022’de GPT’nin Generative Pre-Trained Transformer (Üretken Ön İşlemeli Dönüştürücü) anlamına geldiği ChatGPT’yi piyasaya sürerek YZ çılgınlığını başlattı. Bu chatbot ve rakip şirketler tarafından üretilenler de dâhil olmak üzere sonraki sürümleri, çoğunlukla web’den alınan büyük miktarda veri ve bu verilerden yararlanarak olasılığa dayalı olarak istemlere bir yanıt belirlemesini sağlayan dönüştürücü adı verilen bir algoritma gerektirir. Teknoloji yazarı Megan Crouse’un açıkladığı gibi,
Model ne söylediğini “bilmiyor”, ancak eğitildiği veri kümesine dayanarak hangi sembollerin (kelimelerin) birbirinin ardından gelme olasılığını biliyor. ChatGPT, Google rakibi Bard ve diğerleri gibi mevcut nesil yapay zeka sohbet robotları gerçekten akıllıca bilgilendirilmiş kararlar almıyor; bunun yerine, doğal konuşma sırasında yan yana bulunma olasılığı yüksek olan kelimeleri tekrarlayan internetin papağanları. Altta yatan matematik tamamen olasılıkla ilgilidir.
Teknoloji şirketlerine göre, daha fazla veri ve daha fazla bilgi işlem gücüyle insan performansına giderek daha da yaklaşan sistemler geliştirmelerine olanak tanıyan hızlı iyileştirmelerin olduğu bir gelecek gören üretken yapay zeka sadece bir başlangıç. Sırada, adım adım komutlar olmadan atanan görevleri tamamlamak için bir dizi farklı eylemde bulunma ve karar verme yeteneğine sahip etkileşimli yapay zeka (IYZ) var. Ve sonra, çok da uzak olmayan bir gelecekte, kendi başlarına düşünme, öğrenme ve sorunları çözme yeteneğine sahip yapay genel zeka veya AGI sistemleri bekleyebiliriz. Amigolara göre, bu sistemler yeni aşılar geliştirmemizi, sera gazı emisyonlarını düşürmemizi, üretkenliği ve geliri artırmamızı, ilgisiz ve düşük ücretli işleri ortadan kaldırmamızı sağlayacak ve liste uzayıp gidiyor.
Ancak, giderek daha hızlı ve daha yetenekli üretken YZ sistemlerine yol açan YZ geliştirmeye yönelik önemli harcamalara rağmen, YZ şirketleri getirileri hayal kırıklığı yaratıyor. Teknoloji yazarı Edward Zitron’un yorumladığı gibi,
Bloomberg, OpenYZ, Google ve Anthropic’in daha gelişmiş YZ inşa etmekte zorlandığını ve OpenYZ’nin “Orion” modelinin – diğer adıyla GPT-5 – “şirketin istediği performansa ulaşamadığını” ve “Orion’un şu ana kadar GPT-3.5’ten GPT-4’e, yani mevcut modeline geçiş kadar büyük bir adım olarak görülmediğini” bildirdi. Bunun sebebinin “daha gelişmiş YZ sistemleri inşa etmek için kullanılabilecek yüksek kaliteli, insan yapımı eğitim verilerinin yeni, kullanılmamış kaynaklarını bulmanın giderek zorlaşması” olduğunu duyduğunuzda şaşıracaksınız.
YZ şirketleri, yatırımcıları sektörlerine yarı iletken endüstrisi prizmasından bakmaya teşvik etti; burada yeni yatırımlar, giderek daha küçük ve daha güçlü çipler üreten istikrarlı bir atılım rekoru üretti. Ancak, daha güçlü makinelere sahip giderek daha büyük veri merkezleri için önemli harcamalara rağmen YZ deneyimi böyle olmadı. Ve Zitron’un da belirttiği gibi, veri kısıtlamaları büyük nedenlerden biridir.
Basitçe söylemek gerekirse, YZ şirketleri İnternet’i büyük ölçüde insan tarafından oluşturulan verilerden temizledi ve yeni büyük veri kümeleri olmadan sistemleri yeni yetenekler geliştiremez. Onların yanıtı: Mevcut sistemlerini yeni veriler oluşturmak için sorular ve bilgi talepleriyle yönlendirmek. Ancak bu stratejide ciddi sorunlar var. Birincisi, büyük ölçüde web’den silinen mevcut veriler her türlü ırkçı, cinsiyetçi ve eksik bilgilendirilmiş gönderi ve makaleyi içeriyor. Bunlar, sistemin eğitimi için yeni materyal oluştururken kullandığı veritabanının bir parçasıdır. Sonuç olarak, bu zararlı kavramlar ve yanlış bilgiler daha da derinlere yerleşir.
Ancak daha da ciddi bir sorun var. Sistemi kendi yanıtlarıyla beslemek, giderek daralan bir yanıt aralığı üreten bir geri bildirim döngüsü yaratır. İnsan tarafından üretilen çıktı önemli ölçüde değişse de, YZ modelleri olası olasılıklara dayalı yanıtlar sağlamak üzere yapılandırılmıştır. Bu, eğitim verileri büyük ölçüde kendi kendine üretilmişse, yanıtlarının yakında modelin belirlenmiş “geleneksel bilgeliğine” yakınsayacağı anlamına gelir. Ve bu, sistemin güvenilirliğini ve kullanışlılığını sınırlar.
New York Times , “Yapay Zekanın Çıktısı Yapay Zekanın Kendisi İçin Bir Tehdit Olduğunda” başlıklı makalesinde sorunu şu şekilde vurguluyor:
Daha önceki chatbotlar tarafından üretilen daha dar bir tıbbi bilgi yelpazesi üzerinde eğitildiği için semptomlarınızla eşleşen daha az sayıda hastalığı listeleyen bir tıbbi tavsiye chatbotu hayal edin. . .
Tıpkı bir kopyanın kopyasının orijinalinden uzaklaşması gibi, üretici yapay zeka kendi içeriği üzerinde eğitildiğinde, çıktısı da gerçeklikten uzaklaşabilir ve taklit etmesi amaçlanan orijinal verilerden daha da uzaklaşabilir.
Geçtiğimiz ay Nature dergisinde yayımlanan bir makalede, İngiltere ve Kanada’daki bir grup araştırmacı, bu sürecin zaman içinde daha dar bir yapay zeka çıktısı aralığına yol açtığını, bunun “model çöküşü” adını verdikleri şeyin erken bir aşaması olduğunu gösterdi.
Bu sorun yalnızca metinle sınırlı değil. Rice Üniversitesi’ndeki bir başka araştırma ekibi, görüntü üreten YZ türlerinin kendi çıktıları üzerinde tekrar tekrar eğitildiğinde ne olacağını inceledi; bu, YZ tarafından üretilen görüntülerin web’i doldurmasıyla zaten gerçekleşebilecek bir sorun.
Yapay zekanın çıktısında aksaklıklar ve görüntü bozukluklarının oluşmaya başladığını, bunun sonucunda buruşuk desenler ve ezilmiş parmaklar içeren bozuk görüntülerin ortaya çıktığını buldular.
Sonra, potansiyel olarak daha ciddi bir sorun olan sanrılar var; bu, gerçeklikle hiçbir bağlantısı olmayan YZ çıktısını ifade ediyor; tarihler, saatler, yerler, olaylar tamamen uydurulmuş olabilir. Zitron’un belirttiği gibi , “Sanrı sorunu, çözülmeye yakın bile olmayan bir sorundur ve en azından mevcut teknolojiyle asla ortadan kalkmayabilir ve bu, yüksek düzeyde güvenilirliğe ihtiyaç duyduğunuz birçok iş görevi için başlatılamaz hale getirir.”
Bu teknolojik zorlukların finansal sonuçları da var. Bu noktada, YZ şirketleri, YZ sistemlerini geliştirmek için çok fazla para harcıyor ve bunun finansal ödüller açısından pek bir karşılığı yok. Microsoft’un deneyimi temsilidir:
Microsoft, yapay zekaya inanılmaz miktarda para harcadı ve ciddi kârlar elde edilmesi, eğer gerçekleşirse, muhtemelen yıllar sürecek.
Teknoloji devi, Haziran’da [2024] sona eren çeyrekte, nakit sermaye harcamaları ve ekipmana 19 milyar dolar harcadığını açıkladı; Wall Street Journal’ın haberine göre bu, şirketin bundan sadece beş yıl önce bir yılda harcadığı miktara eşit.
Şaşırtıcı olmayan bir şekilde, bu 19 milyar doların büyük kısmı YZ ile ilgiliydi ve yaklaşık yarısı veri merkezlerinin kurulması ve kiralanması için kullanıldı.
Şaşırtıcı olmayan bir şekilde, bu kayıt bazı yatırım analistlerinin YZ sektörünün geleceği hakkında uyarılarda bulunmasına yol açtı. New York Times’ın bildirdiğine göre, Goldman Sachs’ın hisse senedi araştırma başkanı Bay Covello,
Piyasaları, işletmelerin önümüzdeki yıllarda bazı tahminlere göre 1 trilyon dolar olabilecek YZ harcamalarından yeterli getiri elde edip edemeyeceklerini sorgulayan bir araştırma makalesiyle sarstı. Metni özetleyebilen ve yazılım kodu yazabilen üretken YZ o kadar çok hata yaptığını söyledi ki, karmaşık sorunları güvenilir bir şekilde çözüp çözemeyeceği şüpheliydi.
Bay Covello, yarı iletkenler üreten makineler gibi bazı karmaşık teknolojiler için maliyetlerin arttığını belirterek, YZ maliyetlerinin düşeceği fikrine meydan okudu. Ayrıca YZ’nın yeteneklerini eleştirdi.
“Dünyanın kullanmadığı veya hazır olmadığı şeyleri aşırı inşa etmek genellikle kötü sonuçlanır” dedi.
Büyük kamu maliyetiyle
Kenarda durup büyük teknoloji şirketlerinin hayallerinin peşinden gitmesine izin vermek caziptir. Eğer gerçekleşirlerse harika, gerçekleşmezlerse de kaybeden onlar olur. Ancak işler böyle yürümüyor. Hepimiz onların çabaları için yüksek bir bedel ödüyoruz.
Bir örnek: eyaletler ve şehirler muazzam vergi indirimleriyle veri merkezlerini çekmek için yarışıyorlar. Oregonian gazetesinin yaptığı bir araştırmaya göre , “Oregon, ülkenin en büyük ve en hızlı büyüyen veri merkezi endüstrilerinden birine sahip.” Ve bunun başlıca nedenlerinden biri de Amazon, Apple, Google ve Meta gibi büyük teknoloji şirketlerinin “dünyanın herhangi bir yerindeki en cömert vergi indirimlerinden bazılarını” alması. Veri merkezlerinde çok fazla kişi çalışmıyor, ancak bu merkezleri işleten zengin teknoloji şirketleri Oregon’da yıllık 225 milyon dolardan fazla vergi indiriminden faydalanıyor.”
Bu vergi indirimleri, okullar, kütüphaneler ve parklar gibi ihtiyaç duyduğumuz şeyler için daha az para anlamına geliyor. Ve veri merkezlerinin kendileri daha üretken amaçlar için kullanılabilecek arazileri işgal ediyor.
Giderek artan bir endişe ise bu veri merkezlerinin enerji sektörümüze büyük talepler yüklemesidir; bu talepler topluluklarımız için kritik zorluklar oluşturuyor. Oregonian’ın açıkladığı gibi:
Veri merkezi talebi, gelişmiş hesaplama için büyük miktarda elektrik kullanan YZ nedeniyle yükseliyor. Bu güçlü makineler şimdiden Oregon’un tüm gücünün %10’undan fazlasını tüketiyor ve yahmin uzmanları, veri merkezi güç kullanımının 2030’a kadar en az iki katı olacağını ve belki de birkaç kat daha fazla olacağını söylüyor. . . .
Veri merkezlerinin enerji ihtiyacı, Kuzeybatı’daki enerji hatlarının pahalı bir şekilde yenilenmesini ve yeni enerji santrallerinin inşa edilmesini tetikliyor. Vergi mükellefi savunucuları, düzenleyiciler ve politikacılar arasında, veri merkezlerinin büyümesinin maliyetinin büyük bir kısmının yüksek konut elektrik faturaları yoluyla hane halkına yükleneceğine dair endişeler giderek artıyor.
Oregon bir istisna değil. New York Times’a göre , “ABD’de şimdiden 5.000’den fazla veri merkezi var ve sektörün yıllık yaklaşık %10 büyümesi bekleniyor. Goldman Sachs, YZ’nın 2030 yılına kadar veri merkezi güç talebinde %160’lık bir artışa yol açacağını tahmin ediyor.”
Elektrik için bu patlayan talep, kömür de dâhil olmak üzere fosil yakıt kullanımında ve dolayısıyla ABD sera gazı emisyonlarında doğrudan belirgin bir büyümeye dönüşüyor ve iklim felaketi olasılığını artırıyor. Ancak, New York Times’ın bize bildirdiği gibi, teknoloji liderlerimiz umursamıyor gibi görünüyor:
Microsoft, veri merkezlerinin genişlemesi nedeniyle emisyonlarının 2020’den bu yana yüzde 30 arttığını söyledi. Google’ın emisyonları YZ nedeniyle son beş yılda neredeyse yüzde 50 arttı.
Google’ın eski CEO’su Eric Schmidt, YZ patlamasının çok güçlü olduğunu ve çok fazla potansiyele sahip olduğunu, iklim değişikliğiyle ilgili endişelerin buna engel olmasına izin vermeyeceğini söyledi.
Schmidt, biraz kaderci bir tavırla, “İklim hedeflerine zaten ulaşamayacağız” dedi ve emisyonları azaltmaya odaklanmaktansa, “Sorunu YZ’nin çözeceğine bahse girmeyi tercih ederim” diye savundu.
Başkan Biden, ulusa veda konuşmasında, “ülkemiz için gerçek tehlikeler oluşturabilecek potansiyel bir teknoloji endüstriyel kompleksinin yükselişi” konusunda uyardı. Ve yine de, The American Prospect’in baş editörü David Dayen’in belirttiği gibi,
Biden bu uyarıyı yaptığı hafta, yapay zeka için veri merkezlerinin kurulmasını ulusal güvenlik açısından bir zorunluluk haline getirerek bu teknoloji-sanayi kompleksine muazzam bir hediye veren bir kararname imzaladı. Kararname, veri merkezlerinin üretimini hızlandırmayı amaçlıyor (örneğin insanlar için konut üretimine tanınmayan yollarla) ve Pentagon ve Enerji Bakanlığı’na ait federal arazilerin veri merkezleri inşa etmek üzere kiralanmasını gerektiriyor (bkz. önceki parantez).
Burada kapitalizmin yıkıcı mantığının en güzel örneğiyle karşı karşıyayız.
https://economicfront.