Marty Hart-Landsberg
Çeviren: Nezih Kazankaya
Önde gelen büyük teknoloji şirketleri, Yapay Zeka’yı (YZ) herkes için bolluk dolu bir geleceğe açılan kapı olarak satmak için çok çalışıyorlar. Ve bu noktaya kadar yatırımcı parasını ve hükümet desteğini ele geçirmede şaşırtıcı derecede başarılı oldular ve zaten zengin olan sahiplerini daha da zenginleştirdiler. Ancak bu başarı, YZ sistemlerinin potansiyellerini büyük ölçüde tüketmiş olduğu gerçeğini değiştirmiyor. Daha da endişe verici olanı, bu sistemlerin okullar, işletmeler, medya ve ordu tarafından eleştirel olmayan ve hızla artan bir şekilde benimsenmesi, kolektif refahımız için ciddi bir tehdit oluşturuyor. Bu büyük teknoloji saldırısına karşı koymamız ve sert bir şekilde karşı koymamız gerekiyor.
Büyük dolandırıcılık
Elon Musk gibi teknoloji liderlerine göre, insanlar gibi düşünebilen, hissedebilen ve davranabilen duyarlı bilgisayarlar inşa etmemize yalnızca yıllar kaldı. Örneğin, Business Insider’ın bildirdiğine göre,
Tesla CEO’su Elon Musk, Dubai Dünya Hükümetleri Zirvesi’nde [Şubat 2025’te] verdiği röportajda, yapay zeka yatırımlarının ekonomik getirilerinin insansı robotlarda görüleceğini söyledi.
BAE’nin Yapay Zeka bakanıyla konuşan Musk, insansı robotların ve derin zekanın, “yarı sonsuz ürün ve hizmetler” sağlayarak küresel ekonominin potansiyelini açığa çıkaracağını söyledi.
Musk, insansı robotlar hakkında “Herhangi bir ürünü üretebilir, herhangi bir hizmeti sağlayabilirsiniz” demişti. “O noktada ekonominin gerçekten bir sınırı yok. Her şeyi yapabilirsiniz.” . . .
“Para anlamlı olacak mı? Bilmiyorum; olmayabilir de,” dedi ve robotların “evrensel bir yüksek gelir durumu” yaratabileceğini, çünkü herkesin istediği kadar mal ve hizmet üretme yeteneğine sahip olacağını ekledi.
Musk, yakın zamanda Tesla’nın adını bir yapay zeka robotik şirketi olarak değiştirdi ve Ocak ayındaki kazanç görüşmesinde şirketin yakında binlerce Otimus robotu üreteceğini ve bunun da kendisine “10 trilyon doların üzerinde gelir” kazandıracağını söyledi.
Ve Tesla bu stratejiyi izleyen tek şirket değil. Bloomberg’in bir makalesine göre , “Apple ve Meta, yapay zeka destekli insansı robotlar” inşa etmek için rekabette “karşı karşıya gelmeye” hazırlanıyor. Makale şöyle devam ediyor:
Bilim kurgu gibi bir şey — çamaşırlarınızı katlayabilen, size bir bardak su getirebilen, bulaşık makinesini doldurabilen veya hatta arka bahçedeki salıncakta çocukları sallayabilen evdeki robotlar. Yıllarca, bu gelecek çok uzakta görünüyordu. Ancak dünyanın en büyük teknoloji şirketlerinden bazılarının yardımıyla yaklaşıyor.
Eğer borsa ciddiye alınacaksa, pek çok yatırımcı gerçek inananlardan oluşuyor. Muhteşem Yedi olarak adlandırılan hisse senetleri – Apple, Microsoft, Google’ın ana şirketi Alphabet, Amazon.com, Nvidia, Meta Platforms ve Tesla – son birkaç yıldır piyasanın neredeyse tüm kazançlarından sorumlu oldu. 2023’ün başında bu yedi şirket S&P 500’ün yüzde 20’sini oluşturuyordu. Bir yıl sonra bu oran yüzde 28 oldu. Şimdi ise yüzde 33.
Gerçekçi olmak
OpenAI tarafından 2022’de piyasaya sürülen ChatGPT, YZ ile kamuoyunun etkileşiminin başlangıcını işaret etti. Ücretsizdi, erişimi kolaydı ve kullanmak için hiçbir teknik bilgi gerektirmiyordu. Ve en yaygın kullanılan sohbet robotu olmaya devam ederken, Tesla, Amazon, Meta, Google ve Microsoft dâhil olmak üzere diğer şirketler kendi rakip ürünlerini piyasaya sürdüler. Ancak, bu sohbet robotları çeşitli görevleri yerine getirebilse de, bunlarda “zeki” hiçbir şey yok. Ve hızlarını ve hesaplama güçlerini artırmak için yapılan yoğun harcamalara rağmen, kendi başlarına düşünme, öğrenme ve sorunları çözme yeteneğine sahip yapay genel zeka sistemlerinin yaratılmasına doğru anlamlı bir adım oluşturmuyorlar.
ChatGPT gibi mevcut YZ sistemleri, büyük ölçekli kalıp tanımaya dayanır. Çoğu web’den alınmış verilerle eğitilirler ve gerektiğinde yaygın kullanım kalıplarına uygun olarak materyali düzenlemek için karmaşık algoritmalar kullanırlar. Bir soru veya bilgi talebiyle yönlendirildiğinde, sohbet robotları veritabanlarındaki ilgili materyali belirler ve ardından olasılıklara göre sorguyu “en iyi” şekilde karşılayan bir kelime veya resim kümesi oluştururlar. Başka bir deyişle, sohbet robotları “düşünmez” veya “akıl yürütmez.” Rakip şirketler farklı veri kümelerinden yararlandığı ve farklı algoritmalar kullandığı için, sohbet robotları aynı istemde farklı yanıtlar sunabilir.
Aynı zamanda, tüm sohbet robotları aynı zayıflıklardan muzdariptir. Sistemlerinin kapsamlı verilere ihtiyacı vardır ve web’i taramak, son derece ayrımcı ve önyargılı materyallerden yararlanmaktan başka çarelerinin olmadığı anlamına gelir. Sonuç olarak, sohbet robotu yanıtları web’in en kötüleri tarafından tehlikeye atılabilir. Bir örnek: YZ destekli özgeçmiş tarama programlarının, White ile ilişkili isimlere bağlı özgeçmişleri orantısız bir şekilde seçtiği bulunmuştur. Ve karmaşıklıkları nedeniyle, henüz hiç kimse bir sohbet robotunun verilerini nasıl düzenlediğini ve kelime seçimini nasıl yaptığını tam olarak belirleyememiştir. Bu nedenle, henüz hiç kimse sohbet robotlarının periyodik olarak “sanrı görmesini” veya var olmayan kalıpları veya ilişkileri görmesini ve bunun da anlamsız yanıtlar vermelerine neden olmasını engellemenin bir yolunu geliştirememiştir.
BBC yakın zamanda önde gelen sohbet robotlarının haber öykülerini özetleme yeteneğini test etti ve ortaya çıkan cevapların önemli yanlışlıklar ve çarpıtmalar içerdiğini buldu. İşte BBC Haberleri ve Güncel Olaylar CEO’su Deborah Turness’ın söyledikleri:
Ekip, asistanlar tarafından üretilen cevapların yarısından biraz fazlasında ‘önemli sorunlar’ tespit etti. YZ asistanları, BBC materyallerinden alındığını söyledikleri cevapların yaklaşık beşte birinde açık olgusal hatalar ortaya koydu.
YZ asistanların BBC makalelerinden ‘alıntılar’ ekledikleri durumlarda, bunların onda birinden fazlası ya değiştirilmişti ya da makalede yer almıyordu.
Sorunun bir kısmı, YZ asistanlarının haber içeriğindeki gerçekler ile görüşler arasında ayrım yapmaması, güncel ve arşiv materyali arasında ayrım yapmaması ve cevaplarına görüş enjekte etme eğiliminde olmasından kaynaklanıyor gibi görünüyor.
Elde ettikleri sonuçlar, tüm bunların karmaşık bir karışımı olabilir; tüketicilerin özlediği ve hak ettiği doğrulanmış gerçeklerden ve netlikten çok uzak bir dünya.
Bu kesinlikle güven uyandıran bir kayıt değil. BBC ise YZ haber özetlerinin “geri çekilmesini” önerdi.
Tünelde ışık yok
Bu eksikliklerin farkında olan teknoloji şirketleri, eğitim verisi miktarının yanı sıra sohbet robotlarının bilgileri işlemek için kullandığı parametre sayısının artırılmasıyla bunların üstesinden gelinebileceğini savunuyor. Bu yüzden, giderek daha büyük veri merkezleri tarafından desteklenen, giderek daha pahalı çiplere sahip yeni sistemler inşa etmek için yarışıyorlar. Ancak, son çalışmalar bunun kazanan bir strateji olmadığını gösteriyor.
Nature dergisinde yayımlanan bir çalışmanın ortak yazarı Lexin Zhou’nun açıkladığı gibi , “en yeni LLM’ler [Büyük Dil Modelleri] etkileyici görünebilir ve bazı çok karmaşık görevleri çözebilir, ancak çeşitli açılardan güvenilir değildir.” Dahası, “eğilim net bir iyileşme değil, tam tersi bir durum gösteriyor gibi görünüyor.”
Zhou, bu sonucun bir nedeninin, son yükseltmelerin yeni sistemlerin belirli bir konu hakkında belirsizliği veya bilgisizliği kabul etme olasılığını azaltma eğiliminde olması olduğunu söylüyor. Aslında, yapılan değişikliklerin, modeller belirsiz bir bölgede olsa bile, “dil modellerinin görünüşte anlamlı bir şey söylemeye çalışmasını sağlama arzusu” tarafından motive edildiği anlaşılıyor.
Sonuçta ortaya çıkan tehlike açıktır. Aslında, Cambridge Üniversitesi’nde deneysel psikoloji profesörü olan Lucy Cheke’ye göre , “Bireyler çoğunlukla doğru bilgi üreten ancak gerçek sorunlara yol açacak kadar makul ama yanlış bilgi karıştıran sistemlere giderek daha fazla güveniyor. İnsanlar karmaşık soruları yanıtlamak için bu sistemlere giderek daha fazla güvendikçe bu durum özellikle sorunlu hale geliyor; bu sistemlere yanlış bir cevabı fark edemeyecekleri bir konumda olacaklar.” Bu sistemleri ruh sağlığı danışmanlığı veya tıbbi tavsiye sağlamak, öğrencilerimize eğitim vermek veya silah sistemlerini kontrol etmek için kullanmak, gerçekleşmeyi bekleyen bir felakettir.
Biraz perspektif
Teknoloji liderleri, YZ’nın ekonomimizde devrim niteliğinde değişikliklere yol açacağını, üretkenliği ve çoğunluğun refahını artıracağını güvenle ileri sürüyorlar. Ve beklenen ödülleri toplamak istiyorsak, onların yolundan çekilmemiz gerekiyor. Peki, önümüzdeki yıllar için öngörülen devasa YZ ile ilgili yatırımlardan gerçekten ne bekleyebiliriz?
Beklentilerimizi temellendirmenin bir yolu, bilgisayarların, internetin ve e-postanın artan popülaritesi ve kitlesel kullanımını içeren 1990’ların sonlarındaki teknoloji patlamasının ekonomik sonuçlarını düşünmektir. O zamanlar bu dönüm noktası döneminin Bilgi Çağı’nın başlangıcını ve sonsuz ekonomik genişlemenin geleceğini işaret ettiği söylenmişti. Ekonomik getiriye gelince, ABD işgücü verimliliğindeki benimseme sonrası eğilimlere ilişkin veriler cesaret verici değil. Uluslararası Para Fonu’nun bildirdiğine göre,
İşgücü verimliliği kazanımları 1960’larda ve 1970’lerde yıllık %3-3,5 aralığından 1980’lerde yaklaşık %2’ye düştü. 1990’ların sonu ve 2000’lerin başında, ABD ekonomisi üretkenlik büyümesi %3’e geri dönerken önemli ancak geçici bir üretkenlik patlaması yaşadı. Yaklaşık 2003’ten beri üretkenlik kazanımları yetersiz kaldı ve işgücü verimliliği Büyük Durgunluk’tan sonraki on yılda ortalama %1,5’in altında bir büyüme oranına düştü.
Evet, bu teknolojiler ve ortaya çıkardıkları çok sayıda şirket ve ürün çalışma ve yaşama şeklimizi değiştirdi, ancak ekonomik sonuçlar “devrimci” olmaktan çok uzaktı, eğer bununla çoğu insanın hayatını önemli ölçüde iyileştirmeyi kastediyorsak. İşçi kazançları ve ekonomik büyüme, işgücü verimliliğini benzer bir düşüş yörüngesinde takip etti. YZ sistemlerinin sınırlamaları göz önüne alındığında, bunların kullanımının işçiler için güçlü üretkenlik artışları ve daha yüksek kazançlar sağlamada daha etkili olacağını hayal etmek zor. Tabii ki çabanın asıl amacı bu değil. Teknoloji şirketleri yıllar içinde çok para kazandılar ve çeşitli YZ sistemlerinin yaygın olarak benimsenmesini sağlamayı başarırlarsa çok daha fazlasını kazanmaya devam edecekler.
Karşı saldırı
Teknoloji şirketleri, vaat ettikleri “yarı-sonsuz ürün ve hizmetler” geleceği karşılığında, vergi kredileri, imar değişiklikleri ve yatırım sübvansiyonları yoluyla, YZ sistemlerini geliştirmek ve çalıştırmak için ihtiyaç duydukları enerji ve suyu tekelinde tutan veri merkezlerinin devasa inşasını finanse etmemize yardımcı olmamızı talep ediyor. Bunda bizim için bir kazanç yok; aslında, Bloomberg News, Microsoft’un YZ konusundaki kendi araştırmasının şunları kullandığını bildiriyor:
Rahatsız edici bir eğilim gösteriyor: YZ’ya ne kadar çok güvenirsek, kendi adımıza o kadar az düşünüyoruz. . . .
Araştırmacılar çarpıcı bir örüntü buldu: Katılımcılar belirli görevler için YZ’ya ne kadar çok güvenirse, yazma, analiz ve eleştirel değerlendirmeler gibi bu becerileri kendileri o kadar az uyguladılar. Sonuç olarak, bu alanlardaki becerilerinin köreldiğini kendileri bildirdiler. Birkaç katılımcı, metinde dilbilgisini doğrulama veya yasal mektuplar yazma gibi görevleri yerine getirme yeteneklerinden şüphe etmeye başladıklarını ve bunun da üretken YZ’nın kendilerine verdiği her şeyi otomatik olarak kabul etmelerine yol açtığını söyledi.
Ve işin kalitesi bozulduğunda veya sanrılar ciddi hatalara yol açtığında kim suçlanacak? Milyarlarca dolara mal olan YZ sistemleri olmayacağına bahse girebilirsiniz.
Peki, ne yapılmalı? Açık olanı söyleme riskini göze alarak: Önde gelen teknoloji şirketlerinin abartılı iddialarına meydan okumalı ve medyanın basın bültenlerini kesin haber olarak ele almayı bırakmasını talep etmeliyiz. Gittikçe daha büyük veri merkezlerinin ve bunları çalıştırmak için gereken enerji sistemlerinin inşasına direnmeliyiz. Özellikle ayrımcı algoritmaların yıkıcı sonuçlarına karşı korunmak için, sosyal kurumlarımızda YZ sistemlerinin kullanımını kısıtlamak için mücadele etmeliyiz. Çalışanların önerilen herhangi bir YZ sisteminin tasarımında ve kullanımında söz sahibi olmasını sağlamak için işyerlerinde örgütlenmeliyiz. Ve her zaman insanların YZ kararlarını gözden geçirme ve gerektiğinde geçersiz kılma yeteneğine sahip olduğundan emin olmalıyız.