Seth Lazar, Alex Pascal / 13 Şubat 2024
2023, yeni ürünlerin alandaki son gelişmeleri evrensel dikkatlere sunmasıyla ve dünyanın en güçlü teknoloji şirketlerinin ‘Yapay Genel Zeka’ (AGI) elde etme hedeflerini ilan etmesiyle YZ yılıydı. 2024, dünya nüfusunun % 40’ından fazlasını temsil eden 40’tan fazla ülkenin (ABD, Hindistan, İngiltere, Ukrayna, Tayvan ve Güney Afrika dahil) rekor kırarak sandık başına gittiği demokratik seçimlerin yılı olacak. Birçok kişi , bilgi ve iletişim ortamımız YZ tarafından üretilen deepfake’ler, dezenformasyon ve potansiyel siber saldırılarla giderek daha fazla kirlenirken , haklı olarak, birincisinin ikincisi üzerindeki doğrudan etkileri konusunda uyarıda bulunuyor . YZ’nın 2024’te ne kadar fark yaratacağı hala açık bir soru. Ancak bu acil tehditlerin ötesinde: AGI’nin gelişi demokrasiyi bir kez ve sonsuza dek bitirebilir.
Birçok kişiye bu korku uzak, hatta varsayımsal görünebilir. Bu anlaşılabilir. Şu anda, mevcut YZ sistemleri tarafından gündeme getirilen çok daha acil endişeler var; önyargı ve ayrımcılıktan emek sömürüsüne ve kitlesel gözetlemeye kadar uzanan zararlar ve iş yerinden çıkarmadan yaratıcı ekonomiyi altüst etmeye kadar uzanan ekonomik bozulmalar da dahil. Dahası, bugün YZ ile ilgili en büyük sorunlardan biri, ne kadar şaşırtıcı derecede yetenekli olduğu değil, beklentileri karşılayamamasıdır.
Öyleyse, AGI’den çok uzaktaysak, neden şimdi endişelenelim? Çünkü en gelişmiş YZ sistemlerini inşa eden insanlar bunu gerçekleştirmek için açıkça ve agresif bir şekilde çalışıyorlar ve 2-5 yıl içinde oraya ulaşacaklarını düşünüyorlar. En şüpheci YZ araştırmacılarından bazıları bile bu on yıl içinde AGI’yi dışlamıyor. Etkilenen halk olarak, bu teknoloji arayışını şimdi şekillendirmezsek, bunu yapma şansını tamamen kaçırabiliriz. Temel bir soruyla karşı karşıyayız: AGI’nin peşinde koşmak, demokrasilerin izin vermesi gereken türden bir amaç mıdır?
AGI’yi Tanımlamak
AGI nedir? Bazen tanımlamak duvara jöle yapıştırmak gibi gelebilir. Ancak ilerleme hızlandıkça, bir fikir birliğine benzer bir şey ortaya çıkıyor. Geniş bir literatürü sentezleyen AGI, şu anda insanlar tarafından gerçekleştirilen herhangi bir bilişsel işlevi, ortalama insan düzeyinde veya daha iyi bir düzeyde (bunun ima ettiği kaba niceleme ve varsayımları kabul ederek) gerçekleştirebilen biyolojik olmayan bir hesaplama sistemi olacaktır. Google DeepMind’ın yakın tarihli “AGI Düzeyleri: AGI Yolunda İlerlemenin Operasyonelleştirilmesi” başlıklı makalesi , önemli kilometre taşları olarak “dilsel zeka, matematiksel ve mantıksal muhakeme, mekansal muhakeme, kişilerarası ve kişi içi sosyal zekalar, yeni beceriler öğrenme yeteneği ve yaratıcılık”tan bahsediyor. Diğer YZ araştırmacıları şunları da ekleyecektir: araçsal rasyonalite; nedensel muhakeme; araç kullanımı; ve en azından gerçeği yanlıştan ayırt etme yeteneği. OpenYZ buna basitçe “genel olarak insanlardan daha akıllı olan YZ sistemleri” diyor .
Mevcut YZ sistemleri, belki de dilsel yeterlilik dışında, az önce bahsedilen her kriterde şüphesiz AGI’den çok uzaktır. Ve yine de, OpenYZ’nin en gelişmiş modeli olan GPT-4, önceki sistemlerden önemli ölçüde daha genel ve yeteneklidir. YZ araştırmasının uygulanabilirlik ufku hızla dışarıya doğru genişliyor. Ve teknoloji uzmanları henüz AGI’nin bileşenlerine sahip olmasa da, çoğu, hem GPT-4’ün başarılarını geliştirmek hem de sınırlamalarını doldurmak açısından nereye bakmaları gerektiğini bildiklerini düşünüyor. Ve son on yılda çok fazla ilerlemeden sorumlu olan önde gelen YZ laboratuvarları ve Büyük Teknoloji şirketleri, AGI’nin yaratılmasını açık misyonları olarak belirlediler . Bunun sadece bir abartı olduğunu veya AGI’ye ulaşmanın kaçınılmaz olduğunu düşünmeniz fark etmez, en azından şimdi , bu hedefi takip etmenin demokratik değerlerle tutarlı olup olmadığını sormalıyız .
Demokratik bir yeşil ışık, sadece bariyerler değil
İlk bakışta cevap hayır gibi görünüyor. AGI, ekonomilerimizi, politikalarımızı, kültürümüzü ve topluluklarımızı şekillendirmek ve bozmak için önceki herhangi bir yenilikten daha fazlasını yapabilir. Demokrasilerde halk egemendir. Herkes eşit olarak durmalı ve birlikte yönetmelidir (en azından temsilcilerimiz aracılığıyla). AGI’nin gelişiyle ilgili kaçınılmaz bir şey yok. Bu bir seçim. Hepimizi derinden etkileyecek bir seçim. Soru şu, bunu kim yapıyor?
Şu anda, cevap daha da az sayıda teknoloji şirketindeki birkaç kişi. Özel şirketlerin AGI kadar potansiyel olarak dönüştürücü teknolojilerin geliştirilmesini tek taraflı olarak takip etmelerine izin vermek açıkça demokratik değildir. Bazı önde gelen YZ laboratuvarlarını normal işletmelerden daha kamu yararına hale getirmek için kurumsal yönetimdeki iyi niyetli deneylere rağmen , bir Yönetim Kurulu, AGI’nin yörüngeleri ve yaşamları kökten değiştireceği toplumları ve insanları yeterince temsil edemez. Şimdiye kadar, YZ’nın toplumsal etkilerinin nasıl kontrol altına alınacağı hakkındaki kamuoyu tartışması, esas olarak YZ’nın zararlarını ve risklerini azaltmak için gelişimini şekillendirecek bariyerleri belirlemeye odaklandı. Bu gereklidir, ancak yeterli değildir. Ayrıca, ilk etapta AGI inşa etmek isteyip istemediğimize dYZr daha temel soruyu da sormamız gerekir. Gelecekteki teknolojilerin gelişi kesin bir durum değildir; geçmişte, örneğin insan klonlamasıyla, istersek gelişimi yavaşlatabileceğimizi veya durdurabileceğimizi gösterdik. Yapay zeka geleceğimizin ne olması gerektiğini düşünüyorsanız, bu, birlikte bilinçli olarak seçtiğimiz bir şey olmalı. Biz, Halk, aslında istemediğimiz bir yapay zeka geleceğine uyurgezer gibi girmemek için soruyu sormalıyız.
https://www.techpolicy.press/can-democracy-survive-artificial-general-intelligence/