Editörün Notu: Aşağıdaki yazı MIT Technology Review’in 28.04.2025tarihinde yayınlanan “Algoritma” bülteninden alınmıştır ve özetlenmiştir. Yazı sonundaki link’e ulaşılarak orijinal kopyaya ulaşmak mümkündür.
James O’Donnel
Şu anda, her yerde bulunmasına rağmen, YZ normal bir teknolojiden çok uzak bir şey olarak görülüyor. Yakında ” süper zeka ” terimini hak edecek YZ sistemlerinden bahsediliyor ve Google’ın eski CEO’su yakın zamanda YZ modellerini uranyum ve diğer nükleer silah malzemelerini kontrol ettiğimiz şekilde kontrol etmemizi önerdi. Anthropic, YZ ” refahını ” incelemek için zaman ve para harcıyor, AI modellerinin hangi haklara sahip olabileceği de dahil. Bu arada, bu tür modeller müzik yapmaktan terapi sağlamaya kadar açıkça insan hissettiren disiplinlere doğru ilerliyor.
Yapay zekanın geleceğini düşünen herkesin ütopik veya distopik bir kampa düşme eğiliminde olması şaşırtıcı değil. OpenAI’dan Sam Altman, yapay zekanın etkisinin Sanayi Devrimi’nden çok Rönesans’a benzeyeceğini düşünürken , Amerikalıların yarısından fazlası yapay zekanın geleceği konusunda heyecanlı olmaktan çok endişeli. (Bu yarıya yakın zamanda bir partide yapay zekaya dirençli toplulukların ortaya çıkıp çıkmayacağını tahmin eden birkaç arkadaşım da dahil; modern zamanların Menonitleri, yapay zekanın zorunlulukla değil seçimle sınırlı olduğu alanlar yaratıyor.)
Bu bağlamda, Princeton’daki iki yapay zeka araştırmacısının yakın zamanda yazdığı bir makale oldukça kışkırtıcı geldi. Üniversitenin Bilgi Teknolojileri Politikası Merkezi’ni yöneten Arvind Narayanan ve doktora adayı Sayash Kapoor, herkesin sakinleşmesi ve yapay zekayı normal bir teknoloji olarak düşünmesi için 40 sayfalık bir çağrı yazdı . Bu, “onu ayrı bir tür, son derece özerk, potansiyel olarak süper zeki bir varlık olarak görme eğiliminin” tam tersidir.
Araştırmacılara göre yapay zeka, nükleer silahlardan ziyade, elektriğin veya internetin uzun süreli benimsenmesine kıyasla daha iyi uygulanabilecek genel amaçlı bir teknolojidir; ancak bunun bazı açılardan hatalı bir benzetme olduğunu da kabul ediyorlar.
Kapoor’a göre temel nokta, yapay zeka yöntemlerinin hızlı gelişimi (yapay zekanın laboratuvarlarda neler yapabileceğinin gösterişli ve etkileyici gösterimleri) ile yapay zekanın gerçek uygulamalarından elde edilenler arasında ayrım yapmaya başlamamız gerektiğidir; bu uygulamalar, diğer teknolojilerin tarihsel örneklerinde onlarca yıl geride kalmaktadır.
Kapoor bana, “Yapay zekanın toplumsal etkilerine dair tartışmaların çoğu, bu benimseme sürecini göz ardı ediyor” dedi ve “toplumsal etkilerin teknolojik gelişme hızında gerçekleşmesini bekliyor.” Başka bir deyişle, onun görüşüne göre, yararlı yapay zekanın benimsenmesi bir tsunami değil, daha çok bir sızıntı olacak.
Makalede ikili, başka bazı canlandırıcı argümanlar da ortaya koyuyor: “Süper zeka” gibi terimler o kadar tutarsız ve spekülatif ki bunları kullanmamalıyız; yapay zeka her şeyi otomatikleştirmeyecek ancak yapay zekayı izleyen, doğrulayan ve denetleyen bir insan emeği kategorisi doğuracak; ve yapay zekanın toplumdaki mevcut sorunları kötüleştirme olasılığına, yeni sorunlar yaratma olasılığından daha fazla odaklanmalıyız.
Narayanan, “Yapay zeka kapitalizmi güçlendiriyor” diyor. Nasıl kullanıldığına bağlı olarak eşitsizliğe, emek piyasalarına, özgür basına ve demokratik gerilemeye yardımcı olma veya zarar verme kapasitesine sahip olduğunu söylüyor.
Yazarların dışarıda bıraktığı endişe verici bir YZ dağıtımı var: YZ’nın ordular tarafından kullanımı. Bu, elbette, hızla artıyor ve yaşam ve ölüm kararlarının giderek daha fazla YZ tarafından desteklendiğine dair alarmlar yaratıyor. Yazarlar, gizli bilgilere erişim olmadan analiz etmenin zor olması nedeniyle bu kullanımı makalelerinden hariç tutuyorlar, ancak konuyla ilgili araştırmalarının yakında yayınlanacağını söylüyorlar.
Yapay zekayı “normal” olarak ele almanın en büyük sonuçlarından biri, hem Biden yönetiminin hem de şimdi Trump Beyaz Sarayı’nın benimsediği pozisyonu altüst edecek olmasıdır: En iyi yapay zekayı inşa etmek ulusal güvenlik önceliğidir ve federal hükümet bunu gerçekleştirmek için bir dizi eylemde bulunmalıdır: Çin’e ihraç edilebilecek çipleri sınırlamak, veri merkezlerine daha fazla enerji ayırmak. İki yazar, makalelerinde ABD-Çin “Yapay Zeka silahlanma yarışı” söylemini “çılgınca” olarak nitelendiriyor.
“Silahlanma yarışı çerçevesi saçmalığa yaklaşıyor,” diyor Narayanan. Güçlü YZ modelleri oluşturmak için gereken bilgi hızla yayılıyor ve halihazırda dünyanın dört bir yanındaki araştırmacılar tarafından üstleniliyor, diyor ve “bu ölçekte sır saklamak mümkün değil.”
Peki yazarlar hangi politikaları öneriyor? Bilimkurgu korkuları etrafında planlama yapmak yerine, Kapoor “demokratik kurumları güçlendirmek, hükümette teknik uzmanlığı artırmak, yapay zeka okuryazarlığını geliştirmek ve savunucuları yapay zekayı benimsemeye teşvik etmekten” bahsediyor.
Yapay zeka süper zekasını kontrol etmeyi veya silahlanma yarışını kazanmayı amaçlayan politikaların aksine, bu öneriler tamamen sıkıcı geliyor. Ve asıl mesele de bu zaten.
https://www.technologyreview.com/tag/the-algorithm?mc_cid=e3986b9221&mc_eid=2165e0a63