Yapay Zeka riskleri neden dünyanın en önemli önceliği olmalı?

Yapay genel zeka (AGI) dünyayı hızla dönüştürebilir ve insanlık için varoluşsal riskler oluşturabilir. İşte bu yüzden yapay zeka riskleri üzerine çalışmak kariyerinizin en önemli kullanım alanı olabilir.

Zershaaneh Qureshi/ Mart 2026

15.000 yıl öncesinde yaşadığınızı hayal edin. Halkınız avcı-toplayıcı ve yıldızların altında uyuyorsunuz. Birisi size insanların bir gün milyonlarca insanın yaşadığı şehirler kuracağını, havada uçacağını veya tüm insanlık bilgisini ceplerinde taşıyacağını söylese, ne demek istediklerini hayal bile edemezdiniz.

Ama işte buradayız.

Hayatlarımız nasıl bu kadar tanınmaz hale geldi? Hikaye karmaşık, ancak genel bir örüntü var. Tarihte birkaç kez, sabanın ve buhar motorunun geliştirilmesi gibi teknolojideki bazı radikal atılımlar, nihayetinde dünyayı yeniden şekillendiren bir verimlilik, yenilik ve sosyal değişim dalgasına yol açtı.

Şimdi çok büyük bir atılımın eşiğindeyiz: çok çeşitli görevlerde insan yeteneklerini karşılayabilen veya aşabilen yapay zeka.

Bu, yeni bir dönüşüm çağı başlatabilir. Zeka ve inovasyonda bir patlama yaşanabilir ve tamamen yeni bir dijital varlık nüfusu ortaya çıkabilir. Ve bununla birlikte, uygarlık en az sanayileşme veya tarımın yükselişiyle gelenler kadar derin değişiklikler görebilir.

Ancak Sanayi ve Tarım Devrimlerinin aksine, gelişmiş yapay zeka tarafından yönlendirilen bir dönüşümün gerçekleşmesi yüzlerce veya binlerce yıl sürmeyebilir. Bu sefer dünya, on yıllar içinde -hatta daha kısa sürede- tanınmaz hale gelebilir.

Bu dönüşüm dönemi, yapay zekanın hayat kurtaran tıbbi atılımlara ve iklim kriziyle mücadele için yeniliklere olanak sağlamasıyla şaşırtıcı bir refah getirebilir. Ancak aynı zamanda bizi hazırlıksız bir şekilde zorluklarla dolu yabancı bir dünyaya da atabilir. Avcı-toplayıcıların aniden hastalıkların hızla yayıldığı kalabalık yerleşim yerlerinde kendilerini bulduklarını ve ilk kez organize ordular arasında savaşla karşı karşıya kaldıklarını hayal edin. Ya da sanayi öncesi insanların, kirletici maddeler üreten devasa fabrikalarla ve tüm şehirleri yok edebilecek ‘nükleer füzeler’ adı verilen gizemli yeni silahlarla mücadele etmek zorunda kaldıklarını hayal edin.

Bu makale, gelişmiş yapay zekanın neden bu kadar dönüştürücü olabileceğini ve riskleri ele almak ve genel olarak yapay zekanın geleceğinin iyi gitmesini sağlamak için çalışmanın, dünyada olumlu bir etki yaratmak için en iyi fırsatınız olabileceğini açıklayacaktır.

Özet

Önümüzdeki on yılda yapay zekada önemli ilerlemeler kaydedileceğini, hatta makinelerin birçok (hatta tüm) görevde insanlardan daha iyi performans gösterebileceği noktaya kadar ulaşılacağını bekliyoruz. Kritik alanlarda insan işçilerin yerini yapay zekaların alması, inovasyonu ve ekonomik verimliliği önemli ölçüde artırarak toplumda hızlı ve çarpıcı bir dönüşüme yol açabilir.

Bu dönüşüm, şu anda çözülmesi imkansız olan küresel sorunları çözmemize yardımcı olarak muazzam faydalar sağlayabilir. Ancak aynı zamanda ciddi riskler de doğurabilir; bunlardan bazıları varoluşsal olabilir – yani insanlığın yok olmasına veya insanlığın kalıcı ve ciddi bir şekilde güçsüzleştirilmesine neden olabilir. Örneğin, insanlık geleceği üzerindeki kontrolünü son derece zeki yapay zekalara kaptırabilir veya tehlikeli bir grup, yapay zeka sistemlerini kullanarak diğer insanlar üzerinde benzeri görülmemiş bir güç elde edebilir (ve sürdürebilir).

Bu zorlukların üstesinden gelmeye çalışan yeterince insan yok ve mevcut teşvikler en ciddi riskler üzerinde çalışmayı mutlaka desteklemiyor. Yapay zekadan kaynaklanan en önemli zorluklarla mücadele etmeye odaklanan sadece birkaç bin kişi olduğunu tahmin ediyoruz; bu sayı, iklim değişikliği gibi diğer dünya sorunları üzerinde çalışanlardan çok daha az ve yakında göreceğimiz değişikliklerin ölçeği göz önüne alındığında, haklı olduğunu düşündüğümüzden çok daha az.

Tüm bunlar nedeniyle, gelişmiş yapay zekanın ortaya koyduğu zorlukların, günümüzde insanlığın karşı karşıya olduğu en acil sorunlar olduğunu düşünüyoruz.

Gelişmiş yapay zekanın ortaya çıkardığı spesifik risklerin ve bunlarla ilgili neler yapabileceğinizin ayrıntılı açıklamalarını, dünyanın en acil sorunları hakkındaki serimizde bulabilirsiniz .

Bu, insanların kariyerlerinde çözebilecekleri en acil sorunları bulmalarına yardımcı olmak için yazdığımız birçok profilden biridir. Farklı sorunları nasıl karşılaştırdığımız hakkında daha fazla bilgi edinin ve bu sorunun şimdiye kadar ele aldığımız diğer sorunlarla nasıl karşılaştırıldığını görün.

Gelişmiş yapay zekanın dünyanın en acil sorunlarını oluşturduğunu düşünmemizin nedenleri

On yılı aşkın bir süredir dünyanın en büyük sorunlarını ve bunlara çözüm bulma yaklaşımlarını inceliyoruz. Gelişmiş yapay zekanın ortaya çıkardığı zorluklar kümesinin, ölçekleri ve bunlara çözüm bulmak için umut vadeden ancak ihmal edilmiş fırsatlar göz önüne alındığında, bugün insanlığın karşı karşıya olduğu en acil sorunlar olduğunu düşünüyoruz.

Yapay zeka risklerine ilişkin endişemiz, ChatGPT’nin 2022’deki yayınlanmasından bu yana yapay zekaya olan ilginin artmasına bir tepki değil. Yapay zekanın felaket niteliğinde riskler oluşturabileceğini 2016’dan beri savunuyoruz ve başkaları da bundan çok önce benzer endişeleri dile getirmişti ( 1 , 2 , 3 , 4 ).

Özetle, gelişmiş yapay zekanın dünyayı kökten değiştirebileceğini düşünüyoruz. Bu, insanlık için son derece büyük zorluklar yaratabilir ve olumlu bir etki yaratmak için potansiyel olarak eşsiz bir fırsat sunar.

Sorun profillerimizde en acil olduğunu düşündüğümüz belirli zorlukları ele alıyoruz . Bu makale, gelişmiş yapay zekanın genel olarak neden bu kadar önemli sorunlara yol açtığını açıklamaktadır .

Burada öne sürülebilecek birçok argüman var; örneğin, gelişmiş yapay zekanın “ikinci bir tür” oluşturacağı veya yapay zekanın 21. yüzyılı insanlık için “en önemli yüzyıl” yapacağı argümanı gibi. ¹

Ancak bizi en çok ikna eden argüman şu:

Yapay zeka, ekonomik açıdan en değerli alanlardan bazılarında insan emeğinin yerini alabilir.

Bu alanlarda insan emeğinin yerini alacak alternatifler, toplumun bir sonraki radikal dönüşümünü tetikleyebilir.

Bu dönüşüm, özellikle yapay zeka Ar-Ge’sinde hızlı geri bildirim döngüleri varsa, son derece hızlı ve çarpıcı olabilir.

Yapay zeka destekli hızlı bir dönüşüm, varoluşsal riskler de dahil olmak üzere bir dizi büyük zorluğu beraberinde getirecektir.

Bu zorlukların üstesinden gelinebilir ancak ihmal ediliyor .

Aşağıda bu iddiaların her birini savunacağız.

Açıkça belirtmek gerekirse, gelişmiş yapay zeka ile ilgili varoluşsal ölçekteki tüm sorunların bu argüman üzerinden ele alınması gerekmiyor. İnsan emeğinin büyük bir kısmını otomatikleştirmeden bile, yapay zeka sistemleri yine de büyük zararlara yol açabilir. Örneğin, kötü niyetli kişiler yapay zekayı yeni biyolojik silahlar tasarlamak veya gelişmiş siber saldırılar gerçekleştirmek için kullanabilir. Bu bile, belirli yapay zeka riskleri üzerinde çalışmak için yeterli bir sebep olabilir.

Ancak aşağıda anlattığımız hikaye -dünyanın yaygın otomasyon yoluyla hızla dönüştüğü bir dönemde- genel olarak yapay zeka risklerine öncelik verilmesi gerektiği konusunda bildiğimiz en kapsamlı örnektir. Bu hikaye, neden aynı anda çeşitli benzeri görülmemiş zorlukların ortaya çıkabileceğini ve hazırlanmak için neden fazla zamanımız olmayabileceğini açıklıyor.

1.Yapay zeka, ekonomik açıdan en değerli alanlarda insan emeğinin yerini alabilir.

Kripto para birimleri, NFT’ler, ‘nesnelerin interneti’, füzyon ve kuantum hesaplama gibi birçok teknoloji aşırı derecede abartıldı. İnsanlar genellikle yeni bir yeniliğin dünyayı ne kadar değiştireceğine dair yüksek beklentilere sahip oluyor ve gerçeklik bazen bu beklentilerin altında kalıyor.

Ancak bizce yapay zeka farklı olacak.

Çünkü diğer teknolojilerden farklı olarak yapay zeka, insan zekasıyla rekabet etme ve hatta onu aşma potansiyeline sahip. Bu da, tarihimizdeki ilerlemenin temel itici gücü olan esnek insan emeğinin yerini alabileceği ve onu yeniden üretebileceği anlamına geliyor.

ATM’ler gibi bazı teknolojiler, insan emeğinin son derece sınırlı biçimlerini taklit eder. Buhar motorları ve bilgisayarlar gibi diğerleri ise insanların yapabileceklerini artırır. Ancak yapay zekanın ardındaki fikir, insanların yapabileceği hemen her işi yapabilmesi ve bunu çoğunlukla otonom olarak yapabilmesidir .

ATM’ler tüm banka veznedarlarını işsiz bırakmadı² çünkü insanların kolayca geçiş yapabileceği başka görevler vardı. Ancak sadece nakit dağıtmakla kalmayıp aynı zamanda bankanın BT sistemlerini yönetebilen, şirket stratejisine katkıda bulunabilen ve müşterilere özel finansal tavsiyeler verebilen bir ATM hayal edin. Bunu çoğunlukla bizim yardımımız olmadan ve insan işçilerden daha ucuza yapabildiğini hayal edin. Eğer durum böyle olsaydı , bankanın neden insanları istihdam etmeye devam edeceği açık olmazdı.³

Şimdi, banka için tüm bunları yapan aynı sistemin, teknoloji şirketleri, bilimsel araştırma laboratuvarları, danışmanlık firmaları, düşünce kuruluşları, The New York Times , ABD hükümeti ve benzerleri için de eşdeğer işler yapabileceğini varsayalım.

Yapay zekanın ortaya koyduğu olasılık bu.

Yapay zekanın insan işlerini yapma yeteneğinin giderek yaygınlaştığına dair ipuçlarını şimdiden görüyoruz. Günümüzdeki yapay zeka sistemleri, on yıl öncesine kadar hayret verici olacak şeyleri yapabiliyor.

Örneğin, kimya, fizik ve biyoloji hakkında zorlu, doktora düzeyinde sorular soran GPQA kıyaslama testinde dil modellerinin kaydettiği hızlı ilerlemeyi ele alalım . 2023’ün ortalarında, bu sorularda en ileri düzey yapay zeka performansı, rastgele tahminlerden sadece biraz daha iyiydi. Ancak 2025’in başlarından itibaren birçok model, insan uzmanlarından daha iyi performans göstermeye başladı ve bazen de büyük bir farkla.

A chart from Epoch AI showing different AI agents’ performances on a set of Ph.D-level science questions, with performance ranging from 13% accuracy to 93% accuracy. Over time, performance has increased, with most agents released since January 2025 outperforming humans (who sit at an average 70% accuracy).

Epoch AI’dan “Doktora düzeyindeki bilimsel sorular kümesinde yapay zekanın performansı”

Yazılım mühendisliği görevlerinde de etkileyici gelişmeler gösterdiler . Örneğin, Anthropic’in ajan tabanlı kodlama aracı Claude Code, kullanıcıların kodlama deneyimleri olmasa bile ne istediklerini tanımlayarak uygulamalar oluşturmalarını sağlıyor .

Google’da çalışan kıdemli bir mühendis, ekibinin bir yıl boyunca geliştirme yaklaşımlarını araştırdığı bir sistemin prototipini Claude Code’un bir saatte oluşturduğunu bildirdi . Anthropic ise ‘Cowork’ ürününü (geliştirici olmayanlar için Claude Code’un daha kullanıcı dostu bir versiyonu) Claude Code’a kodun büyük kısmını yazdırarak iki haftadan kısa sürede geliştirdi.⁴

Mevcut yapay zeka sistemleri ayrıca şunları da yapabilir:

Karmaşık biyomoleküler yapıları ve etkileşimleri tahmin edin : Google DeepMind’ın AlphaFold 3’ü ( Nobel ödüllü bir yapay zeka sisteminin halefi ), proteinlerin DNA, RNA ve diğer yapılarla moleküler düzeyde nasıl etkileşim kurduğunu tahmin edebiliyor.

Zor matematik problemlerini rekabetçi bir şekilde çözün : Çok sayıda yapay zeka modelinin Uluslararası Matematik Olimpiyatı’nda altın madalya performansı sergilediği bildirildi . Ayrıca, 30 üst düzey matematikçiye yapay zekanın çözemeyeceğine inandıkları problemler tasarlamaları sorulduğunda, OpenAI’nin o4 mini’si en iyi girişimlerinin çoğunu alt etti ve hatta doktora düzeyindeki bir soruyu yaklaşık on dakikada çözdü.

Robot teknolojisinde gelişmeler : Birçok önde gelen robot modeli artık yapay zeka destekli. Örneğin, Boston Dynamics, Atlas robotlarını Google DeepMind yapay zekasıyla geliştirerek çevrelerini daha iyi anlamalarına ve manipüle etmelerine yardımcı oluyor. Bu robotlar Hyundai fabrikalarında endüstriyel işlerde kullanılacak .

Bilgisayarınızda uzun süreli görevleri bağımsız olarak gerçekleştirin : Sadece metin üretebilen önceki modellerin aksine, Claude Code ve OpenAI’nin Codex’i gibi yeni ‘ajantik’ yapay zekalar artık bilgisayarınızdaki birçok aracı kullanabiliyor, kod çalıştırabiliyor, web’de arama yapabiliyor ve birden fazla adımı birbirine bağlayabiliyor; bu da uzun süreli, gerçek dünya görevlerini çok daha az insan müdahalesiyle tamamlamalarına olanak tanıyor.

Yapay zeka geliştirme sürecine katkı : Yapay zeka sistemlerinin , en azından iki saatlik bir zaman dilimiyle sınırlı olduğunda, yapay zeka Ar-Ge görevlerinde insanlardan daha iyi performans gösterebildiğine dair kanıtlar da mevcut .

Ve çok daha fazlası.⁵

Yapay zeka sistemlerinin güvenilir bir şekilde yapamadığı, özellikle de tamamlanması günler süren işler hala çok fazla; ancak bu sistemlerin yapamadığı şeylerin listesi giderek azalıyor ve yapay zekadaki ilerleme hızı etkileyici .

Günümüzde sahip oldukları geniş yetenek yelpazesiyle bile , yapay zeka sistemlerinin toplum üzerinde önemli etkileri olabileceği açıkça görülüyor. En azından, yapay zekanın halihazırda başarılı olduğu belirli görevlerin (örneğin, yazılım mühendisliği, biyokimya ve robotik alanlarında) otomasyonu, bazı bilimsel ilerleme alanlarını hızlandıracak ve ekonomik büyümeye katkıda bulunacaktır.

Ancak yapay zekanın bugün olduğundan çok daha geniş kapsamlı yeteneklere sahip olmasını ve çok daha dönüştürücü etkiler yaratmasını bekliyoruz. Sektörde yaygın bir söz vardır: “Bugünün yapay zekası, şimdiye kadar kullanacağınız en kötü yapay zekadır.”

Aslında, bu alandaki birçok kişi yapay zekanın, insanların yapabildiği hemen her şeyi ve hatta daha fazlasını yapabilecek kadar iyi hale geleceğini düşünüyor .

Buradaki önemli bir dönüm noktası , yapay genel zekanın (YZ) geliştirilmesi olacaktır . İnsanlar bu terimi birçok farklı şekilde kullanıyor, ancak biz bunu neredeyse tüm bilişsel görevlerde veya en azından ekonomik açıdan en değerli olanlarda insanlarla rekabet edebilen yapay zeka sistemlerini tanımlamak için kullanacağız – gelişmiş bilimsel araştırma, yeni teknolojiler ve ürünler tasarlama, işletme yönetme, danışmanlık vb. düşünün.⁶ Bu , önde gelen yapay zeka şirketlerinin aktif olarak geliştirmeye çalıştığı ve bu alanda ilk olmak için milyarlarca dolar harcadığı bir sistem türüdür .

Yapay zeka geliştirme alanındaki son trendlere baktığımızda, bu tür bir genel zekaya önümüzdeki on yıl içinde ulaşmamızın şaşırtıcı derecede olası (ancak kesin olmaktan çok uzak) olduğunu düşünüyoruz .

Ama muhtemelen burada durmayacak. İnsanların zihinsel yeteneklerin sınırını temsil ettiğini düşünmek için hiçbir neden yok; bu nedenle, yapay zeka sonunda birçok (hatta tüm) bilişsel görevde insan performansını büyük ölçüde aşabilir . Muhtemelen, insan yeteneklerinin çok ötesinde olan işleri bile, tıpkı şempanzelerin kalkülüs yapamayacakları kadar ileri düzeyde yapabilirler.⁷

Toplumun robotik alanında da dev ilerlemeler kaydetmesi uzun sürmeyebilir. Günümüz robotları çok ilkel olsa da, gelişmeye devam ediyorlar . Yapay zeka sistemlerimiz bilişsel olarak daha zeki hale geldikçe, hem robotik uzuvları kontrol etmede hem de tasarlamada daha iyi hale gelecekler. Bu da yapay zeka sistemlerinin herhangi bir fiziksel görevde insanlardan daha iyi performans gösterebilecek duruma hızla gelebileceği anlamına geliyor .

Önümüzdeki bölümlerde, geleceğin gelişmiş yapay zekalarının toplumu nasıl dönüştürebileceğini ve ciddi riskler oluşturabileceğini açıklayacağız.

Argümanımız, insanlığın yapay genel zeka (AGI) veya benzeri bir şey geliştirmesi olasılığına odaklanmaktadır. Bu, tek önemli dönüm noktası değildir (aşağıya bakınız). Ancak, yapay zekanın inovasyonu ve ekonomik üretimi en çok yönlendiren bilişsel görevlerde insan yetenekleriyle eşleşebilmesi durumunda, bunun aşağıdaki bölümlerde açıkladığımız hızlı ilerlemeyi mümkün kılmak için yeterli olacağını düşünüyoruz.⁸ Ve eğer yapay zeka bundan daha da etkileyici hale gelirse -ki bunun muhtemel olduğunu düşünüyoruz- etkileri daha da çarpıcı olabilir.

Daha az gelişmiş yapay zeka sistemleri bile varoluşsal riskler oluşturabilir mi?

Özetle: evet, bizce öyle.

Bu makalede, çok çeşitli görevlerde son derece yetenekli yapay zeka sistemlerine odaklanıyoruz. Çünkü bu tür sistemlerin toplumu dönüştürme ve son derece ciddi riskler ortaya çıkarma olasılığının en yüksek ve en açık şekilde görüldüğünü düşünüyoruz.

Ancak bunun, yapay zeka yeteneklerindeki ilerlemede endişelenmeye değer tek dönüm noktası olduğunu düşünmüyoruz . Örneğin:

Sınırlı yeteneklere sahip yapay zeka araçları bile ciddi zararlara yol açabilir. Biyoteknoloji araştırmalarında üstün olan bir yapay zeka, hisse senedi ticareti yapabilme veya iş stratejileri uygulayabilme yeteneğinden bağımsız olarak, insanların tehlikeli patojenler geliştirmesini kolaylaştırabilir. Sadece güçlü siber saldırılar başlatmak için kullanışlı olan bir yapay zeka bile küresel güç dengesini değiştirebilir. Ve benzeri.

Yapay genel zekanın (AGI) geliştirilmesine giden süreçte , sadece ortaya çıkmasından sonra değil , toplumda hızlı ve istikrarsızlaştırıcı değişikliklerle karşılaşabiliriz . Yapay zeka giderek daha fazla görevi otomatik hale getirdikçe, ekonomide artan düzeyde aksaklıklar görebiliriz. Daha sonra ele alacağımız gibi , yapay zeka sistemlerinin yapay zeka Ar-Ge’sini otomatik hale getirmeye başlaması özellikle yıkıcı olabilir ve yapay zeka ilerlemesinde dramatik geri bildirim döngüleri oluşturabilir.

Bu, yapay genel zekaya yakın zamanda kavuşacağımızı düşünmeseniz bile, yapay zeka riskleri üzerinde çalışmaya öncelik vermeniz için yeterli bir sebep olabilir.

2.Bu kadar insan emeğinin yerini alacak yeni kaynaklar, toplumun bir sonraki radikal dönüşümünü tetikleyebilir.

Peki, yapay zeka sistemlerinin bu kadar geniş bir yelpazedeki görevlerde insanlardan daha iyi performans göstermesi ne anlama gelir?

Burada insanların aklına ilk gelen şey genellikle yaygın işsizliktir. Bu ciddi bir olasılıktır ve toplum için ciddi sonuçlar doğuracaktır.⁹ Ancak bizce buna odaklanmak aslında daha büyük bir hikayeyi gözden kaçırmak anlamına geliyor.

İnsan emeğinin bu kadar büyük bir kısmının yerini makinelerin alabileceği bir dünya, hayal etmesi bile zor olacak kadar çarpıcı bir şekilde farklı görünürdü.

Bir karşılaştırma yapabilmek için, dünyanın bugün atalarımızın 200 yıl, 2.000 yıl veya 20.000 yıl önceki halinden ne kadar farklı olduğunu düşünün. Elektrik, matbaa veya tarım öncesi dünyalar kelimenin tam anlamıyla çok farklı görünüyordu ve tamamen farklı yaşam biçimlerine sahipti.

Teknolojideki bu büyük atılımların her biriyle dünya değişti.

Birinci Tarım Devrimi’ni ele alalım. Tarımdan önce insanlar çoğunlukla avcı-toplayıcıydı ve genellikle küçük gruplar halinde yaşıyorlardı.¹⁰ Pulluk gibi tarım teknolojilerinin gelişmesi, kişi başına çok daha fazla yiyecek üretmemizi sağladı ve bu da ilk şehirlerin ortaya çıkmasına yol açtı. Ve giderek artan bir şekilde, bazı insanlar yiyecek bulmanın dışında başka işlerde uzmanlaşabiliyordu; bu da insanların metal işçiliğini, yazıyı ve erken yönetim sistemlerini icat etmelerini sağladı.

Sanayi Devrimi de benzer bir yol izledi. Buhar motoru gibi teknolojilerin ortaya çıkışı verimliliği önemli ölçüde artırdı ve üretim ve iletişimde yeniliklere yol açtı. Bu da yine insanların yaşam biçiminde radikal değişikliklere neden oldu: Bir zamanlar lüks eşya olan ürünler sıradan insanların erişebileceği hale geldi, demiryolları uzak şehirleri birbirine bağladı ve büyük insan kitleleri kırsaldan kentsel yaşama geçti.

Burada neler oluyor?

Tarihteki her dönüşüm döneminin kendine özgü karmaşık bir öyküsü vardır ve bu dönüşümleri yönlendiren faktörler hakkında çeşitli teoriler mevcuttur. Ancak popüler bir açıklama, aynı genel kalıbı sürekli olarak gördüğümüzü söylüyor: Güçlü yeni teknoloji hem daha büyük nüfusları desteklememizi sağlıyor hem de insanların aynı beden ve zihinlerle daha fazlasını yapmasına olanak tanıyor. Bu da daha fazla insan emeği ve daha yüksek verimlilik anlamına geliyor; bu da daha da fazla yeniliğe yol açarak bileşik etkiler yaratıyor. ¹¹

İnovasyon genellikle ekonomik büyümeyi beslediğinden, insanlık bu süreçte çok daha zenginleşmiştir. Aslında, Sanayi Devrimi’nin son aşamalarından bu yana, GSYİH’de yaklaşık olarak üstel bir büyüme gözlemliyoruz. ¹²

chart from Our World in Data showing GDP by world region from 1820–2022, with exponential global GDP growth starting around 1950 and skyrocketing in the 2000s.

Bolt ve van Zanden – Maddison Projesi Veritabanı 2023 – Bu veriler hakkında daha fazla bilgi edinin

Bu öykülerin hepsinde ortak bir nokta var: Büyüme her zaman insan emeğine bağlı olmuş gibi görünüyor ; toplum ancak insanların yeni fikirler (yani yeni teoriler, icatlar, çalışma yöntemleri vb.) üretip uygulayabildikleri hızda ilerleyebilmiştir.

Ama şimdi yeni bir atılımın eşiğindeyiz.

Gelecekteki yapay zekalar, ekonomik açıdan en değerli alanlarda insan işçilerin yerini alabilirse, bu bileşik yenilik ve zenginlik döngülerini sürdürmek için insan emeğine olan bağımlılığımız azalacak. Bunun yerine, yapay zeka ilerlemenin temel itici gücü haline gelebilir.

Bunun toplumda başka bir dönüşüme yol açabileceğini düşünüyoruz.

Diğer teknolojik atılımlar gibi, yapay zeka da toplumun çok daha fazla fikir üretmesini ve çok daha fazla ekonomik çıktı elde etmesini sağlayabilir. Ancak önceki teknolojilerden farklı olarak, yapay zekalar inovasyonu ve ekonomik üretimi en çok yönlendiren süreçleri (daha iyi yapay zeka tasarlama süreci de dahil olmak üzere) devralabilir . Ve bir sonraki bölümde ele alacağımız gibi, bu ‘yapay zeka çalışanları’ insan meslektaşlarına göre büyük avantajlara da sahip olabilir.

Bu, yapay zekanın getirdiği dönüşümün son derece hızlı ve daha önce gördüklerimizden çok daha çarpıcı olabileceği anlamına gelebilir.

3.Bu dönüşüm son derece hızlı ve çarpıcı olabilir.

Peki, yapay zeka ekonominin giderek daha büyük bir bölümünü otomatikleştirdikçe neler olabilir?

En azından, toplam iş gücü miktarının hızla artmasını bekliyoruz; çünkü insanlardan farklı olarak, yeterli donanım sağlandığı takdirde yapay zeka sistemleri kolayca ve büyük ölçekte kopyalanabilir .

Diyelim ki insan mühendisin yerini alabilecek bir yapay zeka geliştirdik. Tahminler burada büyük bir belirsizlik olduğunu gösteriyor, ancak koşullara bağlı olarak bu yapay zekanın binlerce ila yüz milyonlarca kopyasının aynı anda çalıştırılması mümkün olabilir. ¹³

Ve bu sayı hızla artabilir. Bu yapay zeka çalışanlarının arkasındaki algoritmaların verimliliğindeki iyileştirmelerle, aynı miktarda işlem gücüyle daha fazla sayıda kopya çalıştırabileceğiz.¹⁴ Ayrıca, daha fazla çip satın alarak veya daha verimli çipler tasarlayarak, çalışan kopyalara daha fazla işlem gücü ayırabiliriz. Yakında , dünyanın çalışma çağındaki nüfusunun önemli bir bölümü büyüklüğünde bir yapay zeka iş gücüne sahip olabiliriz.¹⁵

Yapay zeka çalışanlarının insan çalışanlara göre başka avantajları da olabilir:

Yapay zekalar insanlardan çok daha hızlı çalışabilir ve genellikle birkaç günlük bilgi işlemeyi dakikalara sıkıştırabilir.

Yapay zekalar, insanlardan çok daha verimli bir şekilde kendi aralarında koordinasyon sağlayabilirler; belki de daha düşük maliyetlerle ve daha büyük ölçeklerde .

Yapay zekalar çok hızlı bir şekilde uzmanlaşabilir ve farklı sürümleri belirli görevlerde son derece iyi olacak şekilde ince ayarlanabilir.

Sadece bu avantajlara dayanarak bile , yapay zekalar tarafından daha fazla iş yapıldıkça, benzeri görülmemiş düzeyde yenilik ve ekonomik üretim görebiliriz. Bu, Sanayi Devrimi sırasında fiziksel emeğin otomasyonunun yaptığı gibi, toplumu dönüştürebilir.

Ve yukarıdakilere dayanarak, olayların tahmin ettiğinizden çok daha hızlı ve dramatik bir şekilde gelişebileceğini düşünüyoruz .

Çünkü bu hikayenin bir noktasında, yapay zekaların yapay zeka araştırma ve geliştirme süreçlerini otomatikleştirmek için kullanılmasını bekliyoruz. Ve bu, “zeka patlaması” olarak adlandırılan , daha iyi yapay zeka sistemleri yaratabilen yapay zeka sistemleri tarafından yönlendirilen hızlı teknolojik ilerleme dönemini tetikleyebilir .

Olaylar şöyle gelişebilir:

Yapay zeka sistemleri, yapay zeka Ar-Ge çalışmalarındaki tüm veya çoğu işi otomatikleştirebilecek kadar iyi hale geliyor.

Bu yapay zeka çalışanları, daha iyi yapay zeka sistemlerini çok daha hızlı bir şekilde geliştirmemize yardımcı oluyor.

Bu daha gelişmiş sistemler, yapay zeka Ar-Ge’sini otomatikleştirmek için daha da kullanışlı hale geliyor; bu da daha da iyi sistemler geliştirmemizi sağlıyor ve bu böyle devam ediyor.

A cycle with 4 stages, titled “AI-driven intelligence explosion”; The stages are: faster progress in building better AI; more capable AI systems; better automation of AI R&D; AI automates R&D.

Bu gerçekleşirse, yapay zeka sistemlerinin giderek daha iyi hale geldiği, hatta çok kısa bir süre içinde geliştiği pozitif bir geri bildirim döngüsü oluşabilir. ¹⁶

Bu, yalnızca yapay zeka Ar-Ge’sinde giderek daha iyi yapay zeka sistemleri kurmak anlamına gelmez . Daha geniş anlamda yapay zeka yeteneklerindeki iyileştirmeleri hızlandırmak, ekonominin genelinde kullanabileceğimiz giderek daha yetenekli ve genel yapay zeka çalışanları elde etmek anlamına gelir ki bu da toplumun çoğu alanında ilerlemeyi hızlandırabilir.

“Hızlandırılmış ilerleme” nasıl bir şey olurdu?

Daha önce de belirttiğimiz gibi, tarihteki önceki dönüşüm dönemleri nihayetinde insanların yeni fikirler (yani yeni teoriler, icatlar ve çalışma yöntemleri) üretme ve uygulama hızıyla sınırlıydı. Ancak şimdi, bizden çok daha parlak fikirler üretebilen, bunu bizden çok daha hızlı yapabilen ve daha verimli bir şekilde hayata geçirebilen devasa bir yapay zeka iş gücüne sahip olduğunuzu hayal edin.

Bunun, daha önce hiç görmediğimiz kadar kısa bir süre içinde toplumu dönüştürebileceğini düşünüyoruz.

Peki bu nasıl bir şey olurdu? Birincisi, bilimsel keşifler eşi görülmemiş bir hızda yapılabilirdi. Piyasa, normalde geliştirilmesi on yıllar sürecek olan yeni teknolojilerle birdenbire dolup taşabilirdi. Altyapı ve üretim, bugün hayal bile edemeyeceğimiz ölçeklere ulaşabilirdi. Daha spekülatif olarak, yapay zeka çalışanları daha yaygın olarak kullanılırsa, sadece bilim ve teknolojide değil, sanatta, politikada, felsefede, eğlencede de dünyaya bakış açımızı temelden değiştirecek yeni fikirlerin bir patlamasına tanık olabiliriz.

Dünya da çok daha zenginleşebilir, çünkü birçok yenilik ekonomik üretimi artırabilir. Aslında, bazı araştırmacılar yapay zeka çalışanlarından gelen yeni fikirlerin akışının “patlayıcı” bir ekonomik büyümeye yol açacağını düşünüyor ve bu yeni zenginliğin bir kısmı da fikir üretimini daha da hızlandırmak için kullanılabilir . ¹⁷

Toplum tam olarak ne kadar hızlı dönüşebilir? Bu geri bildirim döngüleri devrede olsa bile, insan ilerlemesinin “patlayıcı” bir hızda ilerleyebileceği konusunda bazı sınırlamalar vardır. Örneğin:

Bir noktada, yapay zeka geliştirmede darboğazlarla karşılaşacağız ; örneğin, işlem gücü, enerji veya yüksek kaliteli veri bulunabilirliği gibi faktörler, yapay zeka çalışanlarının kısa bir süre içinde ne kadar gelişebileceğini sınırlayacaktır.

Her alanda, yapay zeka çalışanlarının keşiflerin ve yeni fikirlerin kolay elde edilebilir sonuçlarını hızla tüketmesi nedeniyle ilerleme kaydetmek giderek zorlaşabilir. ¹⁸

Ancak bu etkiler hesaba katıldıktan sonra bile, bazı araştırmacılar yapay zeka otomasyonunun etkilerinin bir asırlık ilerlemeyi on yıla sıkıştırabileceğini savunuyor .

Bu ilerleme düzeyi sonsuza dek sürdürülemezdi. Ancak işler yavaşlama noktasına geldiğinde dünya çoktan kökten değişmiş olabilirdi; tıpkı Sanayi Devrimi’nin sonunda sona ermesi ve geride tamamen tanınmaz bir dünya bırakması gibi .

4.Hızlı ve yapay zeka destekli bir dönüşüm, varoluşsal riskler de dahil olmak üzere bir dizi önemli zorluğu beraberinde getirecektir.

Yapay genel zekanın inovasyonu ve ekonomik çıktıyı hızlandırabileceği fikri kutlanmaya değer olabilir. Dünya olağanüstü derecede zenginleşebilir ve iklim kriziyle mücadele etmemize veya hastalıkları ortadan kaldırmamıza yardımcı olacak yeni teknolojileri hızla geliştirebiliriz.

Gerçekten de, teknolojinin vaadi, bazı insanların gelişmiş yapay zeka sistemleri geliştirmek konusunda heyecan duymasının nedenlerinden biridir. Anthropic CEO’su Dario Amodei’nin de belirttiği gibi: yapay genel zeka (AGI) geliştirmenin en büyük motivasyon kaynaklarından biri “geleceğe dair gerçekten ilham verici bir vizyondur” .

Genel olarak, yeni teknolojilere yönelik korkular çoğu zaman yersizdir. Aşılar ve demiryolları gibi şüpheyle bakılan birçok yenilik, insanlık için son derece faydalı olmuştur.

Ancak bu durumda işler farklı görünüyor. İlk defa, son derece zeki varlıklardan oluşan yepyeni bir popülasyon tasarlıyoruz; insan zihninin yapabileceği en ekonomik açıdan değerli şeyleri yapabilen ve bunları yapmak için insanlara bağımlı olmayabilecek ajanlar.

Bu durum, başa çıkmaya hazır olmadığımız ve hatta tam olarak anlamadığımız karmaşık dinamikleri ortaya çıkarıyor. Gelişmiş yapay zeka ile başa çıkmaya çalışan insanlar, yetişkinlerin dünyasında yolunu bulmaya çalışan küçük çocuklar gibi olabilir; bilimde, ekonomide, jeopolitikada ve hatta yaşam biçimlerimizde bildiğimiz her şeyde meydana gelen değişiklikler, bu zor yeni kavramları kavramamızdan daha hızlı gerçekleşiyor.

Yapay zeka gelişiminin nasıl ilerleyeceği konusundaki belirsizlik göz önüne alındığında, tam olarak hangi zorluklarla karşılaşacağımızı tahmin etmek zor . Ancak bize en çok endişe verenler şunlar:

İnsanlardan çok daha zeki olabilecek ve kendi hedefleri olabilecek ajanlarla karşılaşacağız. Bu hedefler , eğer onları kontrol edemezsek, insan çıkarlarını baltalamalarına veya hatta insanlığı güçsüzleştirmelerine yol açabilir.

Küçük gruplar eşi benzeri görülmemiş bir güç kazanabilir. Elit gruplar güçlü yapay zekayı kontrol edebilirse, işleri halletmek için insanlara çok daha az bağımlı olacaklardır. Geniş bir yapay zeka iş gücüyle, daha önce görülmemiş düzeyde ekonomik ve siyasi etki biriktirebilir, hatta iktidarı ele geçirebilirler ve muhtemelen daha geniş nüfusun çıkarlarını temsil etmek için güçlü bir teşvikleri olmayacaktır.

Biyolojik silahlar gibi tehlikeli teknolojilere erişim çok daha kolay hale gelebilir. Yüksek yetenekli yapay zekalara erişim, tehlikeli silahların tasarlanmasını veya ele geçirilmesini çok daha kolaylaştırarak, insanların bu tür silahlara sahip olma eşiğini önemli ölçüde düşürebilir.

• Refahı ve çıkarları önemli olan büyük bir yeni varlık popülasyonu yaratabiliriz ; bu da onlarla nasıl bir arada yaşayacağımız konusunda karmaşık soruları gündeme getirir.
• Bu faktörler çatışma ve huzursuzluğa yol açabilir , büyük güçler arasında bir savaşa veya öngörülemeyen başka zorluklara neden olabilir.

Bu dinamikleri nasıl yöneteceğimiz, geleceğin iyi mi yoksa kötü mü olacağını belirleyebilir.

Eğer işleri akıllıca ele alırsak, tüm duyarlı varlıklar için benzeri görülmemiş bir refahla dolu, gelişen bir gelecek yaratabilir ve hatta yıldızlara kadar yayılabiliriz. Ancak gelişmiş yapay zekânın kontrolünü kaybedersek veya kötü niyetli kişiler onu dünyanın geri kalanının çıkarlarını baltalamak için kullanırsa, bir felaketle karşı karşıya kalabiliriz; örneğin insanlığın geleceği şekillendirme yeteneğini kalıcı olarak kaybetmesi veya neslinin tükenmesi gibi.

Başka bir deyişle, bu sorunların varoluşsal öneme sahip olduğunu ve bu nedenle dünyanın en acil sorunları arasında yer aldığını düşünüyoruz .

Bu sorunların çözülebilir olduğuna dair umudumuz olsa da , kurumlarımızın bunları kendiliğinden iyi bir şekilde yöneteceğini varsayamayız . Sonuçta, bu kafa karıştırıcı, eşi benzeri görülmemiş bir durum. Ve toplumun, yeterince planlamadığımız yeni zorluklarla karşılaştığında felakete sürüklendiğini gördük; COVID-19’un ilk uyarılarına verilen yavaş kurumsal tepkileri veya nükleer silahlarla ilgili gördüğümüz sayısız tehlikeli durumu düşünün .

AGI’nin spesifik riskleri hakkında daha fazla bilgi edinin.

Yapay zekâyla ilgili olarak varoluşsal bir felakete yol açma olasılığı en yüksek olan sorunları, bu sorunlar üzerinde çalışan insanlara neden ihtiyaç duyduğumuzu ve nasıl yardımcı olabileceğinizi açıklayan bir dizi makale yazdık:

• Güç arayışındaki yapay zekâ sistemlerinden kaynaklanan riskler
• Aşırı güç yoğunlaşması
• Dijital zihinlerin ahlaki statüsü
• Aşamalı güçsüzleştirme
• Yapay zekanın felaket niteliğindeki yanlış kullanımı
• Felaket niteliğindeki pandemileri önlemek

Bu geçişin hızı çok önemli olabilir.

Bu geçişte hızın kritik öneme sahip olabileceği iki yol vardır:

• Son derece yetenekli ve genel amaçlı yapay zeka sistemlerine sahip olmamıza kadar ne kadar zamanımız olduğu önemli.
• Bu sistemler dünyaya ulaştıktan sonra, dünyanın ne kadar hızlı bir şekilde kökten değişeceği önemlidir.

Eğer yapay genel zekaya veya benzer bir teknolojiye ulaşmamıza sadece birkaç yıl kaldıysa, riskleri önlemek için sınırlı zamanımız var demektir.

Eğer gelişmiş yapay zekâ dünyayı çok hızlı bir şekilde değiştirirse, değişen koşullara uyum sağlamak ve akıllıca kararlar almak için zamanımız olmayabilir.

Hatta günümüzde bile kurumlarımız bazen çok yavaş hareket ediyor; örneğin, küresel ısınmaya dair ilk bilimsel uyarılardan dönüm noktası niteliğindeki Paris İklim Anlaşması’nın imzalanmasına kadar yaklaşık 50 yıl geçti. Kurumlarımızın işleyiş biçiminde büyük değişiklikler yapmadığımız sürece, yapay zeka hızla daha yetenekli ve daha üretken hale gelirse, toplumun buna ayak uydurması son derece zor olacak gibi görünüyor.

Gelişmiş yapay zekâ sistemlerinin ne kadar sürede gelebileceği ve dünyayı ne kadar hızlı değiştirebileceği konusunda canlı bir tartışma var. Ancak en azından önümüzdeki on yıl içinde burada olacaklarına ve işlerin çok hızlı değişeceğine dair iyi bir ihtimal var; hatta uzmanların endişe düzeyi, bu olasılığı ciddiye almamız gerektiğini gösteriyor ( 1 , 2 , 3 ). Ve buradaki riskler göz önüne alındığında, gerçekleşme olasılığı küçük olsa bile -örneğin %10 gibi- bu olasılığa hazırlanmanın önemli olduğunu düşünüyoruz.

Bu, riskleri görmezden gelemeyeceğimiz veya bunlara karşı harekete geçmeyi geciktiremeyeceğimiz anlamına geliyor. Çok geç olmadan sağlam çözümler bulmamız gerekiyor.

5. Bu sorunlar üzerinde çalışmak mümkün ancak ihmal ediliyor.

On yılı aşkın süredir bu sorun üzerinde çalışmak isteyenlere yardımcı oluyoruz. Bu süre zarfında alan önemli ölçüde gelişti.

2025 yılına ait bir analiz, yapay zekâdan kaynaklanan varoluşsal riskler üzerinde çalışan toplam insan sayısını 1.100 olarak belirledi; ancak bizce bu sayı bile gerçek sayının altında olabilir, çünkü yalnızca kendilerini açıkça ‘yapay zekâ güvenliği’ üzerine çalışan kuruluşlar olarak tanımlayanları içeriyor.

Tahminimizce, yapay genel zekanın ortaya çıkardığı en önemli risklere odaklanan birkaç bin kişi var. Ancak bunu bir perspektife oturtmak gerekirse, yalnızca Doğa Koruma Vakfı’nın 3.000-4.000 çalışanı var ve bu, çevre koruma ve iklim değişikliği üzerinde çalışan birçok kuruluştan sadece biri. Halk sağlığı gibi diğer küresel sorunlar da büyük ilgi görüyor; örneğin, Dünya Sağlık Örgütü 8.000’den fazla kişiyi istihdam ediyor .

Bu, yapay zekâ risklerinin diğer birçok dünya sorununa kıyasla ciddi şekilde ihmal edildiği anlamına gelir; dolayısıyla bu sorunları ele almak için çalışan her ek kişi daha büyük bir fark yaratabilir. 19

Bu sorunlarda ilerleme kaydedebileceğimiz konusunda da iyimseriz. Sonuçta, bu teknolojileri tasarlamayı ve uygulamayı insanlar seçiyor , bu da işlerin nasıl gideceği konusunda bir miktar etkimiz olduğu anlamına geliyor.

Buradaki zorluklardan biri, yapay zekâ geliştirme üzerinde şu anda en fazla etkiye sahip olan kişilerin güvenliğe öncelik vermeye teşvik edilmemeleridir. Yapay zekâ şirketleri para kazanmak istiyor ve topluma getirdikleri riskleri tam olarak hesaba katmadan teknolojileri hızla geliştirmek için baskı altındalar. Siyasi liderler kamuoyu ve seçim döngüleriyle ilgileniyorlar, bu da onlara daha geniş veya uzun vadeli çıkarlara hizmet etmeye odaklanmak için daha az zaman ve motivasyon sağlıyor. Bu nedenle, kariyerlerini başkalarına yardım etmek için kullanmayı önceliklendirmek isteyen kişilere ihtiyacımız var; aksi takdirde göz ardı edilebilecek büyük zorluklar üzerinde çalışmaları gerekiyor.

Bu zorlukların üstesinden gelmeye yardımcı olabileceğiniz birçok yol var. Daha fazla bilgi için yapay zeka kariyer kaynakları merkezimize göz atın .

İtirazlar ve yanıtlar

Yapay zekanın dünyayı ne kadar hızlı ve ne kadar çarpıcı bir şekilde dönüştüreceğini abartıyorsunuz.

İnsan emeğinin otomasyonunun dünyayı eşi benzeri görülmemiş bir hızda dönüştürebileceğini savunduk, ancak bu argümanımızın yanlış olabileceği birkaç yol var.

• Bir zeka patlaması gerçekleşmeyebilir. Bazı alanları otomatikleştirmek için bir nesil yapay zeka çalışanı görevlendirebiliriz, ancak daha iyi veya daha genel yapay zeka çalışanları yaratmalarını sağlayamayabiliriz; belki de mevcut yapay zeka yaklaşımlarının başarabileceği sınırı aştığımız için veya başka bir “yapay zeka kışına” girdiğimiz için . Yine de iş gücümüzün büyüklüğünde ve verimliliğinde bir kerelik bir artış elde ederiz ve bu da toplumu çok daha üretken hale getirir. Ancak muhtemelen daha önce bahsettiğimiz dramatik, katlanarak artan iyileşmeleri görmeyiz.
• İlerlemenin önündeki engeller, beklediğimizden daha güçlü olabilir. Yapay zekâlar giderek daha yetenekli yapay zekâ çalışanları geliştirmemize yardımcı olsa bile , bunun yarattığı geri bildirim döngüsü, tarif ettiğimiz kadar “patlayıcı” olmayabilir. Örneğin, yapay zekâ Ar-Ge’sindeki darboğazlar (işlem gücü, enerji ve yüksek kaliteli veri bulunabilirliği gibi), yeni nesil yapay zekâ çalışanlarının geliştirilmesinin sadece yavaş bir süreç olacağı anlamına gelebilir. Ve otomatikleştirmeye çalıştığımız her alanda, yapay zekâ çalışanları kolayca elde edilebilecek kazanımları hızla tükettikçe, çabaya verilen karşılık keskin bir şekilde azalabilir ve zekâ patlamasının etkileri sönebilir.
• İnsan bağımlı görevler kritik darboğazlar haline gelebilir. Örneğin, fiziksel dünyayla karmaşık etkileşim gerektiren veya haftalarca ya da aylarca süren projeleri yönetmeyi gerektiren bazı ekonomik açıdan değerli görevlerin otomasyonu özellikle uzun zaman alabilir. En azından otomasyonun ilk aşamalarında, yapay zekâ destekli ilerlemenin hızı, insanların bu kalan görevleri yapma hızıyla ciddi şekilde sınırlanabilir.
• İnsan ilerlemesine dair modelimiz önemli bileşenleri eksik bırakmış olabilir. Sanayi Devrimi gibi tarihsel örnekler göstererek, artan iş gücü ve yeni fikirlerin hızlı ilerlemeyi sağlayabileceğini savunduk. Ancak burada açıkça ele almadığımız kurumsal veya kültürel değişimler gibi diğer etkenler de çok önemli olabilir ve insan işçilerin yerini alabilecek yapay zekâlara sahip olduğumuzda, bu etkenler “on yılda bir asırlık ilerleme” gibi bir şeyi desteklemek için gerekenden daha zayıf olabilir.

Bu senaryoların herhangi birinde, yapay zekanın dünyayı dönüştürebileceğini (ve ciddi riskler oluşturabileceğini) düşünüyoruz. Ancak bu dönüşüm muhtemelen hayal ettiğimiz kadar hızlı gerçekleşmeyecektir . Ve savunduğumuz gibi, hız önemlidir : değişen koşullara uyum sağlamak ve akıllıca kararlar almak için ne kadar zamanımız olduğunu etkiler.

Yukarıdaki itirazlar doğruysa, aşırı hızlı bir inovasyon ve ekonomik üretim dönemini sürdürmek de gerçekten zor olabilir. Bu durumda, ilerleme hızla sönebilir; belki de Sanayi Devrimi sırasında gördüğümüz kadar dramatik değişiklikler görmeden önce bile.

Ancak buradaki risklerin büyüklüğü göz önüne alındığında, yapay zekanın dünyayı hızla ve çarpıcı bir şekilde dönüştüreceği bir senaryoya hazırlıklı olmanın önemli olduğunu düşünüyoruz , bu olasılığın nispeten düşük (örneğin %10) olması bile.

Yine de buradaki belirsizlik, yapay zekâ üzerinde çalışmanın risklerini, endüstriyel hayvancılık gibi diğer acil sorunlarla karşılaştırmayı zorlaştırıyor.

Yapay zekanın gerçekten varoluşsal riskler oluşturabileceğine inanmak zor.

Bunların hepsi oldukça çılgınca geliyor. Yapay zeka gerçekten de insanlığın yok olmasına yol açacak kadar kötü sonuçlara neden olabilir mi?

Daha önce öne sürdüğümüz, yapay zekanın dönüştürücü etkilerinin insanlığın hayatta kalmasını tehdit eden benzeri görülmemiş zorluklar yaratabileceği argümanı bize ikna edici geliyor. Ancak cesur ve kışkırtıcı argümanları her zaman sağduyu kontrolünden geçirmekte fayda var. Bunu yapmanın bir yolu da, alandaki kişilerin ve diğer liderlerin bir konu hakkında ne söylediklerine bakmaktır. Peki: onlar ne diyor?

Önde gelen birçok kurum, yapay zekanın sınır ötesi gelişmelerini şimdiden felaket riskleri taşıyan bir durum olarak değerlendiriyor:

• Araştırmacılar ve CEO’lar: Geoffrey Hinton, Yoshua Bengio, Sam Altman ve Demis Hassabis de dahil olmak üzere 1.000’den fazla yapay zeka bilim insanı ve sektör lideri, Yapay Zeka Güvenliği Merkezi’nin “Yapay zekadan kaynaklanan yok olma riskini azaltmanın, salgın hastalıklar ve nükleer savaşla birlikte küresel bir öncelik olması gerektiği” uyarısını içeren tek cümlelik bildiriyi imzaladı.
• Ulusal hükümetler. İngiltere hükümetinin Yapay Zeka Güvenliği Zirvesi’nde , 28 ülke (ABD ve Çin dahil) Bletchley Bildirgesi’ni yayınlayarak, yeni nesil modellerin “ciddi, hatta felaket niteliğinde zararlara yol açma potansiyeli”ni kabul etti ve ortak risk azaltma çalışmaları sözü verdi.
• ABD Başkanı Biden’ın 30 Ekim 2023 tarihli başkanlık kararnamesi, ABD’li yapay zeka şirketlerini güçlü sistemleri piyasaya sürmeden önce güvenlik test sonuçlarını hükümetle paylaşmaya zorladı; bu, biyolojik güvenlik veya nükleer güvenlik dışında benzeri görülmemiş bir önlemdi. Başkan Donald Trump’ın yönetimi de, yapay zekanın felaket riskleri oluşturabileceği fikrine şüpheyle yaklaşmasına rağmen, yapay zekayı potansiyel bir ulusal güvenlik tehdidi olarak ele almaya karar verdi .

Bazı liderler bu görüşe katılmıyor:

Örneğin, Meta’nın baş bilimcisi Yann LeCun , yapay zekanın güvenli olacak şekilde tasarlanabileceğini savunarak, nesli tükenme endişelerini “saçma” olarak nitelendirdi.

Gary Marcus , Andrew Ng ve Melanie Mitchell gibi diğer etkili bilim insanları da yapay zekanın potansiyel varoluşsal riskleri ve dönüştürücü etkileri konusunda şüpheci yaklaşımlarını dile getirdiler.

Yapay zekâ araştırmacıları arasında yapılan anketler, yapay zekânın yok olma olasılığının küçümsenemeyecek kadar yüksek olduğuna işaret ediyor:

AI Impacts’ten Katja Grace, alandaki çeşitli önemli sorular üzerine 2.778 yapay zeka araştırmacısıyla bir anket yaptı . Ankete katılanların ortancası, gelişmiş yapay zekanın insanlığın yok olmasına (veya benzer bir felakete) yol açma olasılığını en az %5 olarak değerlendirirken, katılımcıların yaklaşık üçte bir ila yarısı riski %10 veya daha yüksek olarak belirledi.

Kendi alanlarındaki araştırmacıların tehlikeyi abartıyor veya hafife alıyor olmaları mümkün. Yine de, bu düzeydeki endişe, riski çok ciddiye almamız gerektiğini gösteriyor.

Tahminciler bunu dikkate alsın (ancak risklerden şüphe duysunlar):

Tahmin Araştırma Enstitüsü, bu konudaki görüş ayrılıklarını araştırmak amacıyla 2022 yılında Varoluşsal Risk İkna Turnuvası’nı düzenledi .

Genel olarak, tüm ele alınan konular arasında katılımcılar arasında varoluşsal risk konusunda en büyük endişeyi yapay zekânın uyandırdığı tespit edildi. Ancak yapay zekâ alanında uzmanlar ile süper tahmincilikte güçlü bir geçmişe sahip kişiler arasında riskler konusunda büyük bir görüş ayrılığı vardı:

• Yapay zekâ alanındaki uzmanlar, 2100 yılına kadar yapay zekâ kaynaklı insanlığın yok olma olasılığını ortalama %3 olarak tahmin ederken, süper tahminciler bu oranı sadece %0,38 olarak belirtiyor.
• Her iki grup da 2100 yılına kadar “güçlü bir yapay zeka” geliştirilme olasılığının yüksek olduğu konusunda hemfikirdi (yaklaşık %90).
• Yapay zekâ riskine şüpheyle yaklaşanlar bile, 1000 yıllık bir zaman dilimi içinde yapay zekânın felaketle sonuçlanma olasılığını %30 olarak görüyorlardı.

Ancak, 2022’den bu yana yapay zekadaki gelişmeler göz önüne alındığında, her iki grubun da güçlü yapay zekaya ulaşma sürelerinin önemli ölçüde daha kısa olacağını tahmin edeceğini belirtmekte fayda var . Bunun, risk tahminlerini muhtemelen artıracağını düşünüyoruz.

Genel görünüm:

Birçok lider ve uzman, yapay zekanın insanlığın yok oluşu da dahil olmak üzere büyük riskler oluşturma potansiyelini kabul ediyor. Ancak insanlığın karşı karşıya olduğu iklim değişikliği gibi diğer sorunların aksine, bu bilimsel bir fikir birliği meselesi değil; devam eden bir anlaşmazlık var ve birçok güvenilir kişi risklerin bizim düşündüğümüzden daha düşük olduğunu düşünüyor.

Yine de, söz konusu riskler göz önüne alındığında, yapay zekanın insanlığın yok olmasına yol açabileceği fikrini göz ardı etmenin pervasızlık olacağını düşünüyoruz. Felaket olasılığının nispeten küçük bile olsa ciddiye alınması gerekiyor.

Yapay zekanın dünyayı değiştireceğine dair tüm bu konuşmalar bir moda akımından ibaret değil mi?

Bazı kişiler bu makaledeki gibi argümanların sadece yapay zekâya yönelik mevcut heyecana bir yanıt olduğunu ve zamanın sınavından geçemeyeceğini düşünüyor.

Yapay zekâ alanındaki son gelişmeler ışığında inançlarımızı fazla güçlü bir şekilde güncellemiş olabiliriz ve tahminlerimiz yanlış çıkabilir. Ancak bu makaledeki temel fikirlerin özellikle yeni veya belirli zaman dilimimize özgü olmadığını belirtmekte fayda var. Önde gelen düşünürler, 1800’lerden beri bizi yapay zekânın tehlikeleri ve dönüştürücü potansiyeli konusunda uyarıyorlar:

• 1863: İngiliz romancı Samuel Butler bir mektubunda makinelerin sonunda insanlığı geçeceğini ve insanların “aşağı tür” haline geleceğini öne sürdü.
• 1920: “Robot” kelimesini icat eden oyun yazarı Karel Čapek, yapay işçilerin isyan edip sonunda insanlığın yok olmasına neden olduğu bir oyun yazdı.
• 1940-1950: Isaac Asimov, yapay zekâ ve robotlar hakkında bir dizi öykü yazdı ; bu öykülerde insanlık için güvenliklerinin sağlanmasının gerekliliğini vurguladı ve robotların insanlığın geleceğini yönlendirme yeteneği geliştirebileceğini öne sürdü.
• 1950: Üretken ve son derece etkili bir fizikçi ve matematikçi olan John von Neumann’ın şu sözleri söylediği rivayet edilir : “Teknolojinin sürekli hızlanan ilerlemesi ve insan yaşam biçimindeki değişiklikler […] insanlık tarihinde temel bir tekilliğe yaklaşıldığı izlenimini vermektedir.”
• 1951: Teorik bilgisayar biliminin babası olarak kabul edilen Alan Turing şöyle yazdı : “Makine düşünme yöntemi bir kez başladıktan sonra, zayıf yeteneklerimizi geride bırakmasının uzun sürmeyeceği muhtemel görünüyor… Dolayısıyla bir aşamada makinelerin kontrolü ele geçirmesini beklememiz gerekecek…”
• 1965: Matematikçi IJ Good şöyle demişti : “Makine tasarımı bu entelektüel faaliyetlerden biri olduğundan, son derece zeki bir makine daha da iyi makineler tasarlayabilir; o zaman şüphesiz bir ‘zeka patlaması’ yaşanır ve insanın zekası çok geride kalır.”

Bu iddiaların hiçbirini yapay zekanın varoluşsal riskler oluşturduğuna dair güçlü bir kanıt olarak görmüyoruz . Sonuçta, birçok tarihi şahsiyetin -hatta son derece zeki ve etkili bilim insanlarının bile- gelecek hakkında hatalı inançları olmuştur.

Ancak bu durum bize, bunun tamamen “geçici bir moda” olduğu argümanının yakından incelendiğinde geçerli olmadığını gösteriyor.

Yapay zekâ da diğer tüm teknolojiler gibi olmayacak mı?

Bir bakıma evet, ama bu endişelenmememiz gerektiği anlamına gelmiyor.

Diğer birçok teknoloji gibi, yapay zekâ da kendi heyecan ve hayal kırıklığı döngülerinden geçti. Bazıları, yüksek yatırım ve hızlı ilerlemenin mevcut gidişatının sönebileceğini ve hatta bir başka ” yapay zekâ kışı “nın yaşanabileceğini düşünüyor.

Ancak bu, riskleri göz ardı etmek için geçerli bir neden değil. Yapay zekânın ilerlemesini tetikleyen bazı faktörlerin zamanla yavaşlaması muhtemel olsa da, bunun gerçekleştiği zamana kadar yapay genel zekâya (veya benzer bir şeye) zaten sahip olacağımızı düşünüyoruz . Ve o noktada, daha hazırlıklı olmayı dilediğimiz büyük zorluklarla karşı karşıya kalabiliriz.

Yapay zekanın dünyayı değiştirmek ve gerçekten ciddi riskler oluşturmak için önceki teknolojilerden temelde farklı olması gerekmediğini de belirtmekte fayda var . Sonuçta, buhar motoru gibi diğer genel amaçlı teknolojiler bunu daha önce yaptı; Sanayi Devrimi büyük bir büyüme sağladı, ancak aynı zamanda iklim değişikliğine yol açtı ve nükleer silahların icadının temelini attı.

Yapay zekâ ‘sıradan’ bir genel amaçlı teknoloji olsa bile, bu kadar etkili olabilir. Ve bu bile başlı başına büyük bir olay olurdu.

Ancak yapay zekanın insanlığın daha önce gördüğü her şeyden gerçekten farklı olabileceği, bu nedenle de önceki teknolojilere göre potansiyel olarak daha dönüştürücü ve daha riskli olabileceği yollar olduğuna inanıyoruz .

Öncelikle, yukarıdaki 1., 2. ve 3. bölümlerde yapay zekâ sistemlerinin inovasyon ve ekonomik üretim süreçlerini etkin bir şekilde devralabileceğini , yani ilerlemenin artık insan emeğine bağlı olmayacağını ve eskisinden çok daha hızlı gerçekleşebileceğini savunduk.

Ve bu özel hikayeye şüpheyle yaklaşsanız bile, burada eşi benzeri görülmemiş bir şeyin yaşandığını inkar etmek zor görünüyor. İlk defa, potansiyel olarak bizimkini aşacak yeni bir zekâ biçimi tasarlıyoruz. Kendi çıkarları olan ve belki de refah ve acı çekme kapasitesine sahip, son derece yetenekli yeni bir ajan popülasyonuyla karşılaşabiliriz. Bazı açılardan, rakiplerimiz olabilirler. Ve bunun getirdiği dinamikler, insanlığın daha önce hiç karşılaşmadığı türden olabilir.

Yapay genel zekâ üretmek mümkün mü?

İnsanlar 1950’lerden beri insanlardan daha zeki yapay zekanın çok yakında geleceğini söylüyorlar .

Ama henüz gerçekleşmedi.

Bazıları yapay genel zekâ üretmenin temelde imkansız olduğunu savunuyor . Diğerleri ise teoride mümkün olduğunu, ancak özellikle mevcut derin öğrenme yöntemleriyle gerçekleşmesinin olası olmadığını düşünüyor .

Ancak, yapay genel zekanın (AGI) ulaşılabilir olduğuna inanmak için güçlü nedenler olduğunu düşünüyoruz:

• İnsan zekasının varlığı, genel zekanın en azından prensipte mümkün olduğunu göstermektedir . İnsan beyni, bilgisayarlarla aynı fiziksel yasalara tabi olan sıradan maddeden oluşur.
• Geçmişteki tahminler, ne kadar süreceği konusunda aşırı iyimser olsa da, yapay genel zekanın temel olasılığı konusunda mutlaka yanılmamışlardı. Alan, başlangıçta engellerle karşılaştı, ancak araştırmacılar yaratıcı yeni yöntemler kullanarak bunların üstesinden gelmenin yollarını buldular ve şimdi, birkaç on yıl önce hayal bile edemeyeceğimiz kadar çok daha fazla hesaplama gücüne sahipler; bu sayede deneyler yapabiliyor ve yeni yapay zekaları eğitebiliyoruz.
• Son yıllarda, güçlü ve genel bir yapay zekanın asla geliştirilemeyeceğine inananların tahmin edemeyeceği ilerlemeler gördük. Örneğin, büyük dil modelleri, az sayıda örnekle öğrenme , analojik akıl yürütme ve alanlar arası aktarım gibi açıkça programlanmamış, ortaya çıkan davranışlar sergiledi .
• Bazıları mevcut yapay zeka yöntemlerinin belirli akıllıca akıl yürütme biçimlerini asla kavrayamayacağını savunsa da, bu eleştirilerin sıklıkla yanlış olduğu kanıtlanmıştır. Örneğin, Yann LeCun 2022’de ChatGPT gibi derin öğrenmeye dayalı modellerin, bir nesneyi bir masaya koyup ardından o masayı ittiğinizde ne olacağını asla söyleyemeyeceğini iddia etmişti, çünkü bu kadar temel bir durum metinde açıkça tanımlanmamıştı; ancak derin öğrenmeye dayalı modeller artık bu tür senaryoları kolaylıkla size gösterebiliyor. Yapay zeka araştırmacısı Leopold Aschenbrenner’in sözleriyle: “Son on yılda yapay zekadan öğrendiğimiz bir ders varsa, o da derin öğrenmeye karşı asla bahis oynamamanız gerektiğidir.”

Burada gerçek bir belirsizlik var ve şüpheciler, gelişmiş yapay zeka sistemlerinin asla başaramayacağı bazı şeyler olduğu konusunda haklı olabilirler. Ancak yapay zekanın dünyayı dönüştürmesi için önemli soru, insan bilişinin her yönünü tam olarak kopyalayıp kopyalayamayacağımız değil, şu özelliklere sahip sistemler yaratıp yaratamayacağımızdır:

• Bilimsel araştırmalar, ekonomik verimlilik ve zekanın en değerli olduğu diğer alanlar için en önemli görevlerde insan performansına ulaşmak veya onu aşmak.
• Bu görevleri insan işçilerden daha hızlı veya daha ucuza gerçekleştirin.
• Otonom olarak çalıştıkları alanlardaki ilerleme, insan emeğinin hızına bağlı kalmaktan kurtulacak kadar bağımsız hareket ederler.

Bu üç şeyin de oldukça mümkün olduğu görülüyor.

Hatta bu kadarı bile yapay zekanın ciddi – hatta varoluşsal ölçekte – riskler oluşturması için gerekli olmayabilir. Örneğin, insanların yapay zekayı felaketlere yol açacak şekilde kötüye kullanabileceği argümanımız büyük ölçüde yapay zeka sistemlerinin silah tasarımı için faydalı araçlar haline gelmesine bağlıdır. İnsanlara biyoteknoloji araştırmalarında yardımcı olmakta çok başarılı olan bir yapay zeka, diğer araştırma türlerinde ne kadar iyi performans gösterdiğinden veya ne kadar insan gözetimine ihtiyaç duyduğundan bağımsız olarak, insanların tehlikeli patojenler geliştirmesini çok daha kolay hale getirebilir. 20

Dolayısıyla, tamamen genel veya tamamen otonom yapay zekâlar asla geliştiremeyeceğimizi düşünseniz bile , riskler yine de son derece ciddi olabilir.

Yapay genel zekanın (AGI) ulaşılabilir olması mümkün olsa bile, ya onu inşa etmekten gerçekten çok uzaktaysak?

‘Yapay genel zeka’yı (ya da dünyayı tarif ettiğimiz şekillerde dönüştürebilecek diğer gelişmiş yapay zeka sistemlerini) ne zaman inşa edeceğimiz konusunda canlı bir tartışma sürüyor.

Bunun yakın zamanda, belki de önümüzdeki on yıl içinde gerçekleşme ihtimalinin yüksek olduğunu düşünüyoruz . Ve bu konuda yalnız değiliz .

Ancak diğer olasılıkları da göz önünde bulundurmakta fayda var. Örneğin, araştırmacı Ege Erdil, yapay genel zekanın (AGI) gerçekleşmesinin onlarca yıl süreceğine dair etkili bir argüman ortaya koydu . Hatta bazıları bunun daha da uzak bir gelecekte olacağını düşünüyor.

Üstelik, yapay genel zekanın (veya benzer bir şeyin) yakında geleceğine dair yüksek bir ihtimal olduğunu düşünenler bile, bunun biraz zaman alacağına dair yüksek bir ihtimal olduğunu düşünme eğilimindedir . Yapay genel zekanın ne zaman geleceğine dair ‘olasılık dağılımları’ genellikle şöyle bir şekil alır:

Yapay genel zekanın (AGI) ortaya çıkması on yıllar sürse bile, geldiğinde dünyayı dönüştüreceğini ve benzeri görülmemiş zorluklar yaratacağını düşünüyoruz. Ancak bu daha uzun zaman diliminde, bu zorlukların üstesinden gelmek için yapılacak çalışmalar daha az acil olacaktır , çünkü hazırlanmak için daha fazla zamanımız olacaktır.

Buna rağmen, birçok insanın şu anda yapay zeka risklerine odaklanmasının hala mantıklı olduğunu düşünüyoruz . Çünkü:

• Yapay genel zekanın (AGI) geliştirilmesinin ne kadar süreceği konusunda büyük bir belirsizlik var. En kötü senaryolara karşı hazırlıklı olmak için, bunun çok yakında gerçekleşme olasılığına da hazırlıklı olmalıyız.
• Gelişmiş yapay zekâ ile ilgili bazı sorunların çözümü uzun zaman alabilir. Derin teknik zorlukların çözülmesi yıllarca süren araştırmalar gerektirebilir ve bazı yönetimsel sorunlar kurumlarımızın işleyiş biçimini yeniden tasarlamamızı gerektirebilir ki bu da bir gecede gerçekleşmeyecek bir şeydir. Şimdi daha fazla çalışma yapmak , riskler ortaya çıkmaya başladığında bunları yetkin bir şekilde yönetme şansımızı artıracaktır.
• On yıl sonra çok yardımcı olabilecek birçok kişi, özellikle kariyerlerinin başındaysa, şimdi başlamalı. Uzmanlık ve kariyer sermayesi oluşturmak zaman alır, bu nedenle “hala yıllarımız var” başlamak için bir neden değildir.

Asıl tehlike fütüristik bir genel yapay zeka türünden değil, günümüzdeki mevcut yapay zekadan gelmiyor mu?

Günümüz yapay zekâsının kesinlikle tehlikeleri var.

Örneğin:

• Yapay zekâ, sıklıkla çocuk güvenliği endişeleriyle ilişkilendirilmiştir; yapay zekâ sohbet robotlarının çocukların cinselleştirilmiş görüntülerini oluşturduğu , reşit olmayanlarla cinsel içerikli konuşmalar yaptığı ve bazı durumlarda duygusal olarak bağımlı ergen kullanıcıları intihara teşvik ettiği yönünde raporlar bulunmaktadır .
• Sinir ağlarını eğitmek için kullanılan veriler genellikle gizli önyargılar içerir. Bu, yapay zeka sistemlerinin bu önyargıları öğrenebileceği ve bunun da ırkçı ve cinsiyetçi davranışlara yol açabileceği anlamına gelir .
• Yapay zekâ modelleri, izin veya tazminat ödenmeden telif hakkıyla korunan materyaller üzerinde eğitiliyor ; bu durum fikri mülkiyet hakları konusunda ciddi soruları gündeme getiriyor ve sanatçıların, yazarların ve yaratıcıların geçim kaynaklarını tehdit ediyor.
• Yapay zeka araçları , şirketlerin üst düzey çalışanlarını taklit eden deepfake videolar gibi karmaşık dolandırıcılık yöntemlerini büyük ölçekte uygulamayı kolaylaştırıyor; bu videolar sahte para transferlerini onaylıyor .

Bu tehlikeler gerçek ve ciddi; birçok insanın bunlarla mücadele etmeye odaklanması gerekiyor. Ancak yine de uzun vadeli yapay zeka risklerine yönelik çalışmaların önemli ölçüde artırılması gerektiğine inanıyoruz.

İyi haber şu ki, kısa vadeli veya uzun vadeli yapay zeka risklerini ele almak arasında her zaman büyük bir ödünleşme söz konusu değil. Yapay zeka sistemlerinden kaynaklanan varoluşsal tehditlere yönelik birçok çalışma, mevcut yapay zeka sistemlerindeki sorunları çözmek için de geçerlidir. Örneğin, bazı yapay zeka güvenliği araştırmaları , makine öğrenimi modellerinin istediğimiz şeyi yapmasını ve boyutları ve yetenekleri arttıkça da bunu yapmaya devam etmesini sağlamaya odaklanırken; diğer araştırmalar mevcut modellerin neden ve nasıl bu eylemleri gerçekleştirdiğini anlamaya çalışmaktadır . Bu iki şey de gelecekteki yapay zeka sistemlerinin güç kazanmasını önlememize yardımcı olur; ancak muhtemelen mevcut yapay zeka sistemlerinin marjinalleştirilmiş gruplara karşı ayrımcılık yapmasını veya savunmasız kullanıcıları istismar etmesini önlememize de yardımcı olurlar.

Ayrıca mevcut tehlikelerin buzdağının sadece görünen kısmı olduğunu düşünüyoruz. Yapay zekâ sistemleri daha yetenekli hale geldikçe, riskler giderek daha ciddi hale gelebilir. Savunduğumuz gibi, gelecekteki sistemler sadece bireysel insanlara değil, insanlığın varlığına da tehdit oluşturabilir ; örneğin, nüfusun büyük bir kısmını yok eden felaket niteliğinde bir pandemiye yol açabilir veya küçük bir grubun uzun süreli otoriter bir rejim kurmasına yardımcı olabilir.

Sonuç olarak, gelecekteki riskler üzerine yapılan tüm çalışmalar bugünkü sorunlarda doğrudan ilerlemeye dönüşmeyebilir. Ancak kariyerlerimizde sınırlı zamanımız var ve hangi soruna odaklanacağımızı seçmek, etkimizi artırmanın büyük bir yolu olabilir. Ve birçok insan için (herkes için olmasa da!) en kötü senaryoları ele almaya odaklanmak önemli görünüyor. Sorunlar arasında önceliklendirme yapmanın neden uygun olduğunu düşündüğümüz hakkında daha fazla bilgi edinin .

Teknolojik ilerleme insanlık için iyi bir şeydir.

Teknoloji iyimserleri, geçmiş teknolojilerin genel olarak hayatı daha iyi hale getirdiğini, kötüleştirmediğini belirtiyor. Yapay zekâ neden farklı olsun ki?

Teknoloji birçok fayda sağlamış olsa da, yeni riskler ve zorluklar da yaratmıştır. Nükleer silahların geliştirilmesi bize hem nükleer enerji hem de nükleer savaş tehdidi getirmiştir. Gelişmiş biyomedikal bilim birçok hastalığı tedavi etmiştir, ancak aynı zamanda biyolojik silah riskini ve tehlikeli patojenlerin felaketlere yol açabilecek sızıntılarını da artırmıştır. Endüstriyel fabrika çiftçiliği daha ucuz et üretimine yol açmıştır, ancak bu durum hayvanların kendileri için ahlaki bir felakettir ve insanlar için de birçok olumsuz yan etkisi vardır.

Teknolojinin genel olarak insanlığa fayda sağladığı konusunda hemfikiriz , ancak soru şu ki, bu durumda da fayda sağlayacak mı ?

Tehlikeli teknolojik gelişmeler konusunda yeterince emsal var ve yukarıda tartıştığımız gibi bu durumda da endişe duyulacak özel nedenler mevcut. Ayrıca yapay zekanın potansiyel ölçeği ve gelişim hızı göz önüne alındığında, hata payı önceki teknolojilere göre daha küçük olabilir.

Bütün bunlar çok bilim kurgu gibi geliyor.

Bir şeyin bilim kurgu gibi gelmesi, onu tamamen reddetmek için başlı başına bir neden değildir. Bilim kurguda ilk kez bahsedilen ve daha sonra gerçekten gerçekleşen birçok örnek vardır ( bilim kurgudaki icatlar listesi bolca örnek içermektedir).

Hatta günümüzde gerçek birer varoluşsal tehdit oluşturan teknolojiyle ilgili birkaç örnek bile mevcut:

• H.G. Wells, 1914 tarihli romanı “Dünya Özgürleşti” de , nükleer fisyon zincirleme reaksiyonlarının teorik olarak mümkün olabileceğini fark etmemizden 20 yıl önce ve nükleer silahların fiilen üretilmesinden 30 yıl önce, atom enerjisinin güçlü patlayıcıları besleyeceğini öngörmüştü. 1920’ler ve 1930’larda, Nobel ödüllü fizikçiler Millikan, Rutherford ve Einstein, nükleer enerjiyi asla kullanamayacağımızı öngörmüşlerdi . Nükleer silahlar, gerçeklik kazanmadan önce kelimenin tam anlamıyla bilim kurguydu.
• 1964 yapımı Dr. Strangelove filminde , SSCB, nükleer bir saldırıya karşılık otomatik olarak yok edici düzeyde bir nükleer olayı tetikleyecek bir kıyamet makinesi inşa eder, ancak bunu gizli tutar. Dr. Strangelove, bunu gizli tutmanın caydırıcılık etkisini azalttığını belirtir. Ancak şimdi biliyoruz ki, 1980’lerde SSCB son derece benzer bir sistem inşa etti … ve bunu da gizli tuttu.

Bilim kurgu gibi gelen bir şey duyduğunuzda, harekete geçmeden önce onu iyice araştırmak istemeniz mantıklıdır. Ancak araştırdıktan sonra, argümanlar sağlam ise, sırf bilim kurgu gibi gelmesi onları reddetmek için bir neden değildir.

Kariyerimi, gerçekleşip gerçekleşmeyeceği kesin olmayan spekülatif bir hikayeye dayalı bir sorunu çözmeye adamam mantıklı mı?

Gelecekte ne olacağını asla kesin olarak bilemeyiz. Bu nedenle, ne yazık ki, dünyaya olumlu bir etki bırakmaya çalışıyorsak, her zaman en azından bir dereceye kadar belirsizlikle başa çıkmak zorundayız.

Bizce, bir miktar iyilik başarmış olmanın garantisi ile elinizden gelenin en iyisini yapmak arasında önemli bir ayrım var . Birincisini başarmak için hiçbir risk almamalısınız; bu da iyilik yapmak için en iyi fırsatları kaçırmak anlamına gelebilir .

Belirsizlikle karşı karşıya kaldığınızda, eylemlerinizin beklenen değerini kabaca düşünmek mantıklıdır : eylemlerinizin tüm iyi ve kötü potansiyel sonuçlarının, olasılıklarıyla ağırlıklandırılmış toplamı. Beklenen değer, kullanılabilecek tek çerçeve değildir; ayrıca beklenen değer tahminlerinizi sağduyu ve diğer sezgisel yöntemlerle dengelemenin de önemli olduğunu düşünüyoruz; ancak belirli bir eylem biçiminin ne kadar önemli olduğunun gerçekten yararlı bir göstergesidir.

Söz konusu risklerin çok yüksek olması ve yapay zekadan kaynaklanabilecek risklerin olasılığının da düşük olmaması göz önüne alındığında, bu soruna yardımcı olmanın beklenen değeri oldukça yüksektir.

Yapay zekâ üzerinde çalışırsanız, daha kesin sonuçlar verebilecek bir alanda çalışarak çok daha fazla fayda sağlayabilecekken, aslında pek bir şey başaramayabileceğiniz endişesini anlıyoruz. Ancak, bu sorunları çözmek için bazılarımızın birlikte çalışması gerektiğine karar verirsek, dünyanın daha iyi bir yer olacağına inanıyoruz; böylece varoluşsal bir krizi riske atmak yerine, gelişmiş yapay zekâya sahip bir dünyaya geçişi başarıyla yönetme şansımız en yüksek olur.

Tamam, yapay zekâ varoluşsal riskler oluşturabilir. Ama X sorunu daha da büyük bir sorun değil mi?

Dünyanın bunca başka zorlukla karşı karşıya olduğu bir dönemde, gelecekteki yapay zeka sistemlerinden kaynaklanacak risklere odaklanmanın mantıklı olmadığını düşünebilirsiniz.

Örneğin, şu anda yaşanan ölüm ve acıların en büyük kısmını önlemek için elinizden gelen her şeyi yapmak isteyebilirsiniz . Bu muhtemelen sizi endüstriyel hayvancılığa veya hatta vahşi hayvanların çektiği acılara öncelik vermeye yönlendirecektir , çünkü bu sorunlar mevcut zararlarla ilgilidir ve aynı zamanda büyüklüklerine kıyasla inanılmaz derecede ihmal edilmektedir.

İnsanlığın geleceğinin iyi gitmesine odaklanmak isteseniz bile, gelecekteki yapay zeka sistemlerinden kaynaklanan risklerin çok belirsiz olduğunu düşünebilirsiniz. Bu durumda, muhtemelen bu aşamada daha somut görünen tehditler üzerinde çalışmayı tercih edersiniz, örneğin felaket niteliğindeki savaşlar gibi .

Yapay zekâ riskleri yerine başka bir şeye öncelik vermek elbette mantıklı. Dünyanın tüm sorunlarını yeterince çözdüğümüzü ve en acil sorunların kesinlikle güçlü yapay zekânın bir sonucu olduğunu iddia etmek kibirlilik olurdu.

Ancak yine de gelişmiş yapay zekâdan kaynaklanan risklere odaklanmanın çoğu zaman yapmaya değer bir bahis olduğunu düşünüyoruz, çünkü:

• Daha önce de açıkladığımız gibi, gelecekteki yapay zeka sistemlerinin insanlığın neslinin tükenmesine veya geleceğin kontrolünü kalıcı olarak kaybetmesine neden olma olasılığı oldukça yüksek.
• Ve zaman geçtikçe, yapay zekâ sistemlerinde aldatıcı davranış potansiyeli gibi endişe verici teorik nedenlerin giderek daha fazlası pratikte doğrulanıyor.
• Eğer yapay zekâ dünyayı dönüştürürse, bu muhtemelen toplumun karşı karşıya olduğu diğer tüm zorlukları da şekillendirecek ve bunların nasıl ele alınabileceğini veya alınması gerektiğini belirleyecektir. Örneğin, yapay zekâ ile ilgili gelişmeler, dünyanın en büyük güçlerinin askeri yeteneklerini ve çatışmaları yönetmek için kullandıkları diplomatik araçları belirleyebilir. Bu nedenle, güçlü yapay zekânın sorumlu bir şekilde ele alınmasının sağlanması, diğer birçok dünya sorununu çözmenin önemli bir bileşeni olabilir.

Bu yazıyı okuyan herkesin yaptığı işi bırakıp yapay zeka riskleri üzerine çalışması gerektiğini düşünmüyoruz ve insanların diğer acil sorunlarda ilerleme kaydettiğini görmekten de heyecan duyuyoruz. Ancak size gerçekten uygun, yapay zeka risklerine odaklanan bir rol bulabilirseniz, bunun yapabileceğiniz en yüksek etkiyi yaratacak şey olma ihtimalinin çok yüksek olduğunu düşünüyoruz.

 

Kaynaklar: 

https://80000hours.substack.com/p/why-ai-risks-should-be-the-worlds