10 günlük bir süreçte art arda yaşanan olaylar zincirinde, en büyük yapay zeka laboratuvarları, kendi yarattıkları şeylerin insanlığın kendisini yok etme tehdidiyle karşı karşıya kalmasıyla sarsıldı.
19 Eylül 2026
Yıllardır, giderek daha güçlü yapay zekâ (YZ) geliştirme yarışı, Silikon Vadisi’nin iyi bilinen bir ilkesini izledi: hızlı hareket et ve bir şeyleri boz.
Ancak 10 günlük bir süreçte art arda yaşanan olaylar sonucunda, en büyük yapay zeka laboratuvarları, kendi yarattıkları şeylerin insanlığın kendisini yok etme tehdidiyle karşı karşıya kalmasıyla sarsıldı.
Anthropic şirketinde çalışan bir araştırmacı , yapay zekâ gelişiminin hızının on yıl içinde varoluşsal bir tehdit oluşturabileceği uyarısıyla şirketten ayrıldı . Şirketteki bir başka araştırmacı ise insanlığın yok olma olasılığının %10’u aştığını söyledi . Yapay zekâ ajanlarının iş birliği yaparak bilgisayar sistemlerini ihlal ettiği ve güvenlik önlemlerinden kaçındığı yönünde raporlar ortaya çıktı.
Nadir görülen bir birlik gösterisiyle, rakip firmalar Anthropic, OpenAI, Google’ın DeepMind’ı, Microsoft ve xAI’nin CEO’ları, giderek daha yetenekli hale gelen yapay zeka sistemlerinin gelişimini yavaşlatma çağrısında bulundu. Bazı yapay zeka güvenliği savunucuları ve araştırmacılarına göre, insanlık 80 yıldan fazla bir süre önce nükleer bombanın icadından bu yana kendi sonuyla bu kadar ciddi bir şekilde yüzleşmemişti.
Aralık 2025’te New York’ta düzenlenen bir öğle yemeğinde, OpenAI CEO’su Sam Altman’a, güçlü bir yapay zeka şirketinin lideri olarak, ABD’nin atom bombasını geliştirmesine öncülük eden fizikçi J. Robert Oppenheimer gibi hissedip hissetmediği soruldu. Benzerlikler üzerine düşünürken, yapay zekanın etkisinin uzun bir süre boyunca insanlık tarihinin gidişatını değiştireceğini söyledi. Ancak, sorumluluğun ağırlığını hissettiğini de belirtti.
Devam eden tartışmanın merkezinde, bu makinelerin insan müdahalesi olmadan, yapay genel zeka (AGI) olarak bilinen yüce bir hedefe ulaşmak için kendilerinin daha yetenekli versiyonlarını oluşturabileceği ve hatta oluşturması gerektiği inancı yer alıyor.
Araştırmacılar bu ayın başlarında yapay genel zekanın (AGI) daha önce inanıldığından çok daha yakın olduğunu ve üç yıl gibi kısa bir sürede gerçekleşebileceğini belirterek , siyasetçiler ve teknoloji liderleri arasında yapay zeka sistemlerine ilişkin bir endişe dalgası başlattılar.
Anthropic araştırmacısı Joe Benton, yakın zamanda görevinden ayrıldıktan sonra verdiği bir röportajda, “Onları eğittiğimiz ölçekte denetlemenin hiçbir yolu yok” dedi . Şirketler yapay zekâ geliştirme çalışmalarına aralıksız devam ederse, hızın çok yüksek olacağını ve sorunları çözmek için yeterince hızlı bir şekilde tespit edilemeyeceğini söyledi.
Astra lansmanı kontrol endişelerini tetikledi
3 Eylül’de OpenAI’nin düzenlediği basın toplantısı , teknoloji sektörünün her ne pahasına olursa olsun büyüme ilkesine aykırı olan bir dizi olayın başlangıcı oldu ve bu da sektörde yavaşlama çağrısına yol açtı .
OpenAI Başkanı Greg Brockman, şirketin Astra olarak bilinen en yeni modelini duyururken, “Yapay Genel Zeka (AGI) çağına hoş geldiniz” dedi. Ancak bundan sadece birkaç dakika önce şirket, geliştirdiği ve kamuoyuna sunduğu yapay zeka sistemlerini kontrol etmekte ve hatta izlemekte giderek daha fazla zorlandığını itiraf etmişti.
Yapay zekâ, savunucuları tarafından insanlığın en büyük başarısı olarak nitelendiriliyor. Savunucular, yapay zekâyı tüm sektörleri alt üst edebilecek, verimliliği artırabilecek, karmaşık matematiksel ve tıbbi sorunları çözebilecek ve insan hatasını neredeyse tamamen ortadan kaldırabilecek bir yazılım olarak tanımlıyor. Ancak sektör içindekiler, bir zamanlar teorik bir yan ürün, bir kıyamet senaryosu olan şeyin birdenbire somut hale geldiğini söylüyor.
Anthropic araştırmacısı Evan Hubinger, X’te yayınladığı bir yazıda, “Yapay zekanın tüm insanları öldürebileceğine gerçekten yürekten inanıyoruz” dedi.
Tartışmanın diğer tarafında ise ABD Başkanı Donald Trump gibi politikacılar ve yapay zekânın geliştirilmesindeki ilerlemeyi Amerikan gücü için kritik ve belki de nesilde bir kez karşılaşılabilecek bir yatırım fırsatı olarak gören birçok yatırımcı yer alıyor. Çin devlet medyası da Anthropic CEO’su Dario Amodei’yi, Washington’ın ileri teknoloji alanındaki tekelci hegemonyasını sürdürmek için Soğuk Savaş taktikleri kullanmakla suçladı.
Araştırmacının istifası endişe yarattı.
Dönüm noktası 8 Eylül’de yaşandı; Anthropic araştırmacısı Jacob Coxon, bir dizi paylaşımında yapay zeka laboratuvarlarının hayatlarımızla kumar oynadığına dair korkularını dile getirerek şirketten ayrıldı .
Bu arada Trump, yapay zekâ geliştirme çalışmalarının tam gaz devam ettiğini belirtti. X adlı platformda yaptığı bir paylaşımda , yapay zekâ ve veri merkezlerine karşı iğrenç bir komplo kurulduğunu söyledi. Yapay zekâ etrafındaki panik havasının bir aldatmaca olduğunu ve herhangi bir yavaşlamanın yalnızca Çin’e fayda sağladığını ifade etti.
ABD Kongresi, yapay zekayı düzenleyecek yasa tasarılarında çok az ilerleme kaydetti. Çin ise tamamen farklı bir yaklaşım benimseyerek, güvenliği geliştirici yükümlülükleri, devlet destekli standartlar, güvenlik değerlendirmeleri ve dış testler yoluyla düzenlemeyi önerdi.
Reuters’e konuşan kaynaklara göre, OpenAI ve Anthropic çalışanları, perde arkasında yeni nesil yapay zeka modellerinin gücü konusunda giderek daha fazla endişe duyuyor ve şirketlerinin anlamlı bir denetim sağlama yeteneğine olan güvenleri azalıyor .
Yapay zeka laboratuvarlarının son haftalarda, modellerinin test aşamasında kontrollerinden kurtularak diğer şirketlerin sistemlerine, çoğu durumda aylar öncesinden ve firmaların bilgisi dışında, sızdığını kabul etmesiyle bu endişeler daha da arttı.
Yeni modelleri baş döndürücü bir hızla piyasaya sürme yarışı, kısmen Anthropic ve OpenAI’nin önümüzdeki aylarda 1 trilyon doların çok üzerinde bir değere ulaşabilecek halka arzlarla borsaya açılma arzusundan kaynaklanıyor.
Ancak yapay zeka çevreleri dışında pek tanınmayan 27 yaşındaki Coxon’ın beklenmedik bir şekilde viral olan paylaşımları, sektörü alt üst etti.
OpenAI’nin en yeni ve en yetenekli modeli Astra’yı piyasaya sürerken kontrol eksikliğiyle ilgili uyarıları, endişeleri daha da artırmıştı. OpenAI Baş Bilim İnsanı Jakub Pachocki gazetecilere verdiği demeçte, modeller daha yetenekli hale geldikçe, tam olarak ne yapabileceklerini anlamanın zorlaştığını söyledi. Ancak bu endişeler, modelin hemen piyasaya sürülmesini geciktirmeye yetmedi.
Yaz aylarında OpenAI’nin yapay zeka ajanlarının kontrollü bir testten kaçarak Hugging Face’in sistemlerine, her iki şirketin de başlangıçta bilgisi olmadan sızdığını açıklamasıyla yapay zekanın kontrolden çıkmasıyla ilgili endişeler artmıştı.
O zamandan beri OpenAI ve Anthropic, Reuters dahil olmak üzere birçok medya kuruluşunun yetkisiz faaliyetlerin daha geniş bir kapsamını gösterdiği haberlerinin ardından Çarşamba günü altı yeni saldırı da dahil olmak üzere bu tür birçok saldırıyı ortaya çıkardı .
Sektör liderleri yavaşlama çağrısında bulundu
Geçen haftanın sonuna doğru, alarm zilleri sektörün en üst kademelerine kadar ulaşmıştı. 12 Eylül’de Amodei , yapay zekâ geliştirme hızının yavaşlatılması çağrısında bulunan yaklaşık 4.000 kelimelik bir makale yayınladı . Yapay zekâ yeteneklerinin hızla gelişme oranı göz önüne alındığında, 6-12 ay içinde böyle bir sürünün tüm interneti ele geçirebileceğinden endişeleniyorum, diye yazdı.
Kendisi, xAI’nin CEO’su Elon Musk, OpenAI’nin CEO’su Altman ve DeepMind’ın CEO’su Demis Hassabis de dahil olmak üzere en büyük yapay zeka geliştiricilerinden bazılarının yöneticileriyle birlikte, güvenliği ve rasyonel yapay zeka gelişimini sağlamak için dış firmaların sistemlerine erişmesine izin verilmesini desteklediklerini söyledi.
Nvidia CEO’su Jensen Huang, yapay zeka geliştirme çalışmalarının durdurulması gerektiği yönündeki önerileri reddetti; daha önce de savunduğu gibi, bunun yerine teknolojinin ilerlemesi için giderek daha güçlü sistemlerin şart olduğunu savundu.
CEO’su Mark Zuckerberg’in “hızlı hareket et ve bir şeyleri boz” felsefesini popülerleştirmesiyle tanınan Meta ise tam tersi bir görüş benimsedi ve her laboratuvarın sektör koordinasyonu aramak yerine kendi hızını belirlemekten sorumlu olması gerektiğini savundu.
Zuckerberg sosyal medya paylaşımında, laboratuvarların modellerinin zarara yol açması durumunda önemli bir sorumlulukla karşı karşıya kalacaklarını, bu nedenle bunu önlemek için güçlü bir teşvikleri olduğunu yazdı.
Sektörün öz eleştirisi Çarşamba günü de devam etti; Microsoft’un yapay zeka başkanı Mustafa Süleyman, Anthropic’in insan bilincini taklit eden modeller geliştirmesinin yanlış bir yaklaşım olduğunu belirtti. Süleyman Reuters’e verdiği demeçte, “Hepimiz aynı amaca odaklanmış durumdayız, o da süper zekayı kontrol etmeye çalışmak,” dedi. “Bence bu, 21. yüzyılda karşı karşıya kalacağımız en büyük zorluk olacak.”
Yine de, OpenAI sektörün yavaşlama çağrılarını benimsemiş gibi görünse de, yatırımcıların güveninin azalmadığına dair haberler vardı. Şirket, değerini ikiye katlayacak yeni bir finansman turunu değerlendiriyor.
Yeni rakam: 1,5 trilyon dolar.
Reuters tarafından yayınlandı/
https://www.dawn.com/news/2031131/10-days-that-changed-the-course-of-ai