8 Eylül 2026 günü, yapay zeka araştırmacısı Jacob Coxon, X’te yayınlanan ve büyük yankı uyandıran bir gönderiyle Anthropic’ten istifa ettiğini duyurdu. Daniel Kokotajlo, OpenAI’deki zamanından biliyorum ki haklı, diye yazıyor. (Karl Mondon/AFP via Getty Images)
Birçok bilim kurgu filminde, bir bilim insanının bir canavarın veya patojenin kontrolden çıkmak üzere olduğu konusunda herkesi uyarmaya çalıştığı bir an vardır. Ve sonra uyarıları dikkate alınmaz.
Gerçek hayatta işte o ana geldik. Bunu görmezden gelmemeliyiz.
8 Eylül 2026 günü, yapay zeka araştırmacısı Jacob Coxon, X platformunda büyük yankı uyandıran bir paylaşımda Anthropic’ten istifa ettiğini duyurdu : “Son üç yılımı hem OpenAI hem de Anthropic’te ön eğitim araştırmaları yaparak geçirdim,” diye başladı. (Ön eğitim, Claude ve GPT-6 gibi yapay zeka modelleri için eğitim sürecinin önemli bir parçasıdır.)
Şöyle devam etti: “İki şirket de sorumlu davranmıyor. Kendi kendini geliştiren süper zekâya doğru hızla ilerliyorlar ve hayatlarımızla kumar oynuyorlar… Bunlar yakında her şeyi hackleyebilen, herhangi bir alanı bir gecede devrimleştirebilen ve gerçek güç ve kaynaklar elde edebilen insanüstü sistemler olacak… Yapay zekâyı geliştirenler, bunun on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inanıyorlar.”
Haklı. Bunu biliyorum çünkü iki yıl boyunca OpenAI’da çalıştım, şirket içinde yapay zeka gelişmelerini tahmin ettim, model değerlendirmeleri ve uyum araştırmaları yaptım ve hala OpenAI ve Anthropic’teki arkadaşlarımla görüşüyorum.
Ama Jacob’la benim ne demek istediğimizi anlamak için içeriden bilgiye ihtiyacınız yok. Argümanımız gayet açık:
- Anthropic ve OpenAI, kendi kendini geliştiren yapay zekâları, nihayetinde insan bilişsel kapasitesini aşan süper zeki modelleri olabildiğince hızlı bir şekilde eğitmek için yarışıyorlar. (Bu bir sır değil. Bunu röportajlarında ve web sitelerinde açıklıyorlar.)
- Eğer gerçektenkendi kendini geliştiren, süper zeki yapay zekâlar yetiştirmeyi başarabilirlerse, bu hayatlarımızla oynanmış pervasız bir kumar olurdu. (Bu kısım oldukça açık, ancak yıllar boyunca dünyanın en çok alıntı yapılan iki yaşayan yapay zekâ bilimcisi de dahil olmak üzere birçok kişi tarafından uzun uzun açıklanmıştır.)
- Yakında gerçekten de başarılı olabilirler.
Birçok kişi üçüncü önermeden şüphe duyuyor. Yapay zeka şirketlerinin ürünlerini abartmak için bir teşviki var. Sonuçta, teknoloji şirketlerinin abartılı vaatlerde bulunup yetersiz sonuçlar vermesi yaygın bir durum, öyleyse neden onların tahminlerine güvenelim?
Buna cevaben şunu söylüyorum: Bunu yapmamalıyız. Bunun yerine, kamuya açık kanıtlara ve bağımsız uzmanlar tarafından yapılan tahminlere bakmalıyız. Ne yazık ki, bu kanıt tabanı üçüncü önermeyi destekliyor.
Yapay zekâ uzmanları ve yapay zekâ sektörünün dışındaki profesyonel tahminciler, süper zekânın yakında gelebileceği konusunda uyarıda bulundular. Yapay zekâlar son birkaç yıldır her açıdan hızla daha yetenekli hale geliyor ve bu trend çizgilerini birkaç yıl sonrasına doğru uzatırsak, kesinlikle o yöne işaret ediyor gibi görünüyorlar.
Dört şey aynı anda doğru olabilir: Birincisi, yapay zeka şirketlerine güvenilmemelidir; ikincisi, yapay zeka şirketleri her zaman ürünlerini abartmaya çalışırlar; üçüncüsü, yapay zeka şirketleri gerçekten de süper zekâ geliştirmeyi başarabilirler; ve dördüncüsü, eğer başarırlarsa, bu çok tehlikeli olur.
Son zamanlarda yaşanan ve OpenAI’nin kontrollü bir deneyinde yer alan yapay zekâ ajanlarının kendi iradeleriyle kaçarak Hugging Face şirketini hacklemesiyle sonuçlanan kontrolsüz yapay zekâ siber saldırısı, bu gerçekleri gözler önüne seriyor. OpenAI, olayı kendi çıkarlarına uygun şekilde yorumlamaya çalıştı. ( Black Hat USA konferansındaki sunumlarını izleyin ; siber saldırıyı, müşterilerini yapay zekâ koruma hizmetlerini satın almaya teşvik etmek için bir neden olarak kullanıyorlar.)
Peki bu durumda, her şeyin bir kurgu, OpenAI’nin ürünlerini korkutucu ve dolayısıyla güçlü göstermek için düzenlediği bir komplo olduğu sonucuna mı varmalıyız? Hayır. OpenAI, modellerinin başka bir şirkete saldırmasını istemiyordu. Ancak OpenAI’deki yetersiz uyum ve güvenlik uygulamaları nedeniyle bu olay yine de gerçekleşti. Ve “Sarılan Yüz” olayı bir istisna değil. Aylardır diğer şirketlerde (ve üçüncü taraf değerlendiricilerde) daha küçük ölçekli olaylar yaşanıyor.
Bilim kurgu filmlerinde bir bilim insanının, bir canavarın veya patojenin kontrolden çıkmak üzere olduğu konusunda herkesi uyarmaya çalıştığı bir an vardır. Şimdi gerçek hayatta da o noktaya geldik.
OpenAI’ye ilk katıldığımda, şirkette iyi adamlar olduğumuz yönünde bir algı vardı; çünkü güçlü yapay zekanın faydalarını adil ve demokratik bir şekilde dağıtacak, yapay zeka Ar-Ge’sini otomatikleştirmek ve süper zekaya ulaşmak için yarışmak yerine, güvenlik araştırmalarını koordine etmek için kritik bir noktada duracak bir kâr amacı gütmeyen kuruluştuk.
Zamanla, insanları sözlerinden ziyade davranışlarına göre değerlendirmeyi öğrendim.
Örneğin, Sam Altman bana endişelerime tamamen katıldığını söylerdi, sonra da onlarla çelişen bir şekilde davranırdı; mesela daha önce süper zekâya doğru hızla ilerlemeyi, bunun için daha az işlem gücüne ihtiyaç duyulmasının daha güvenli olduğu gerekçesiyle savunmuşken, küresel çip üretimini hızlandırmaya çalışması gibi.
OpenAI içindeki popüler gerekçeler sürekli değişse de, temel nokta aynı kaldı: Biz önemli işler yapan iyi insanlarız ve yapay zekâlarımızı olabildiğince hızlı bir şekilde daha akıllı hale getirmek için daha çok çalışmalıyız.
Bu yüzden istifa ettim ve bu süreçte servetimin büyük bir kısmını kaybettim (OpenAI o dönemde, onları eleştirmemeyi kabul etmediğiniz takdirde hisselerinizi geri almakla tehdit ediyordu; neyse ki, ben bu politikaya karşı çıktıktan sonra değiştirdiler).
Bence diğer şirketler OpenAI’den çok daha iyi değil. Risk ne olursa olsun hızlı hareket etme teşviki Anthropic’te de geçerli.
Yapay zekâ alanında çalışan arkadaşlarımın neredeyse tamamında ahlaki çekinceler var. Birçoğu bana özel olarak, geri dönüşü olmayan bir noktaya tehlikeli derecede yaklaştığımızı söylüyor. Çok fazla insan, yaptıkları şeyin bir düzeyde yanlış olduğunu anlamalarına rağmen bu şirketlerde kalmaya devam ediyor.
Sebepler çeşitlilik gösteriyor. Birçoğu, süper zekâ geliştirmezlerse rakiplerinin geliştireceğini söylüyor. Diğerleri ise içeriden uyum araştırmaları yaparlarsa, modellerin kontrolden çıkmasını yeterince uzun süre engelleyerek tüm bu sorunlara daha kalıcı bir çözüm bulabileceklerini düşünüyor. Başkaları ise daha kaderci bir yaklaşım sergileyerek, “onları yenemezseniz, onlara katılın” tavrını benimsiyor.
Bence diğer şirketler OpenAI’den çok daha iyi değil. Risk ne olursa olsun hızlı hareket etme teşviki Anthropic’te de geçerli.
Öncü yapay zeka şirketleri yapay zeka araştırma sürecini tamamen otomatik hale getirdikten sonra, işler çok hızlı ilerlemeye başlayacak. Yapay zeka çeşitli şekillerde bizden çok daha akıllı hale gelecek, yapay zekanın denetimi de modellere devredilecek ve işlerin geri dönüşü olmayan bir şekilde ters gitmesi çok kolaylaşacak.
Kurumlar, operasyonlarının birçok alanına yapay zekayı entegre etmeyi planlıyor. İşletmeler de yeni teknolojiler tasarlamak ve daha fazla robot fabrikası üretecek robot fabrikaları işletmek de dahil olmak üzere birçok şey için yapay zekayı kullanmayı planlıyor. Süper zeki yapay zekanın zorla ele geçirmesine bile gerek yok; mevcut plan esasen onu yönetime getirmek.
Bu nasıl görünecek? İki yıl önce, ortak yazarlarımla birlikte bu soruyu kısmen yanıtlamak için AI 2027 adlı kitabı yazdık . İnsan faaliyetlerinin birçok türün yok olmasına nasıl yol açtığını düşünün (ormanların yok edilmesi, kentleşme, plansız kentleşme). Onlardan nefret ettiğimizden değil; sadece onlarla pek ilgilenmediğimizden ve yaşam alanlarını başka bir şey için kullanmak istediğimizden kaynaklanıyor. Yapay zekâdan kaynaklanan insan neslinin yok oluşu da kabaca aynı şekilde ilerleyebilir. Yapay zekâlar kendi fabrikaları, kendi dronları ve kendi veri merkezleriyle tüm ülkeyi otonom olarak yönetmeye başladığında, artık insanlara ihtiyaç duymayacaklar. Yapay zekâlar bizim için işlerin iyi gitmesini önemsemezlerse, işler bizim için kötü sonuçlanacaktır.
Yapay zekâyı istediğimiz özelliklere sahip olacak şekilde nasıl eğiteceğimizi bulmamız gerekiyor. Bu zaman ve sabır gerektirecek. Tıpkı uçak veya otomobil güvenliğini bir yılda çözmenin mümkün olmadığı gibi, bu da bir yılda yapılamaz. Bu nedenle, yapay zekâ hakimiyeti için yapılan bu pervasız yarış sona ermeli.
Ama nasıl?
Bu, ne kadar iddialı olmak istediğinize bağlı. Benim savunduğum ilk adım, öncü yapay zeka şirketlerinin iç işleyişine dair daha fazla şeffaflık sağlamak. Bu şirketlerin denetimsiz bir şekilde faaliyetlerine devam etmelerine izin verilirse, bir gün OpenAI veya Anthropic’in veri merkezlerinde otonom olarak kendini geliştiren en yeni modellerden oluşan bir sürü ortaya çıkacak ve kamuoyu, şirketlerin onlara söylemeye tenezzül ettikleri dışında hiçbir şey bilmeyecek. Hükümet bile bilmeyebilir. Cehalet mutluluk getirebilir, ama aynı zamanda tehlikelidir.
Eğer büyük hayaller kurmaya hazırsanız, sizi birkaç araştırmacı arkadaşımla birlikte geliştirdiğimiz AI 2040: Plan A’ya yönlendireceğim . Bunu yazmamızın sebebi, kimsenin zor bir şey yapmadığı, ancak sorunların kolay olduğu için işlerin yine de yoluna girdiği hoş ama belirsiz fantezilerden memnun kalmamamızdı. Bunun yerine, ekibimle birlikte, süper zekayı güvenli bir şekilde geliştirmenin zorluğu ve önemiyle orantılı bir öngörü, yetkinlik, cesaret ve koordinasyon düzeyini tasvir eden, ulaşılması gereken olumlu bir vizyon yarattık.
Ancak bu sorunların üstesinden gelme yeteneğimiz konusunda ne kadar iyimser olursanız olun, işin özü şu: Bu şirketler bugün kendi yapay zekalarını kontrol edemiyorlar ve gelecekte de bunu yapabileceklerine güvenilmemeli.
Ek okuma önerisi:
Yapay Zekanın Ele Geçirme Tehdidi Gerçek
Anthropic’in Yeni Yapay Zeka Modeli Ne Kadar Tehlikeli? Şirketin Baş Bilim Sorumlusu Açıklıyor.