Demis Hassabis / 14 Temmuz 2026
Bu, insanlık tarihinde çok önemli bir an. Beynin sahip olduğu tüm bilişsel yetenekleri sergileyen bir sistem olan Yapay Genel Zeka (YZ), muhtemelen sadece birkaç yıl uzakta. Önümüzdeki on yıllarda bu döneme geriye baktığımızda, tekilliğin eşiğinde olduğumuzu, insanlık için yeni bir çağın şafağında olduğumuzu fark edeceğimizi düşünüyorum.
Hayatımın tamamını yapay genel zeka (AGI) üzerinde çalışarak geçirdim çünkü her zaman, sorumlu bir şekilde inşa edilip kullanıma sunulursa, şimdiye kadar icat edilmiş en faydalı ve dönüştürücü teknolojilerden biri olacağına dair derin bir inancım vardı. AGI, internet veya mobil gibi önemli teknolojik atılımlarla bile karşılaştırılamaz; daha çok elektrik veya ateşin keşfine benzer. Düşünürseniz, aslında kumu düşündürmenin bir yolunu bulduk. Mucizevi bir şey.
Bu teknolojinin etkisinin büyüklüğü emsalsiz olacak, belki de Sanayi Devrimi’nin 10 katı ve 10 kat daha hızlı gerçekleşecek. İlaç keşfini hızlandırmaktan yeni temiz enerji kaynakları geliştirmeye, yeni gelişmiş malzemeler yaratmaya kadar toplumun karşı karşıya olduğu en büyük sorunlardan bazılarını çözmemize yardımcı olacak. Hatta kaynakların artık insan ilerlemesi için sınırlayıcı faktör olmadığı, muhteşem bir bolluk çağına ulaşabileceğimiz bir noktaya bile varabiliriz.
Sınırın Zorlukları
Yapay zekâ şimdiden gerçek dünyada faydalar sağlamaya başladı, ancak muazzam potansiyelini gerçekleştirmek için bu kritik gelişim dönemini düşünceli ve dikkatli bir şekilde yönetmeliyiz. Yapay genel zekaya yaklaştıkça ortaya çıkabilecek riskleri ele almak için acil eyleme ihtiyaç duyulmaktadır. Siber güvenlik için öncü modellerin yarattığı zorlukları zaten gördük ve yetenekler gelişmeye devam ettikçe nükleer ve biyolojik riskler de dahil olmak üzere diğer tehditler yakında ortaya çıkabilir. Ufukta, giderek daha fazla ajansal, tekrarlayan bir şekilde kendini geliştiren sistemlerin kontrolünü sağlamak ve zamanla daha da netleşecek bilinmeyen sorunlarla başa çıkmak için sağlam güvenlik önlemlerine ihtiyacımız olacak.
Her zaman insan zekasının ve yaratıcılığının her türlü problemi çözebileceğine inandım. Yapay zeka ile ilgili teknik riskleri azaltmanın, hep birlikte üstesinden gelebileceğimiz bir zorluk olduğuna eminim, ancak bunu başarabilmek için kendimize bu kritik adımı doğru atmak için zaman ve alan tanımamız gerekiyor. Şu anda, hem bu alanda hem de daha geniş anlamda toplumda bunu yapmıyoruz.
Şu anda son derece yoğun, çok katmanlı bir ticari ve jeopolitik yarışın içindeyiz. Bu rekabetçi dinamikler hızlı ilerlemeyi ve inanılmaz avantajları hızlandırırken, sınırda kaydedilen gelişmeler teknolojiyi anlamamızın önüne geçiyor. Dünyada bundan sonra ne olacağını kimse kesin olarak bilmiyor ve uzmanlar bile aynı fikirde değil. Belirsizliğin büyük olduğu ve risklerin bu kadar yüksek olduğu durumlarda, temkinli iyimserlikle ilerlemek mantıklı ve doğru stratejidir. Bu da, yeniliği teşvik ederken aynı zamanda sorumluluk ve güvenliği de teşvik eden, önemli güvenlik konularında uluslararası iş birliğini destekleyen ve yapay zekanın toplumun yararına nasıl kullanılacağına dair dikkatli bir değerlendirmeyi teşvik eden kamu politikaları gerektirir.
Sınırda Yer Alan Yapay Zeka Standartları Kurulu İçin Bir Çerçeve
Yapay zekada gördüğümüz hızlı ilerleme, dinamik, uyarlanabilir ve titiz bir yaklaşımla, en ileri düzey yapay zekâ modellerinin yeteneklerini test etmeyi gerektiriyor. ABD, ekonomik ve teknik konumu göz önüne alındığında, böyle bir çerçeve geliştirmede ilk adımı atmak için iyi bir konumda. Bağımsız önde gelen teknik uzmanları ve açık kaynak temsilcilerini içeren bir yönetim kuruluyla, Finansal Sektör Düzenleme Kurumu (FINRA) gibi, federal olarak denetlenen bir kamu-özel sektör ortaklığı veya kendi kendini düzenleyici kuruluş modeline göre yeni bir Standartlar Kurulu oluşturabilir. Dünya standartlarında teknik yetenekleri çekmek ve büyük ölçekli testler için gerekli hesaplama kaynaklarını sağlamak için önemli miktarda ve muhtemelen çoğunlukla endüstriden gelecek bir finansmana ihtiyaç duyulacaktır.
Standartlar Kurulu, değerlendirme protokolleri geliştirmekten ve ulusal güvenlikle ilgili alanlarda testler yürütmek için ilgili federal kurumlar ve ABD Ulusal Laboratuvarları ile çalışmaktan sorumlu olacaktır. Bir model, Standartlar Kurulu tarafından belirlenen ve gelişen yapay zeka yeteneklerine ayak uydurmak için düzenli olarak güncellenen bir dizi ölçüt üzerinde belirli eşikleri karşılıyorsa ‘Sınır Sınıfı’ olarak nitelendirilecektir. Bu ölçütler tarafından tanımlanan ‘Sınır Modelleri’ne sahip kuruluşlar ‘Sınır Laboratuvarları’ olarak kabul edilecek ve teknik ayrıntıları içeren model kartları yayınlamak, güçlü iç siber güvenlik sağlamak, kilit personeli denetlemek ve güvenlik araştırmaları için yeterli kaynak sağlamak gibi en iyi uygulamaları benimsemeye teşvik edilecektir.
Başlangıçta, Frontier Labs, piyasaya sürülmeden 30 gün öncesine kadar modelleri gönüllü olarak Standartlar Kurulu ile inceleme için paylaşacaktı. Değerlendirme protokolünün etkili ve sağlam olduğu gösterildikten sonra, resmileştirme hızla gerçekleşebilirdi; bu da Frontier Modellerinin ABD pazarında kullanılabilmesi için bu protokolden geçmesi gerektiği anlamına geliyordu. Laboratuvarlar ayrıca, piyasaya sürüldükten sonra ortaya çıkabilecek kritik güvenlik açıklarını gidermek için Standartlar Kurulu ile birlikte çalışacaktı.
Model değerlendirmeleri, siber güvenlik, biyolojik tehditler ve diğer yüksek riskli alanlardaki yeteneklerin titiz bilimsel değerlendirmelerini içermelidir. Belirli ajan tabanlı yapay zeka testleri, güvenlik önlemlerini aşma girişimlerini veya aldatma belirtilerini arayabilir ve yapay zeka tarafından oluşturulan görüntülere dijital filigran ekleme ve modelin mantığını anlamak için insan tarafından okunabilir çıktı belirteçleri oluşturma gibi en iyi uygulamaları sağlayabilir.
Bu değerlendirmeler düzenli olarak, belki de başlangıçta üç ayda bir güncellenecek ve eskimiş veya doygunluğa ulaşmış kıyaslama ölçütleri kullanımdan kaldırılıp yerine yenileri getirilecektir. Başlangıçta Frontier Labs ile istişare edilerek geliştirileceklerdir, ancak sonunda Standartlar Kurulu, aşırı uyumun önlenmesi için Laboratuvarlardan bağımsız olarak kendi özel testlerini oluşturacak teknik kapasiteyi geliştirmelidir. ABD hükümetiyle işbirliği yaparak, değerlendirmelere ve yeni kıyaslama ölçütlerinin ve değerlendirmelerin geliştirilmesine yardımcı olmak için üçüncü taraf denetçilerden oluşan bir ekosistemi teşvik edebilir.
Bu yaklaşımın güçlü yanı, teknik odaklı olması, aynı zamanda yeniliği desteklemesi ve sorumlu davranışı teşvik etmesidir. Alanın ivmelenmesine ayak uydurmak ve belirlenen en büyük risklere uyum sağlamak üzere tasarlanmıştır ve durumun ciddiyeti gerektirirse, gerekirse Sınır Laboratuvarları arasında geliştirmenin yavaşlatılmasını koordine etmek de dahil olmak üzere, kademeli olarak artırılabilir. Sınır Laboratuvarı olarak belirlenmek önemli bir prestij sağlayacak ve kıyaslama kriterlerini karşılayan modeller oluşturarak herhangi bir kuruluşa açık olacaktır. Çerçeve, menşe ülkesi veya açık veya kapalı olmasına bakılmaksızın Sınır sınıfı modeller için geçerli olabilir, ancak örneğin girişimlerden veya akademiden gelen Sınır dışı modeller bu süreçten muaf tutulacaktır.
ABD öncülüğünde başlatılan bu girişim, Sınır Yapay Zekası konusunda ortak uluslararası standartlar oluşturmak için güçlü bir başlangıç noktası sağlayacaktır. Bu teknoloji tüm gezegeni etkileyeceğinden, ideal olarak bu çerçeve, uluslararası topluluğu en ciddi riskleri nasıl yöneteceğine dair bir fikir birliğine varmaya teşvik ederken, herkesin yapay zekanın getirdiği fırsatlara erişebilmesini ve bunlardan faydalanabilmesini sağlamayı da hedefleyecektir.
Gelecek Henüz Yazılmadı
Yapay genel zeka (AGI), bilim ve tıbbı ilerletmek ve muazzam verimlilik artışları ve ekonomik büyüme sağlamak için nihai araç olma potansiyeline sahiptir. Ancak bunu başarmak için, ortak bir küresel çerçeve etrafında koordinasyon sağlayarak, en titiz bilimsel yöntemleri kullanarak ve karşılaştığımız zorluklar üzerinde çalışmak üzere en iyi zihinleri bir araya getirerek teknik temelleri doğru bir şekilde oluşturmamız gerekiyor.
Bu zorlu teknik sorunları çözsek bile, ele alınması gereken daha karmaşık ekonomik ve felsefi sorular olacaktır: kıtlık sonrası bir dünyada herkesin refah içinde yaşamasına yardımcı olacak ne tür yeni ekonomik modellere ihtiyaç duyulacak? Hangi değerlerle yaşamak istiyoruz, anlam ve amaç ne olacak ve insanlık durumu bile nasıl değişebilir? Bu soruların çözümü açıkça sadece teknoloji uzmanlarına bırakılamaz ve bırakılmamalıdır. Bu yeni dönemi tanımlamak için toplumun her kesiminin bir araya gelmesi gerekmektedir.
Yapay zekâ konusunda hem büyük bir heyecan hem de belirsizlik var ve her ikisi de haklı. Ancak gelecek henüz yazılmadı, yapay genel zekânın (AGI) gelmesinden önce bu değerli fırsatı tüm insanlığın yararına olacak şekilde bu teknolojiyi şekillendirmek için kullanmalıyız. Şimdi hep birlikte yapacaklarımız, uygarlığın bir sonraki aşamasının nasıl gelişeceğini belirleyecektir. AGI’yi güvenli bir şekilde dünyaya kazandırarak, bilimsel keşif ve ilerlemenin yeni bir altın çağına girebilir ve inanılmaz bir insan refahının parlak bir geleceğine öncülük edebiliriz.
Demis Hassabis,
Nobel Ödülü Sahibi | Google DeepMind ve Isomorphic Labs Kurucu Ortağı ve CEO’su
https://demishassabis.substack.com/p/a-framework-for-frontier-ai-and-the-dawning-of-a-new-age