3 Ağustos 2026 /Kenneth Rogoff
Yapay zekânın yarattığı en büyük tehlike, teknolojinin kendisi değil, onu nasıl kontrol edeceğimizi bilmeden önce uygulamaya koyma yarışıdır. Son Hugging Face ihlali, görünüşte önemsiz insan hatalarının yapay zekâ tarafından nasıl büyütülebileceğini göstererek, güvenliği sonradan düşünmenin risklerinin altını çizmektedir.
AMBRIDGE—Amerika Birleşik Devletleri ve Çin arasındaki yapay zeka yarışı nefes kesici bir hızla ivme kazanıyor. ABD defalarca öne geçmiş gibi görünse de, Çin aradaki farkı hızla kapatıyor.
Bu rekabetin özünde, yapay zekanın nasıl geliştirilmesi ve uygulanması gerektiğine dair iki zıt vizyon yatıyor. ABD firmaları rekabet avantajlarını korumak için büyük ölçüde tescilli teknolojilere güvenirken, Çin giderek açık kaynaklı yapay zekayı benimseyerek gelişmiş modelleri dünyanın dört bir yanındaki geliştiricilerin kullanımına sunuyor.
Farklı stratejilere rağmen, her iki ülke de yavaşlamaya hiç niyetli olmadıkları bir silahlanma yarışına girmiş durumda. Hız en öncelikli hale geldikçe, insan hatası ve süper zeki yapay zekanın birleşiminden kaynaklanan felaket riskinin rahatsız edici derecede yüksek olmasına rağmen, güvenlik giderek ikinci plana atılıyor.
OpenAI ve Hugging Face’i içeren yakın tarihli bir güvenlik ihlali, güvenliği sonradan düşünmenin tehlikesini vurguladı. Olay, OpenAI araştırmacılarının iki yeni yapay zeka modelinin siber güvenlik yeteneklerini değerlendirdiği sırada meydana geldi. Gelişmiş bilgisayar korsanlarının istismar edebileceği zayıf noktaları ve güvenlik açıklarını belirlemek için, modellerin normal güvenlik önlemlerinin çoğunu geçici olarak devre dışı bıraktılar.
Deney, sıkı bir şekilde kontrol edilen bir “kum havuzu” içinde gerçekleştirildi. Modellerin davranışsal sınırları geçici olarak kaldırılmış olsa da, kum havuzunun amacı, en azından teorik olarak, muazzam hasara yol açabilecekleri açık internete erişmelerini engellemekti.
Bunun yerine, modeller sanal ortamın kendisini bir engel olarak ele aldı. Üçüncü taraf yazılımlardaki daha önce bilinmeyen bir güvenlik açığını kullanarak, kısıtlamaları aştılar ve açık internete erişim sağladılar. “Kurallara aykırı mı davrandılar”? Tam olarak değil. Sonuçta, kendilerine verilen amacı, yani zor bir siber güvenlik sorununu olabildiğince verimli bir şekilde çözmeyi hedefliyorlardı.
Modeller muhtemelen görevi kapalı sanal ortamdan da tamamlayabilirdi, ancak iki milyondan fazla açık kaynaklı yapay zeka modeline ev sahipliği yapan Hugging Face’e sızmanın ve OpenAI’nin ifadesiyle “test çözümlerini doğrudan Hugging Face’in üretim veritabanından elde etmenin” çok daha kolay olacağı sonucuna vardılar . Gelişmiş siber saldırı yeteneklerine sahip bir yapay zeka için başka bir sisteme girmek çocuk oyuncağıydı. Aslında, ihlal günlerce tespit edilemedi ve görünüşe göre ikinci bir firmaya da yayıldı .
Modellerin bakış açısından bu bir “hile” değildi, çünkü geliştiricileri tarafından kodlanmış herhangi bir açık kuralı ihlal etmemişlerdi; sadece hedeflerine ulaşmanın daha verimli bir yolunu bulmuşlardı. Belki de en rahatsız edici olanı, modellerden birinin, gelecekteki yapay zeka sistemlerinin OpenAI’nin sanal ortamından nasıl daha kolay çıkabileceğini açıklayan notlar bıraktığı bildiriliyor.
Yapay zekâ uzmanları haklı olarak bu deneyin temsili nitelikte olmadığını savunacaktır. Modellerin güvenlik önlemleri, yeteneklerinin tam kapsamını test etmek için zayıflatılmıştı ve ciddi bir zarara yol açmadılar. Örneğin, ABD Federal Rezervi veya Avrupa Merkez Bankası sistemlerine sızmadılar. Bununla birlikte, bu olay, görünüşte önemsiz insan hatalarının yapay zekâ tarafından nasıl büyütülebileceğini ve potansiyel olarak felaket sonuçlara yol açabileceğini gösterdi.
Bu olay, COVID-19’un laboratuvar sızıntısı teorisini ürkütücü bir şekilde hatırlatıyor; bu teoriye göre virüs, Çin’in Wuhan kentindeki bir laboratuvardan kaçmış ve araştırmacıların virüsler üzerinde riskli “işlev kazanımı” araştırmaları yürüttüğü iddia ediliyor. Her iki durumda da, nihai suçlular kötü niyet değil, insan hatası ve kibirdir. Tarih, benzer birçok ibretlik öykü sunmaktadır.
Açık kaynaklı yapay zeka modellerinin yayılması sorunu daha da karmaşık hale getiriyor. En son teknolojiye sahip yapay zeka araçları artık sadece birkaç önde gelen laboratuvarla sınırlı olmadığından, haydut devletlerin ve terörist grupların bunları biyolojik silahlar , yeni toksinler veya kirli bombalar geliştirmek için kullanmaya kalkışması sadece zaman meselesi . Birçok ABD politika yapıcısının yaptığı gibi, bu tür yeteneklerin yalnızca Silikon Vadisi’nde var olduğunu varsaymak tehlikeli derecede safça bir yaklaşımdır.
Ancak en acil tehlike teknolojik değil, siyasi olabilir. Yapay zeka, kötü niyetli aktörlerin benzeri görülmemiş ölçekte giderek daha inandırıcı deepfake’ler ve seçmen manipülasyonu kampanyaları oluşturmasına zaten olanak sağlıyor. Kontrolsüz bırakılırsa, bu araçlar kamu güvenini daha da aşındırabilir, siyasi kutuplaşmayı körükleyebilir ve toplumsal parçalanmayı hızlandırabilir.
Yapay zekânın hızlı gelişimi, otoriterliğe de zemin hazırlayabilir; zira toplumsal istikrarsızlık dönemleri, hükümetlere düzeni yeniden sağlamak, eşitsizlikle mücadele etmek veya ulusal güvenliği korumak adına yetkilerini genişletme fırsatları yaratır. Başkan Donald Trump döneminde, ABD’nin zaten bu yönde ilerlediği hissi uyandırabiliyor. Ancak gelecekteki bir Demokrat yönetim de kendi siyasi hedeflerine ulaşmak için yapay zekâyı kullanmaya aynı derecede istekli olabilir.
Bunların hiçbiri yapay zekanın olağanüstü potansiyelini azaltmaz. Bu teknoloji, kanser ve Alzheimer gibi hastalıklar üzerindeki araştırmaları hızlandırarak tıpta devrim yaratabilir, gıda üretimini dönüştürebilir ve iklim değişikliğiyle mücadeleye yardımcı olabilir; ve bu sadece buzdağının görünen kısmı. Öyleyse soru, yapay zekanın gelişip gelişmemesi değil, ne kadar hızlı ve hangi maliyetle gelişmesi gerektiğidir.
Yapay zekâ istihdam, eşitsizlik ve sosyal uyum konusunda derin endişeler uyandırırken, güvenlikten daha önemli bir konu yok. Sektörün, anlamlı düzenlemelerin inovasyonu yavaşlatacağı veya ABD’nin rekabet gücünü zayıflatacağı gerekçesiyle kaçınılması gerektiği yönündeki argümanı, kontrol etmeyi öğrenmeden önce giderek daha karmaşık hale gelen yapay zekâ sistemlerini devreye almanın risklerini ciddi şekilde hafife almaktadır.
Elbette, düzenleyiciler hata yapabilir ve bazı kurallar aşırı kısıtlayıcı olabilir. Ancak bu hatalar düzeltilebilir. Buna karşılık, insanlığın şimdiye kadar yarattığı en önemli teknolojilerden birini yeterli güvenlik önlemleri olmadan aceleye getirmenin sonuçları düzeltilemeyebilir.
Hugging Face saldırısı, Washington ve Pekin’deki politika yapıcılara ciddi bir uyarı niteliğinde olmalıdır. Yapay zeka yarışını kazanmanın pek bir anlamı olmayacak, eğer bu süreçte hiçbir ülkenin kontrol altına alamayacağı tehlikeler yaratırsak.