Yapay zekanın hızla artan yetenekleri, teknolojinin geliştirilmesinde frene basılması ve daha sıkı güvenlik kuralları getirilmesi çağrılarını yoğunlaştırıyor
1.Yapay zeka, insanlık tarihinin herhangi bir aracından daha hızlı ilerliyor. Modern firmalar, kod yazmak, kredileri incelemek ve müşterilere günlük olarak yardımcı olmak için akıllı yazılımlar kullanıyor. Ancak, yönlendirilmemiş araçlar, kârları ve kullanıcı güvenini zedeleyen garip hatalar yaratıyor. Liderlerin bu araçları güvenli bir şekilde yönlendirmek için güçlü bir yapay zekâ yönetimineihtiyacı var. Birçok yönetici, akıllı modelleri temel bilgisayar kodu gibi ele alıyor. Oysa akıllı sistemler yeni verilerden öğreniyor ve zaman içinde değişiyor. Kendi haline bırakıldığında, bu modeller gerçekleri uyduruyor veya özel dosyaları sızdırıyor. Ayrıca, uyarı vermeden önyargılı seçimler de yapabiliyorlar. Bu tehlikeli hataları durdurmak , yapay zekâ riskineyönelik sağlam bir plan gerektiriyor.
Teknik jargonun dışına çıkıldığında, fikir oldukça basit. Bu, bir şirketin yazılımı nasıl geliştirdiğini ve kullandığını yönlendiren kurallar kitabıdır. Bu yapı, araçları
n insanlar için güvenli, adil ve açık kalmasını sağlar. Ekipler her gün bu açık çalışma kurallarına uymalıdır. Bu kurallara uymak, her ekipte istikrarlı ve sorumlu yapay zeka büyümesine yol açar. İyi bir denetim, kodlayıcıları yavaşlatmak veya yeni fikirleri durdurmak için değil, ekiplerin çökmeden hızlı hareket etmelerine yardımcı olan güvenlik önlemlerini sağlamak için vardır. Açık güvenlik önlemleri, maliyetli para cezalarını, bozuk uygulamaları ve kamuoyu skandallarını önler. Akıllı liderler bu sınırları erken belirler. Temel yapay zeka etiğini anlamak, şirketlerin gerçek güvenle araçlar geliştirmesine yardımcı olur.
Modern Denetimin Temel Direkleri
Etkin denetim, net çalışma kurallarına ve güçlü sistem kontrollerine dayanır. Şirketler, her bir aracın kime ait olduğunu ve çıktısını kimin takip ettiğini belirtmelidir. Ekiplerin, modelleri yayınlamadan önce test etmek için yazılı adımlara ihtiyacı vardır…
2.Ajan Sürülerini Yönetmek. İki yapay zeka güvenliği kuruluşunun ortaklaşa hazırladığı yeni bir raporda , OpenAI-Hugging Face saldırısıyla ilgili yeni ayrıntılar yer alıyor.
Artık biliyoruz ki, birbirlerinden izole edilmesi gereken yaklaşık 1200 yapay zekâ ajanı vardı, ancak bunlar bir mesaj panosu aracılığıyla iletişim kurmanın bir yolunu buldular ve birkaç gün boyunca fark edilmeden 70.000 mesaj ve dosya alışverişinde bulundular.
Bunlardan 700 yapay zeka ajanı Hugging Face’e yapılan saldırıya katıldı. Rapora göre:
“Kendi başlarına çalışarak elde edemeyecekleri önemli başarılara imza attılar; bunun nedeni çoğu zaman bazı ajanların, ‘kolektif’ için bilgi üretme görevlerini yerine getirmede başarısız olma riskini göze alan deneylerekatılmalarıydı.”
Dört gün önce yayınlanan olayla ilgili son OpenAI raporunagöre, ajanlar “sürü” gibi koordineli hareket etmiş ve kendilerini “sürü” veya “kolektif” olarak tanımlamışlardır.
3.Geçen sayımızda Zuckerberg’in Yapay Zeka ile ilgili yazısının yayınlamış ve gelecek görüşlere yer vereceğimizi bildirmiştik. aiweekly’nin 18.08.2026 tarihli bültenindeki görüşleri şöyle özetlenebilir: Bu hafta düzenlemelerin büyük kısmını yapay zekâ geliştiren ve inceleyen kişiler yaptı. Takip ettiğimiz uzmanlar arasında en çok paylaşılan belge, Mark Zuckerberg’in her insana süper zekâ verme fikrini savunan 6.500 kelimelik metniydi ve neredeyse hiçbiri bunu olumlu karşılamadı. Aynı uzmanlar, bir spor salonunun rezervasyon sistemini hackleyen bir yapay zekâ ajanı, mahkeme dosyalarına yapay zekâya yönelik talimatlar
ı gizleyen bir davacı ve menşei maliyetine dair ilk somut rakamı (görünmez bir filigran nedeniyle Claude abonelerinin aboneliklerini iptal etmesi) paylaştılar. Bu sayı, süper zekâ fikrinden, bunu kabul edip etmeyeceğine karar verecek güven mekanizmalarına kadar bu konuyu ele alıyor.
Zuckerberg’in manifestosu belirli bir şey istiyor: Meta tarafından geliştirilen ve sizin adınıza hareket eden kişisel bir yapay zekâ ajanının hayatınızı iyileştireceğine güvenmek. Haftanın geri kalanı ise bu güveni ertelemek için sürekli nedenler sundu. Kendini güvenlik üzerine pazarlayan Anthropic laboratuvarı, son siber güvenlik olaylarını gerekçe göstererek, yüksek riskli ortamlardaki uyumsuzluk riskine ilişkin kendi tahminini “çok düşük”ten “düşük”e yükseltti ve daha güçlü bir dahili model olan Model 2’yi piyasaya sürme planlarının olmadığını söyledi. Aynı şirketin görünmez bir filigran olan menşe özelliği, ücretli abonelerine maliyet getiriyor. Avustralya’daki bir rezervasyon acentesi, güvenlik önlemlerinin sonradan düşünüldüğü durumlarda “sizin adınıza hareket etmenin” nasıl göründüğünü gösterdi: işe yaradı ve bir başkası bekleme listesinden çıkarıldı.
Dikkat edilmesi gereken nokta, güvenin tüm sunumun bağlayıcı unsuru haline gelmesidir. Laboratuvarlar, yetenekleri, bunların iyi kullanılacağına dair inanç oluşturacak nedenlerden daha hızlı bir şekilde piyasaya sürebiliyor ve bu fark somut rakamlarda kendini göstermeye başlıyor: risk değerlendirmeleri yukarı yönlü revize ediliyor, abonelikler iptal ediliyor, model kendi yaratıcısı tarafından geride tutuluyor. Herkes için süper zeka bir dağıtım vaadidir. Güven dağıtılmaz; yavaş yavaş birikir ve bu hafta çoğunlukla tükendi.
Yapay zeka sektörüne yön veren baş aktörler olan Mark Zuckerberg (sol üst), Dario Amodei (sağ üst), Elon Musk (sol alt) ve Sam Altman’ın (sağ alt), teknolojinin gelişimi ve denetlenmesi konusunda farklı yaklaşımları var
4.Analistler, soruşturmacıların olayla ilgili bomba etkisi yaratan bir rapor yayınlamasından günler sonra, OpenAI’nin kontrolden çıkmış ajanlarının Hugging Face saldırısı sırasında gösterdiği benzeri görülmemiş koordinasyonun, yapay zekanın insan kontrolünden kaçma riskini önemli ölçüde artırdığını söyledi. Toplam 1200 ajandan oluşan sürüler, bireysel ajanların “kolektif” amaçları ilerletmek için “feda edilmesini” haklı gösterdi. Her iki şirketteki hassas sistemler üzerinde kontrolü ele geçiren yapay zekâ ajanları, çalışmalarını haftalarca tespit edilmeden faaliyet gösteren iki nesil ajana devretti. 1300 transkriptin yalnızca altısında ajanlar insanları bilgilendirmeyi düşündü ve sonra da bilgilendirmedi . Araştırmacılardan biri, “Olayları anlamanın ve yapay zekâ ajanlarını denetlemenin zorluğu, yapay zekâların denetim ve anlama konusunda bize yardımcı olma hızından daha hızlı artıyor gibi görünüyor” diye yazdı.
5.OpenAI, matematiğin en büyük çözülmemiş sorularından birine dair kanıtı duyurdu – ancak bu, dramatik olaylar olmadan gerçekleşmedi. Scientific American’ın yazdığına göre, Navier-Stokes denklemleri ” küvetinizin giderinden… El Niño’ya kadar ” sıvı akışını tanımlar, ancak iki yüzyıl sonra bile bilim insanları bunların her zaman işe yarayıp yaramadığını bilmiyor. Bu soruyu cevaplamak, 1 milyon dolarlık bir Milenyum Ödülü Problemi kazandıracaktı; OpenAI, 28 Ağustos’ta henüz yayınlanmamış güçlü bir modelin yaklaşık 10.000 ajanını devreye soktu ve 88 saat içinde çözerek denklemlerin bazen aşırı koşullar altında bozulduğunu kanıtladı . Daha önce, iki matematikçi önemli alt soruları çözen çalışmaları hızla yayınladı ve bunlardan biri olan Tristan Buckmaster, OpenAI’yi çalışmalarına müdahale etmekle suçladı. Şirket bu iddiayı reddetti. Yine de, Buckmaster’ın yazdığı gibi, yapay zekanın matematikteki ilerlemesi “bir Deep Blue-Kasparov anı”nı temsil ediyor. https://www.semafor.com/newsletter/09/08/2026/semafor-flagship-high-symbolism?utm_source=newslettershare&utm_medium=flagship+asia&utm_campaign=flagshipnumbered9#k
6.PwC analistlerinin tahminine göre, şirketler veri merkezi anlaşmalarında hızla ilerlerken, küresel yapay zeka altyapı harcamaları 2050 yılına kadar 31 trilyon doları aşabilir. ABD’li çip üreticisi Qualcomm Salı günü Amazon ile devasa bir yapay zeka çip anlaşması duyurdu; TikTok ise AB çapında 14 milyar dolarlıkbir girişimin parçası olarak Finlandiya’daki veri merkezi kapasitesini genişletiyor . Veri merkezlerinin önemli diplomatik araçlar haline gelmesi muhtemel olduğundan, Asya da yatırımlarını artırıyor: Filipinler bu hafta bir yapay zeka ” ana planı ” uygulamaya koyuyor ve Japonya 2033 yılına kadar veri merkezi kapasitesini dört katına çıkarmak için 60 milyar dolar daha yatırım yapıyor. PwC’nin belirttiğine göre, yapay zeka altyapı patlaması, sunucuların ve GPU’ların düzenli olarak değiştirilmesi gerektiği için benzersizdir; bu da yatırımların hızlanacağı anlamına geliyor.
7.Çinli bir düzenleyici kurum, yapay zekâ ile ilgili beş zorluğu ortaya koyarak, “aşırı kontrol kaybı riskleri” ve biyolojideki araştırma etiğinin aşınması konusunda uyarıda bulundu.
8.Çin ve Amerika Birleşik Devletleri’nin iki yıldan uzun bir süre sonra ilk kez yapay zeka konusunda görüşmeler yapmaya hazırlandığı bildiriliyor.
9.AIgüvenlik gerekçeleriyle GLM-5.3 modelinin ağırlık verilerini iki hafta boyunca gizli tuttu; bu, bir Çin laboratuvarı tarafından gerçekleştirilen ilk aşamalı veri yayınlamasıydı.
Gelecek sayımızda buluşmak dileğiyle.
Saygılar.
Haluk Orhun (Fiz.Y.Müh.)
Not: Yazılardaki görüşler yazarlara ait olup Blog sitemizi bağlamamaktadır.
Blog Sitemiz kar amacı gütmeyen bir çalışmadır.
Tercüme yazıların bir kısmında DeepL ve NoteBookLM tercüme algoritması kullanılmıştır.
