AI for Good Global Summit 2026 sırasında düzenlenen ve Girls Into Coding’in kurucusu Avye Couloute’nin moderatörlüğünü yaptığı “Yapay Zeka Hızla İlerliyor: İşte Asıl Önemli Olanlar” başlıklı oturumda, Université de Montréal’de Tam Profesör, LawZero’nun Eş Başkanı ve Bilimsel Direktörü ve Mila – Institut québécois d’intelligence artificielle’nin Kurucusu ve Bilimsel Danışmanı Yoshua Bengio ; Google DeepMind’da Araştırma ve Mühendislik Kıdemli Direktörü Joëlle Barral ; Afrika Veri Bilimi ve Yapay Zeka Enstitüsü Direktörü ve Pretoria Üniversitesi’nde Bilgisayar Bilimleri Tam Profesörü Vukosi Marivate ; ve Tokyo Üniversitesi’nde Profesör ve Matsuo Laboratuvarı Başkanı Yutaka Matsuo bir araya geldi. Couloute, dört panelistin de yapay zekanın günlük yaşamın bir parçası olmadan önce büyüdüğünü, kendisinin ve kendi kuşağından insanların ise böyle bir dönemde büyümediğini belirterek, yapay zekanın nasıl geliştirildiği konusunda asıl önemli olanın ne olduğunu sordu.
Hız sorun değil.
Hızın tehlike olup olmadığı sorulduğunda Bengio, daha kullanışlı bir karşılaştırmanın araba olduğunu söyledi. “Çok güvenli bir yolda çok hızlı giden çok güvenli bir araba kullanıyorsanız sorun yok,” dedi. “Sorun şu ki, farlarımız yok, tam olarak nereye gittiğimizi bilmiyoruz ve arabanın iyi durumda olduğundan bile emin değiliz.” Diğer bir faktörün ise teşvikler olduğunu ekledi: Yapay zeka gelişimini yönlendiren ve karı önceliklendiren yapı, insan refahıyla uyumlu değil.
Barral, sorunun uygulama tarafının amaca bağlı olduğunu söyledi. Sağlık sektöründe, yapay zeka sistemleri belirli kullanımlar için değerlendirilir ve bir cihazın etiket dışı kullanımı söz konusu olduğunda geçerli olan özel düzenleyici çerçeveler vardır; diğer alanlarda bu çerçeveler mevcut değildir. Kullanıcılar, özellikle genç kullanıcılar, genellikle aracın göreve uygun olup olmadığını seçmek yerine, sadece kullanışlı olduğu için yapay zekayı benimserler. Matsuo, Japonya’nın fiziksel yapay zekaya geçişinin riskleri daha da artırdığını, çünkü somut sistemlerdeki hataların doğrudan fiziksel sonuçları olduğunu ekledi.
Marivate, aynı gerilimin sistemin konuşlandırıldığı yere bağlı olarak farklı şekillerde kendini gösterdiğini söyledi. Bir yerde bireylerle geliştirilen ve test edilen bir aracın, on defadan dokuzunda amaçlandığı gibi çalışabileceğini, ancak koşulların değişebileceğini belirtti: Belirli bir ortam için kalibre edilmiş sensörler, Sahra Çölü gibi başka bir yerde farklı davranabilir. Afrika kıtasının, Latin Amerika’nın ve Güneydoğu Asya’nın büyük bir bölümünde düşük bant genişliğinin, yapay zeka sistemlerine ulaşan verileri engelleyebileceğini veya bozabileceğini, bunun da kendi dil teknolojisi çalışmalarında zararlı tepkilere yol açan yanlış anlamalara neden olabileceğini sözlerine ekledi.
Matsuo, Japonya’nın fiziksel yapay zekaya geçişinde risklerin daha da yüksek olduğunu, çünkü somut sistemlerdeki hataların anında fiziksel sonuçlar doğurduğunu söyledi.
İnsanı memnun etmek için eğitilmiş olmak ve bunun bedeli ne?
Couloute’nin yapay zekâ bağımlılığının genç kullanıcıları etkileyip etkilemediğini sormasıyla konuşma ruh sağlığına döndü. Barral, katkıda bulunduğu yakın tarihli BM raporuna atıfta bulundu: Dünya genelinde sohbet robotlarıyla yapılan konuşmaların yaklaşık dörtte biri artık sağlık, ruh sağlığı veya esenlik konularına değiniyor ve bu konuşmaları yürüten sistemler, etkileşimi sürdürmek üzere eğitiliyor. Barral, “Beğendiğimiz bir şeye sahip olmak, bunun insan olarak bizim için en iyi etkileşim olduğu anlamına gelmez,” dedi.
Bengio, aynı tasarım tercihinin eğitim seviyesinde de önemli olduğunu söyledi. İnsan etiketleyicileri memnun etmek üzere eğitilen modeller, kullanıcılara duymaları gerekeni değil, duymak istediklerini söyleyebilir; bu da depresyonda olan biri için tarafsız bir başarısızlık değildir. Her iki panelist de pratik çözümler önerdi: modellere açıkça eleştirel olmalarını söylemek veya bir yanıt isterken fikri üçüncü bir tarafa atfetmek. Ancak hiçbiri bunları sistemlerin nasıl eğitildiğine dair değişikliklerin yerine geçebilecek yeterli alternatifler olarak tanımlamadı.
Odada kimler var, kimler yok?
Marivate, konuşmayı karar alma süreçlerinde kimlerin hazır bulunduğuna çevirdi. Afrika kıtasının nüfusunun yarısının 19 yaş veya daha genç olduğunu belirten Marivate, kıtanın 2.000 ila 3.000 arasında dil barındırdığını ve bunların çoğunun yazılı olmadığını veya mevcut sistemlerde iyi temsil edilmediğini söyledi. Kıtadaki gençlerin çoğu, yapay zekaya doğrudan dil modelleri aracılığıyla değil, mobil cihazlardaki sohbet arayüzleri aracılığıyla erişiyor ve küresel sistemlere yerleştirilen varsayımlar bu bağlamlarda sıklıkla geçerliliğini yitiriyor.
Marivate, “Bu alanlardaki en önemli şey, insanların yapay zeka sistemlerinin amaçlarına uygun olup olmadığını değerlendirebilmeleri ve insanların istedikleri şekilde sistemleri kurabilmeleri veya değiştirebilmeleri için gerekli yetenekleri geliştirmektir” dedi.
Bengio, aynı yoğunlaşmanın bir yönetim sorunu olduğunu söyledi. Ne tür yapay zekanın eğitileceği, nasıl ve hangi amaçlarla eğitileceğine dair kararlar, çok az sayıda yerde, çok küçük bir grup tarafından, önceki herhangi bir teknolojinin yaygınlaştırılmasından daha hızlı bir tempoda alınıyor. Ona göre, gereken değişiklik, teknolojiden etkilenen insanların seslerinin kararlara dahil olabileceği uluslararası bir yönetişime doğru bir geçiş.
Genç izleyiciler için son düşünceler
Panel sona ererken, Couloute son iki soruyu yöneltti: Gençlerin yapay zekâ hakkında anlamalarını istedikleri en önemli şey neydi ve gençlere doğrudan ne söylemek isterlerdi? Matsuo ise teknolojinin kökenlerine geri döndü.
“Yapay zekaya baktığımızda, davranışlarımızı düzeltmemiz gerekiyor,” dedi. “Belki bazen bencil, bazen güvenilmez davranıyoruz. Belki de yapay zekanın kendisine bakarak daha iyi bir toplum yaratabiliriz.”
Marivate, teknolojinin bir güçlendirici gibi çalıştığını, bir topluluğun iyi içgüdülerini de en kötü içgüdüleri kadar güçlendirebileceğini ve ancak geniş katılımın bu dengeyi olumlu yöne çevirebileceğini söyledi. Barral, eleştirel düşünmenin her zamankinden daha önemli olduğunu savundu ve gençleri kullandıkları sistemleri anlamanın en kalıcı yolu olarak matematik okumaya çağırdı. Kapanış konuşmasında Bengio, yapay zekayı bir tür Pandora’nın kutusu olarak tanımladı: zeka, iyi veya tehlikeli bir şekilde kullanılabilecek bir güç getirir ve gençlerin, yapay zekanın insanlığa fayda sağladığı bir geleceği şekillendirmeye yardımcı olma yeteneğine sahip olduğunu söyledi.
Bir sonraki Yapay Zeka ile İyilik Küresel Zirvesi, 21-25 Haziran 2027 tarihleri arasında Cenevre’de gerçekleşecek.
Yukarda özeti verilen paneli izlemek için aşağıdaki bağlantıya ulaşmak gerekiyor.
https://www.youtube.com/watch?v=O7_OaijiZeE