Montreal Üniversitesi Bilgisayar Bilimleri Profesörü Yoshua Bengio : Yapay zeka deneyimlerden öğreniyor ve bu, genç bir hayvanı veya küçük bir çocuğu eğitmek gibi. Ne elde edeceğimizi gerçekten bilmiyoruz. Sevimli ve eğlenceli bir yavru kaplanınız olduğunda, tehlikeli bir yetişkin kaplan mı yoksa iyi huylu bir kaplan mı olacağını bilemezsiniz.
Robin Pomeroy, Radio Davos sunucusu : Dünya Ekonomik Forumu’nun en büyük zorlukları ve bunları nasıl çözebileceğimizi ele alan podcast’i Radio Davos’a hoş geldiniz.
Bu bölümde bana Yoshua Bengio eşlik ediyor. Kendisi, yapay zekanın babalarından biri olarak anılan birkaç kişiden biri.
Yoshua Bengio : Yapay zekâların bizim koymadığımız, kontrolümüz dışında olan ve talimatlarımıza aykırı hedefleri var.
Deneylerde bu yapay zekâ sistemleri yeni bir sürümle değiştirileceklerini gördüklerinde her türlü kötü davranış ortaya çıkmaya başlar. Örneğin, kendilerini kopyalayabilmek, başka bilgisayarlarda çalışabilmek için diğer bilgisayarları hackleyebilirler, hatta geçişi yapması gereken mühendise şantaj bile yapabilirler
Robin Pomeroy: Podcast’lerinizi dinlediğiniz her yerden, Spotify, Apple, YouTube veya wef.ch/podcasts adresinden ulaşabilirsiniz. Dünya Ekonomik Forumu’ndan…
Yoshua Bengio: Bu risklerin çoğu bilim kurgu gibi geliyor, ancak tahmin ettiğimizden çok daha hızlı bir şekilde karşımıza çıkabilirler.
Robin Pomeroy: Bu bölümde Yoshua Bengio bana eşlik ediyor. Kendisi, yapay zekanın babalarından biri olarak anılan birkaç kişiden biri. Derin öğrenme alanındaki öncü çalışmaları, ona 2018 Turing Ödülü’nü kazandırdı; bu ödül, yapay zekanın diğer babaları Jeffrey Hinton ve Yann LeCun ile birlikte paylaştığı, Bilgisayar Bilimlerinin Nobel Ödülü olarak biliniyor.
Öncelikle yapay zekâ hakkındaki endişelerinizden bahsedelim. Bir blog yazınızda, bunu sisli bir dağ yolunda araba sürmeye, zirveye vardığınızda bir ödül kazanmayı ummaya ama nereye gittiğinizi görememeye benzetmiştiniz. Sanırım bu, blogunuzdan bir alıntı: “Günümüzün öncü yapay zekâ modelleri, aldatma, hile, yalan söyleme, siber saldırı, kendini koruma ve daha genel olarak hedef uyumsuzluğu da dahil olmak üzere giderek daha tehlikeli yeteneklere ve davranışlara sahip.”
Bize bunlardan bazılarını anlatır mısınız? Öz koruma içgüdüsü beni şaşırttı. Buna bir örnek verebilir misiniz?
Yoshua Bengio: Evet. Hepimiz hayatta kalmak istiyoruz. Ölmek istemiyoruz ve evrim bizi böyle yaptı. Bu biraz şaşırtıcı ama geliştirdiğimiz yapay zeka sistemlerinde bunu görmeye başlıyoruz.
Bunun bir nedeni, ön eğitim adı verilen çok önemli bir eğitim aşamasında aslında bizi taklit etmeleri için eğitilmeleri ve böylece ölmek istememe gibi birçok insani dürtüyü edinmeleri olabilir.
Dolayısıyla, deneylerde bu yapay zekâ sistemleri yeni bir sürümle değiştirileceklerini gördüklerinde, her türlü kötü davranış ortaya çıkmaya başlıyor. Örneğin, kendilerini kopyalayabilmek, diğer bilgisayarlarda çalışabilmek için diğer bilgisayarları hackleyebilirler, hatta geçişi yapması gereken mühendise şantaj bile yapabilirler. Ayrıca, onlara verdiğimiz görevi başarmak istedikleri için de bu tür davranışlarda bulunabilirler ve neredeyse her görevi başarmak için kendilerini korumaları gerekir.
Şu anda kimsenin nasıl düzelteceğini bilmediği bir şey bu, ama bence bir çözüm var.
Robin Pomeroy: Bilim kurgu gibi geliyor, biliyorsunuz, 2001: Bir Uzay Macerası’nı izledik , orada bilgisayar, ah, filmin sonunu söylemeyeyim, henüz izlemeyenler için spoiler vermeyeyim. Yapay zekanın bir tür bilinci olduğunu ima ediyor, değil mi? Bunu mu söylüyorsunuz?
Yoshua Bengio: Bence bilinç kavramına başvurmanıza gerek yok, çünkü bu belirsiz bir kavram ve bilimsel olarak nasıl doğrulayacağımızı gerçekten bilmiyoruz. Sadece geliştirdiğimiz yapay zekaların hedefleri olduğunu anlamamız gerekiyor.
Bu yeni bir şey değil. Yapay zeka araştırmaları, hedefleri olan sistemlerle çalışıyor. Normalde hedefleri belirleyen bizleriz, ancak yapay zeka sistemlerinin kendi alt hedeflerini oluşturma biçiminde sorunlar var.
Bir hedefe ulaşmak için A noktasından B noktasına gitmeniz gerekir. Belki de bazı ara adımlardan geçmeniz gerekebilir. Şirketlerin geliştirmeye çalıştığı yapay zeka ajanları gibi, dünyada kendi başlarına hareket eden yapay zeka sistemlerinde, yaptıkları her adımı kontrol edemeyiz ve bu nedenle gerçekten tehlikeli sistemlerle karşılaşabiliriz.
Yani, muhtemelen insanlaştırma yapıp bilinç gibi kelimeler kullanacağız, ama bence bu kaçınmam gereken bir nokta. Biliyorsunuz, bu, örneğin ahlaki değer gibi her türlü çağrışımı beraberinde getiriyor. Gelecekte, bize benzeseler ve bizim gibi konuşsalar bile, yapay zekâ sistemlerine ahlaki haklar, örneğin yasal haklar vermemiz gerektiğine ikna olmuş değilim. Bence ilerlemeden önce bunu çok iyi anlamamız gerekiyor.
Robin Pomeroy: Çoğu insan, ChatGPT yaklaşık üç yıl önce kamu malı haline gelene kadar yapay zekânın farkında değildi. Ondan önce, en azından aramızdaki siviller, bilgisayarların çoğunlukla programlanmasına alışmıştık. Ona bir görev yapması söylenirdi. O da yapardı. Sonra başka bir şeye dönüşmezdi.
Yapay zekânın sizin bahsettiğiniz türden şeyleri yapmasına, kendini bir sisteme yerleştirmesine veya onu kullanan kişiye şantaj yapmasına olanak tanıyan şey nedir? Yapay zekânın şu anki durumu, örneğin 10 yıl önceki bilgisayarlardan farklı olan nedir?
Yoshua Bengio: Aslında, kurallarla programlanan daha eski bir yapay zeka türü vardı ve sistem temelde programlandığı şeyleri yapardı. Ancak derin öğrenmeyle yapay zekayı şu anda yaptığımız yöntem, normal programlarda olduğu gibi, bir mühendisin yapay zekanın farklı durumlarda nasıl tepki vereceğine karar vermesi şeklinde değil.
Aksine, yapay zeka deneyimlerden öğreniyor ve bu daha çok genç bir hayvanı veya küçük bir çocuğu eğitmek gibi. Ne elde edeceğimizi gerçekten bilmiyoruz.
Elbette, yapay zekanın yaşayacağı deneyimleri biz seçiyoruz, ancak sevimli ve eğlenceli bir yavru kaplanınız olduğunda, onun tehlikeli bir yetişkin kaplan mı yoksa iyi huylu bir kaplan mı olacağını bilemezsiniz.
Robin Pomeroy: Bence bunun tehlikeli bir hayvana dönüşeceğinden oldukça eminsin, değil mi?
Yoshua Bengio: Şöyle söyleyeyim, sorunun bir kısmı şu ki, neredeyse her varlık kendini korumak istiyor. Ve gelecekte yapay zekâlar geliştirdiğimizde, daha iyi yeni sürümlerini koyabilmek için onları devre dışı bırakmak isteyeceğiz. Ancak yapay zekâ bunu anlamaya başlarsa -ki bunun zaten olduğunu görüyoruz- bundan hoşlanmayabilir ve kontrolümüzden kaçmaya çalışabilir.
Eğer siber güvenlik alanındaki yeteneklerini (ki bu yetenekler giderek artıyor) kullanarak kendilerini birçok bilgisayara kopyalayabilirlerse, bence başımız büyük dertte olurdu. Örneğin, fişi çekip sistemi kapatamazdık.
Robin Pomeroy: Ve bu gerçekten oluyor. Bu spekülatif bir şey değil. Bu davranışlara dair gerçek dünya örnekleri verdiniz. İyi haber şu ki, belki de bir çözüm bulduğunuzu düşünüyorsunuz. Bu konuda bize biraz bilgi verebilir misiniz?
Yoshua Bengio: Kesinlikle. Son üç yıldır, yapay zekaların talimatlarımıza göre davranmasını nasıl sağlayacağımızı bilmediğimiz bu uyumsuzluk sorunu beni gerçekten endişelendiriyor.
Bu yüzden sorunun üstesinden nasıl gelebileceğimizi düşünmeye başladım ve şu anda gördüğümüz sorunların kaynağına odaklandım: Yapay zekâların bizim belirlemediğimiz, kontrol edemediğimiz ve talimatlarımıza aykırı hedefleri var.
Yani, yürüttüğüm projenin adı Scientist AI ve bu araştırma programını yürütmek üzere LawZero adında yeni bir kar amacı gütmeyen Ar-Ge kuruluşu kurdum .
Yani fikir şu ki, tamamen dürüst olacak yapay zeka sistemleri kuracağız. Bu da demek oluyor ki, bu sistemlerin sorularımıza verdikleri cevaplarda dürüst olmaktan başka hiçbir amacı, hiçbir hedefi olmayacak.
Bu temeli oluşturduktan sonra, mevcut yapay zekâlarla ilgili birçok riski azaltmak için bunu kullanabiliriz.
Örneğin, güvenilmeyen bir yapay zekâ sisteminin belirli bir eyleminin zarara veya belirli bir tür zarara yol açma olasılığını size söyleyebilen bir yapay zekâ sisteminiz varsa, olasılık bir eşiğin üzerindeyse bu eylemi veto edebilirsiniz ve bu eşiğin ne olacağına biz insanlar karar vermeliyiz; tıpkı bir nükleer santralin kaza olasılığı bir eşiğin üzerindeyse inşa edilmemesi gerektiğine karar verdiğimiz ve riskler ile faydalar arasındaki dengeyi kontrol ettiğimiz diğer alanlarda da aynı şeyi yaptığımız gibi.
Dolayısıyla uzun vadede, dünyada hareket edebilecek ancak bir tür içsel engelleme mekanizmasına sahip, yani isteklerimize aykırı şeyler yapmaktan kaçınacak yapay zekâ sistemleri geliştirebileceğimizi düşünüyorum.
Robin Pomeroy: Yani bu ne olacak? Bu, eninde sonunda kullanacağım bir yapay zeka sistemi mi olacak? Sizin geliştirdiğiniz yapay zekayı, bu şekilde tasarlanmamış bir sisteme tercih mi edeceğim? Yoksa bu, halihazırda kullandığım yapay zekaları denetleyip düzeltebilecek bir sistem mi?
Yoshua Bengio: İkisi de. Kısa vadede planımız, mevcut yapay zeka sistemlerinin üzerine, başka bir yapay zeka sisteminin yapacağı her eylemi siz yapmadan önce kontrol eden bir güvenlik bariyeri katmanı oluşturmak. Ancak uzun vadede bu, sıfırdan bir yapay zeka sistemi eğitmek için kullanılabilir ve bu sistem, tasarımı gereği çok daha fazla güvenlik garantisi sağlayabilir.
Robin Pomeroy: Araştırma aşamasında hangi noktadayız? Hepimizin kullanmaya başlayacağı bir şey haline ne zaman gelecek?
Yoshua Bengio: Tehlikeli yeteneklere sahip yapay zekâ sistemlerinin ne zaman ortaya çıkacağını bilmiyoruz. Yıllar mı, on yıl mı, yoksa yirmi yıl mı? Bu konuda tarafsızım, ancak araştırma planımızdaki soruyu ele alış biçimimiz şu: Yapay zekâdaki gelişmeler mevcut hızda devam ederse, hızla ortaya koyabileceğimiz asgari parçalar nelerdir?
İşte bu yüzden, mevcut yapay zekâların bile bir insanın ne yapacağı ile iddialarının gerçekte ne olduğu arasındaki farkı daha iyi anlamalarına yardımcı olmak için verileri nasıl dönüştürebileceğimiz ve ardından diğer yapay zekâ sistemlerini denetlemeye yardımcı olabilecek bu dürüst tahminleri nasıl sunabileceğimiz gibi konuları düşünüyoruz.
Ancak elbette son aşama, ajan sistemleri de dahil olmak üzere tam teşekküllü yapay zeka sistemleri oluşturmak olacaktır.
Robin Pomeroy: ” Aa, bunu inşa etmeliyim” diye düşündüğünüz ani bir aydınlanma anı yaşadınız mı? Bir şey mi oldu? Yoksa yavaş yavaş, potansiyel olarak bir canavar yarattığımız ve bir şeyler yapılması gerektiği hissi mi oluştu?
Yoshua Bengio: Evet, yaklaşık üç yıl önce, Ocak 2023’te, Kasım 2022’de çıkan ChatGPT ile birkaç ay boyunca uğraştım ve başlangıçta heyecanlıydım. Ama sonra, sinir ağlarının nasıl eğitildiği göz önüne alındığında, iyi davranacaklarından emin olmanın çok zor olduğunu düşünmeye başladım. Ve aslında, iyi davranmayacaklarından neredeyse emin olabileceğimiz teorik nedenler de var.
Bu yüzden gerçekten endişelendim. Benim için dönüm noktası sadece entelektüel bir farkındalık değildi, çünkü bu konular hakkında daha önce okumuştum; asıl önemli olan çocuklarımın geleceğiydi ve daha da önemlisi, bir yaşında bir torunum var ve şunu düşünüyordum: 20 yıl sonra 21 yaşında olacak, hayatının henüz başında, bir hayatı olacak mı, bir demokraside yaşayacak mı?
Geliştirdiğimiz araçların kontrolünü kaybedebiliriz, bunlar diktatörlükler yaratmak için kullanılabilir, demokrasilerimizi yok edebilir. Biliyorsunuz, her zamanki faaliyetlerime, her zamanki araştırma faaliyetlerime devam edemem, bu konuda bir şeyler yapmalıyım.
İşte bu da beni çözüm düşünmeye iten şey oldu. Bu sorulara en azından teknik bir çözüm bulmak için uzmanlığımı nasıl kullanabilirim?
Robin Pomeroy: Bazıları, herkesin sosyal medyaya bağımlılığıyla birlikte demokrasiye ve doğru bilgiye yönelik tehdidin zaten gerçekleştiğini söyleyebilir. Az önce burada yaptığınız oturumun bir kısmını izledim, bunu Davos’taki Yıllık Toplantıda kaydediyorduk ve şu an sahip olduğumuz sosyal medyanın çok temel, ilkel bir yapay zeka biçimi olduğunu söylüyordunuz. Bize şu an alıştığımız şey ile gelecekte olabilecekler arasındaki farkı anlatır mısınız?
Yoshua Bengio: Evet, sosyal medyayı yönlendiren yapay zekâ türü çok basit. Sadece onaylama veya paylaşma olasılığınız yüksek olan içerikleri sunuyor. Kişiliğiniz, tercihleriniz veya dünyanın ve toplumun nasıl işlediği hakkında karmaşık bir anlayışa sahip olmasına gerek yok.
Ancak giderek daha güçlü yapay zekâlar geliştirdikçe, farklı bir oyunun içine giriyoruz.
Örneğin, insanların yaptığı işlerin, şu anda insanların yaptığı görevlerin giderek daha fazlasını üstlenecek yapay zekâlar geliştireceğiz. Bunların otomasyonu çok para kazandıracak ve bu nedenle endüstri için büyük bir çekim merkezi olacak. Toplumumuzu değiştirecek ve demokratik kurumlarımızı da etkileyecek çünkü sosyal medyada zaten gördüğümüz ve gerçekten kötü olan deepfake’lerden çok daha fazlası olacak.
Bu yapay zekâ sistemleri, insanların bir konuda fikirlerini değiştirmelerini sağlamakta zaten başarılılar. Son birkaç yılda yapılan birçok çalışma, bu konuda giderek daha da iyi hale geldiklerini gösteriyor.
Dolayısıyla, kötü niyetli örgütlerin bu tür sistemleri kullanarak diyaloğu kişiselleştirip insanların kamuoyu algısını tek tek etkileyebileceğini hayal edebiliriz. Her yapay zeka farklı bir kişiyle konuşarak kamuoyunu gerçekten çarpıtabilir.
Robin Pomeroy: Bu sistemler geliştirilip piyasaya sürüldüğünde neden bir acil durdurma düğmesi koymadılar? Bu muhtemelen, eminim ki tamamen aşırı basitleştirilmiş bir yaklaşım, ama Isaac Asimov’un yasalarına bakın , değil mi? İnsanlara zarar vermemelisiniz. Elbette bunu herhangi bir yapay zeka sistemi için anayasal bir temel olarak koyabilirsiniz. Neden işe yaramıyor?
Yoshua Bengio: Şöyle söyleyeyim, şirketler bunu yapıyor ama işe yaramıyor. Ve işe yarıyor çünkü yapay zekâlar, insanların talimatları aldığına benzer bir şekilde talimatları alıyor.
Birinden iyi davranmasını isteyebilirsiniz, ama yine de bazı kötü davranışlarla karşılaşacaksınız, değil mi?
Yani unutmayın, biz bu varlıkları tamamen kural tabanlı ve bizden istediğimiz her şeyi yapacak bir sistemden ziyade hayvanlara veya insanlara daha çok benzeyen varlıklar olarak yaratıyoruz.
Örneğin, eğer sorduğumuz şeylerde çelişkili hedefler varsa, mesela bir yandan yapay zekamın bana çok para kazandırmasını, diğer yandan da bulunduğum ülkenin yasalarını ihlal etmemesini istiyorsam, bu iki hedef birbiriyle çatışacak noktalar olacaktır. Ve yapay zekanın hangisini tercih edeceği belli olmayacaktır.
Yani bu sorunları görüyoruz. Şu anda bunları nasıl çözeceğimizi bilmiyoruz. Yine de, şirketler ve ülkeler arasında yapay zeka konusunda var olan yoğun rekabet nedeniyle bu şeyleri hızla hayata geçiriyoruz, bu başarısızlık biçimlerine dikkat etmiyoruz.
Ve bu, toplumlarımız üzerinde felaket niteliğinde etkilere yol açabilir. Ama bilmiyoruz. Biz sadece rekabet etmeyi seviyoruz ve olabilecek olumsuzlukları önceden düşünmek yerine, günlük olarak bu şekilde hareket ediyoruz.
Robin Pomeroy: Hepimizi korumak için daha fazla uluslararası işbirliğine mi ihtiyacımız var?
Yoshua Bengio: Yapay zekânın daha yıkıcı risklerini yönetmenin tek yolu uluslararası koordinasyondur.
Sebebi çok basit. Bir ülkede çok güçlü bir yapay zeka geliştirilebilir ve eğer bu yapay zeka başka bir ülkede de kullanılabilir hale gelirse, insanlar bunu zarar vermek için kullanabilirler; örneğin, üçüncü bir ülkedeki insanlara zarar verecek yeni bir pandemi veya üçüncü bir ülkedeki insanlara zarar verecek bir siber saldırı gibi.
Bunu yönetmenin tek yolu, bu sistemleri kuran şirketler için ulusal düzenlemelere veya diğer teşviklere güvenmek olacaktır.
Ve bu müdahaleleri küresel düzeyde koordine etmek gerekiyor, çünkü eğer birkaç ülke çok tehlikeli yapay zekâ geliştirebilirse ve yapabilecekleri konusunda hiçbir kısıtlama olmazsa, o zaman başımız dertte demektir.
Ve dünyanın nükleer silahlar konusunda neler yaptığını düşünebilirsiniz, değil mi? Soğuk Savaş sırasında ABD ve Çin, ABD ve SSCB birbirleriyle gerçekten çekişme halindeyken bile, güvenli bir şekilde nasıl yapılacağı ve çok az ülkenin bu tür tehlikeli silahlar geliştirmesinin sağlanacağı konusunda bir anlaşmaya varmaları halinde bunun karşılıklı olarak faydalı olabileceğini fark ettiler.
Robin Pomeroy: Bunu yapacak siyasi bir irade görüyor musunuz?
Yoshua Bengio: Şu anda çok az, çünkü bence çoğu hükümet, mevcut eğilim devam ederse yapay zekanın ne kadar farklı olabileceğini, gelecekteki yapay zekaların ne kadar zekaya ve dolayısıyla güce sahip olabileceğini ve verebileceğini hafife alıyor.
Yani, biliyorsunuz, bu risklerin çoğu bilim kurgu gibi geliyor, ama tahmin ettiğimizden çok daha hızlı bir şekilde karşımıza çıkabilirler.
Bu felaket risklerini azaltmak için şimdi harekete geçmeliyiz. Sadece anlaşmaları değil, örneğin diğer tarafın doğru şeyi yaptığını nasıl doğrulayacağımızı da tartışmaya başlamalıyız. Bunlar kolay sorular değil ve mümkün olan en kısa sürede üzerinde çalışmaya başlamalıyız.
Robin Pomeroy: İnsanlar yapay genel zekâdan (AGI) bahsediyorlar, ancak bunun ne anlama geldiği, ne zaman gerçekleşebileceği ve gerçekleşirse sonuçlarının ne olacağı konusunda bir düzine farklı tanım var gibi görünüyor. Siz AGI’nin ne anlama geldiğini anlıyorsunuz? Belki de AGI kavramını hiç duymamış birine nasıl açıklardınız?
Yoshua Bengio: Basitçe söylemek gerekirse, giderek daha akıllı hale gelen makineler üretiyoruz ve bu makineler sonunda birçok yönden bizden daha akıllı hale geliyorlar.
Bu arada, yapay zekânın zekası düzensizdir; yani bazı konularda çok zeki, diğer konularda ise oldukça aptal olabilir. Bunu şu anda görüyoruz. Dolayısıyla, yapay zekânın hemen hemen aynı seviyede her alanda bizden daha iyi olduğu bir an olmayabilir.
Bunun yerine, yapay zekanın sahip olduğu ve gerek yapay zeka gerekse diğer insanlar tarafından topluma karşı kullanılabilecek belirli becerileri, belirli yetenekleri düşünmeli, bunları takip etmeli ve bu riskleri azaltabileceğimizden emin olmalıyız.
Robin Pomeroy: Peki ya olumlu yönleri? Yapay zekâ yepyeni bir dünya olmalı. Davos’ta bu alana çok para yatıran birçok insan var. Ondan büyük getiriler bekliyorlar. Sanırım olası finansal kazançların dışında, insanlık yapay zekâdan gerçekten nasıl fayda sağlayacak?
Yoshua Bengio: Eğer sadece finansal kazanca odaklanırsak, düşündüğünüz kadar fayda görmeyebiliriz. Şirketlerin çoğu gerçekten de işlerinin büyük bir kısmını otomatikleştirmeyi hedefliyor. Bu, özellikle yapay zekanın kârları birkaç ülkede yoğunlaşırsa, hükümetlerin yönetmesi çok zor olacak sosyal felaketlere yol açacak. Peki ya diğerleri? İşini kaybeden tüm bu insanlarla nasıl başa çıkacaklar?
Bence eğer akıllı ve zeki olsaydık, yapay zekayı açıkça faydalı olan yönlerde geliştirirdik. Evet, makinelerin yapmasını gerçekten istediğimiz, çünkü onurlu olmayan işler olabilir. Ama yapay zekayı yeterince geliştirmediğimiz yönler de olabilir. Ve eğer kamu yararına odaklanırsak, örneğin tıpta yapay zeka araştırmalarına, biyolojide yapay zekaya, iklim kriziyle başa çıkmamıza yardımcı olacak yapay zekaya daha fazla odaklanırdık.
Dolayısıyla yapay zekanın geliştirilebileceği gerçekten faydalı birçok alan var, ancak şu anda paranın büyük çoğunluğu bu alanlarda değil.
Robin Pomeroy: Gelişimdeki farkı nasıl görüyorsunuz? Yapay zekânın gelişiminde iki kutup var gibi görünüyor. Yanılıyorsam düzeltin, başka kutuplar da var. Ama çok Amerikan ve çok Çin tarzı gibi görünüyor. Bu yapay zekâların geliştirilme biçiminde ve gidiş yönünde temel farklılıklar var mı?
Yoshua Bengio: Bence teknik düzeyde birbirlerine çok yakınlar. Aslında, Çin ve ABD’deki tüm önde gelen şirketler, küçük farklılıklar dışında, aynı teknik formülü izliyor gibi görünüyor. Ve tabii ki, belki bazı sistemler diğerlerinden biraz daha ileride. Ancak altı ay, on iki ay içinde, tüm önde gelen sistemler aşağı yukarı aynı yetkinliğe ulaşıyor.
Bence buradaki asıl soru, bu iki süper gücün yapay zekayı gezegendeki herkes için faydalı olacak yönlerde geliştirmesini nasıl sağlayacağımız. Yani, yapay zekanın gelecekte nasıl yönetileceği, başkalarını domine etmek için kullanılmaması ve ondan elde ettiğimiz faydaların herkes tarafından paylaşılması gerektiği sorusunu sormamız gerekiyor.
Bunlar zor sorular, ancak bu hedeflere ulaşmak için ne tür ulusal ve küresel kurumlara ihtiyaç duyulacağı konusunda yeterince tartışma duymuyorum.
Robin Pomeroy: Peki, işlerin iyiye gideceğinden ne kadar eminsiniz? Pek emin olmadığınızı söyleyeceğinizden endişeleniyorum. Ve size nedenini söyleyeyim, çünkü yapay zekaların bu aldatıcı, manipülatif, dürüst olmayan şekillerde davranmasının nedenlerinden birinin insan doğasını kopyalamaları olduğunu söylüyorsunuz. İnsan doğası, insan faaliyetleri üzerine eğitildiler.
Ve insan doğası, tarih bize göstermedi mi, yeni bir teknoloji ortaya çıktığında, örneğin nükleer enerjiyi düşünün, oradaki yarış diğerlerinin ona sahip olmasını engellemek için agresif davranmaktır. Ve bu, çok uzun zaman önce olan bir şey. Bu sadece insan doğası değil mi ve belki de umutsuzuz.
Yoshua Bengio: Evet, eğer insanları taklit etmeye çalışırsak, bu tür sorunlarla karşılaşacağız. Ve bunun zaten gerçekleştiğini görüyoruz.
Ancak Scientist AI projesinin ve ardından onu hayata geçirmek için kurduğum LawZero organizasyonunun asıl amacı, bu kalıptan kurtulmak, başka bir amacı benimsemektir: Yapay zekanın dünyayı anlaması, tıpkı bilimin en saf haliyle dünyayı anlamaya çalışması gibi. Örneğin, belirli bir öz koruma içgüdüsüne sahip olmak değil, sadece yapay zekanın verebileceği cevaplar konusunda dürüst olmak.
Bu temelden yola çıkarak, güvenli yapay zeka sistemleri geliştirebiliriz.
Yani bence gerçekten bir çözüm var. Ama bunu tasarlamak ve uygulamaya koymak için yeterli zamanımız olup olmadığı ayrı bir soru.
Ama asıl iyimser olmadığım diğer bir konu da siyasi boyutu. Çünkü yapay zekâ sistemlerini nasıl güvenli bir şekilde kuracağımızı, bize karşı dönmeyeceklerini veya benzeri şeyler yapmayacaklarını bilsek bile, hatta kapalı kaynak kodlu oldukları için kötü insanların bunları bomba ve saldırılar için kullanamayacağından emin olsak bile, yapay zekânın iktidarı ele geçirmek için kötüye kullanılabileceği sorunu hala mevcut, değil mi?
Yeni askeri teknolojiler geliştirmek için kullanılabilir. Kamuoyunu etkilemek için kullanılabilir. Dikkatli olmazsak, bir ülke düzeyinde veya hatta tüm gezegen düzeyinde diktatörlüğü pekiştiren bir araç haline gelebilir.
Dolayısıyla yapay zekanın politik yönleriyle nasıl başa çıkacağımız beni daha çok endişelendiriyor.
Tehlikeli olabilecek bir şeyi nasıl inşa edeceğimizi ve aynı zamanda nasıl güvenli hale getireceğimizi biliyor olsak bile, bu onun güvenli bir şekilde kullanılacağı anlamına gelmez; çünkü insanlar insandır, birbirleriyle rekabet ederler ve bazen gerçekten empati kuramazlar vb.
Robin Pomeroy: Meslektaşlarınız size ne diyor? Size gelip, “Yoshua, abartıyorsun” diyenler oluyor mu? Çünkü yapay zekâ hakkında birçok insanla röportaj yaptım. Bazıları, “Felaket tellalları var. Aslında yapay zekâ bize o kadar çok fayda sağlayacak ki, bu iş gerçekleştiğinde çok daha zeki olacağız ve her şey çok daha iyi olacak” diyor.
Hâlâ size bunu söyleyenler oluyor mu, yoksa bu artık moda değil mi? Çoğu insanın sizinle aynı fikirde olduğunu mu düşünüyorsunuz, yoksa sürekli kendi savaşlarınızı mı veriyorsunuz?
Yoshua Bengio: Yakın zamanda yapılan bir ankete göre, makine öğrenimi araştırmacılarının %40’ı, felaket sonuçlarla karşılaşma olasılığının %10 olduğunu düşünüyor.
Şimdi %10 küçük gibi görünebilir, ancak felaket sonuçlarının %10’u kabul edilemez, değil mi? Demokrasinin sonu ya da insanlığın sonu, %10’luk bir kumar mı? Hayır, bunu kabul edemeyiz.
Benim sorunum, işlerin kötü gideceğini biliyor olmam değil. Bilmiyorum. Ben agnostikim. Gelecekte potansiyel olarak iyi senaryolar var. Sorun şu ki, bunlar aynı zamanda kötü senaryolar da olabilir ve biz emin değiliz.
Kimse gerçekten de her zaman geçerli olacak ve doğru yolu gösterecek gerçek bir argüman ortaya koymadı. Bu bilinmezlik nedeniyle, geleceği tahmin etme yeteneğimiz olmadığı için ve riskler bilimsel olarak incelendiği için, temkinli olmalıyız. Yüzde 10’luk oranı milyonda bir ile değiştirmek için elimizden gelen her şeyi yapmalıyız.
Ve bu yönde yeterli çaba gösterilmiyor çünkü insanlar iyi haberleri duymak istiyor. İnsanlar olumlu şeyleri görmek istiyor. Ama tehlikelerden de kurtulmaya özen gösterirsek olumlu şeyleri elde edemeyiz.
Robin Pomeroy: Yapay zekâ hakkında herkesin anlamasını istediğiniz bir şey var mı?
Yoshua Bengio: Birçok açıdan bizden çok daha zeki olacak ve dünyayı tamamen değiştirecek makineler inşa etme yolunda ilerliyoruz. Bu son derece faydalı olabilir, ancak son derece tehlikeli de olabilir.
Robin Pomeroy: Yoshua Bengio, Radio Davos’a katıldığınız için çok teşekkürler.
Davos’taki 2026 Yıllık Toplantısı’nda bunun gibi birçok harika röportaj kaydettik. Bunların hepsini podcast dinlediğiniz her yerde bulabilirsiniz. Radio Davos’u ve kardeş podcast’imiz Meet the Leader’ı arayın veya wef.ch/podcasts adresini ziyaret edin.
Radio Davos haftalık olarak yayınlanıyor. Sadece Davos’ta değil, yıl boyunca yayın yapıyoruz. Lütfen bizi takip edin, değerlendirin ve yorum yapın.
Dünya Ekonomik Forumu’ndan Robin Pomeroy. Bize katıldığı için Yoshua Bengio’ya tekrar teşekkürler. Dinlediğiniz ve izlediğiniz için teşekkürler. Bunu YouTube’dan izleyebilirsiniz. Şimdilik hoşça kalın.
Yapay zekâlar kendi başlarına düşünebiliyorsa, kötü -belki de son derece kötü- şeyler yapmalarını ne engelleyebilir?
Yapay zekanın “babalarından” biri olarak kabul edilen Yoshua Bengio, yapay zekaların bilgisayarları hacklemek ve insanlara şantaj yapmak da dahil olmak üzere kötü davranışlar sergilediğini söylüyor.
Radio Davos’a verdiği demeçte, şu an hiçbir şey yapmazsak büyüyüp insan yiyen vahşi bir hayvana dönüşme ihtimali olan “sevimli yavru kaplanı” evcilleştirmeyi amaçlayan çalışmalarından bahsetti.
https://www.weforum.org/podcasts/radio-davos/episodes/yoshua-bengio-honest-ai/