Anu Madan / 19 Haziran 2025
Yapay Zekanın Vaftiz Babası size ” tesisatçı olmak için eğitim alın” derse, dikkat etmeniz gerektiğini bilirsiniz, en azından beni bağlayan şey bu oldu. Geoffrey Hinton yakın zamanda yaptığı bir sohbette, süper zeki yapay zekanın yaklaşan çağındaki çeşitli olasılıkları tartıştı ve bu sohbetin nasıl gittiğini merak ediyorsanız, yalnız değilsiniz! Hinton bu röportaj sırasında yapay zekayı çevreleyen büyük sorulara değindi: potansiyel tehlikeleri, toplumsal riskleri ve tüm bunların insanlık için ne anlama geldiği. Efsanevi yapay zeka araştırmacısının paylaştığı önemli anlara ve içgörülere bir göz atalım.
İçindekiler tablosu
1. Geoffrey Hinton Röportajından Önemli Noktalar
2. Çözüm
Geoffrey Hinton Röportajından Önemli Noktalar
Popüler bir İngiliz Girişimci olan Steven Bartlett’ın sunduğu “Bir CEO’nun Günlüğü” adlı podcast’te Geoffrey Hinton, şu anki misyonundan bahsediyor – ” insanları yapay zekanın tehlikeleri konusunda uyarmak “. Şimdi, insanlığın insanlardan daha zeki makineler üretme noktasında olduğu bir kavşakta olduğumuzda, liderler ve teknoloji uzmanları tarafından bu makineleri kontrol etmek için uygun bariyerler oluşturma konusunda yeterli şey yapılmadığını düşünüyor.
Sohbette öne çıkan birkaç nokta şunlar:
- Yapay Zekanın Evrimi
Geoffrey Hinton, insan beyninin öğrenme ve desenleri tanıma yeteneğini kopyalamaya çalışarak, yirmi yıldan uzun süredir sinir ağlarına dayalı bir yapay zeka modeli için çabalıyordu. İlk yıllarda fikirleri şüphecilik ve reddedilmeyle karşılandı. Ancak şimdi, icadı insan-makine ilişkisinin özünü tanımlıyor. Hinton, parlak öğrencileriyle birlikte, modern yapay zekanın omurgası olan derin öğrenme olarak bildiğimiz şeyin inşasında merkezi bir rol oynadı. Yapay zekanın insan zekasını nasıl aşabileceğini öngörebildiği sorulduğunda, Hinton gecikmeli farkındalığı konusunda samimiydi. ” Bunu fark etmekte yavaş davrandım, ” diye itiraf etti. Yapay zeka için çığır açan an, ChatGPT’nin piyasaya sürülmesiyle geldi . Şimdi, insan duygularının nüanslarını anlamak ve onları taklit etmek gibi herkesin beklediği her şeyin ötesinde yetenekler sergiliyor.
Onun sözleriyle, YZ biyolojik zekadan temelde farklı yetenekler geliştirdi. YZ’nın daha hızlı öğrenme, daha fazla veri işleme ve insanlar için hayal edilemeyecek ölçeklerde işlev görme yeteneğiyle, yakında her düzeyde insan zekasını geçebileceği bir noktaya gelebilir. O gün gelirse, YZ bizim adımıza kararlar alabilir, hiçbir insan girdisi olmadan ve bu kararları haklı çıkarmaya gerek kalmadan.
- Yapay Zekanın İşler Üzerindeki Etkisi
Şakayla başlayabiliriz ama bunda gülünecek bir şey yok. Geoffrey Hinton, yapay zeka dünyasındaki kariyer beklentileri sorulduğunda, tesisatçı olmaktan bahsetti. Şaka daha çok, yapay zekanın çoğu entelektüel işi ele geçirebileceği yönündeki büyüyen endişelerden kaynaklanan bir ön uyarı gibiydi. Şaka daha derin bir gerçeği yansıtıyordu: yapay zeka daha gelişmiş hale geldikçe, bir zamanlar insan müdahalesi gerektiren sıradan entelektüel görevler artık gerekmeyebilir. Eleştirel düşünme, yaratıcılık ve ayrıntılı karar vermeyi içeren işler için, LLM’ler de insanlarla rekabet edecekti. Bu, esasen insanların birkaç kritik iş için savaşmak zorunda kalacağı anlamına geliyor.
- İki Tür Yapay Zeka Riski
Hinton, yapay zekanın iki temel risk türü sunduğunu açıklıyor. Birincisi, insanların yapay zekayı kötüye kullanmasından kaynaklanan acil tehlike. Siber saldırılar, dolandırıcılık ve manipülasyon, yapay zeka ile daha etkili ve tehlikeli hale gelebilir. İkinci ve çok daha sinsi risk ise yapay zekanın bizden çok daha akıllı hale gelmesiyle ortaya çıkar. Hinton, o noktada ne olduğunu veya nasıl kontrol edileceğini bile anlayamayacağımızı savunuyor. Örneğin, farklı sohbet robotlarından gelen veriler, her bir kişiyi ayrı ayrı hedefleyen reklamlarla seçmenleri manipüle etmek için kullanılabileceğinden, bu sadece bir sonraki seçim manipülasyonunun nedeni olabilir. YouTube ve Facebook gibi sosyal medya kanalları, LLM’leri kullanarak insanların duygularını herhangi bir gündem lehine veya aleyhine körükleyebilir.
- Yapay Zeka Nedeniyle Değişen İş Piyasası
Hinton’ın dile getirdiği en acil endişelerden biri, yapay zekanın işleri nasıl etkileyeceğidir. Birçok kişi yapay zekayı insan işçileri tamamlayacak bir şey olarak düşünürken, Hinton yapay zekanın özellikle tekrarlayan entelektüel görevleri içeren işlerin önemli bir bölümünü ortadan kaldıracağı konusunda uyarıyor. Sağlık hizmeti çalışanı olan yeğeninin artık şikayetleri çok daha hızlı ele almak için yapay zekayı kullandığından bahsediyor. Bu, yapay zekanın daha önce çok fazla insan çabası gerektiren görevlerin yerini almasının başlıca bir örneğidir.
Hinton’a göre, zihinsel emek gerektiren işler ortadan kalkacak. Sağlık hizmetleri ve bedensel emek gibi işler şimdilik güvenli olabilir; ancak fiziksel zekaya sahip robotlar günlük hayatımıza girerse bu bile değişebilir.
- Savaşta Yapay Zeka
Savaşta yapay zeka söz konusu olduğunda, Hinton’ın endişeleri ” ölümcül otonom silahlara ” yöneliyor. Kimi öldüreceklerine dYZr kendi kararlarını verebilen bu makineler, savaşın doğasını yeniden şekillendirebilir. Minimum insan müdahalesiyle, uluslar askerlerini savaş alanlarına ölüme göndermenin insan maliyetinden kaçınacakları için savaşlar daha sık ve daha az protestolu hale gelebilir. Bu otonom silahlar insanlardan daha akıllı olmasa da, insan girdisi olmadan çalışmak üzere tasarlanmıştır. Bu durum onları kendi başına tehlikeli hale getirir çünkü tahmin edilmesi veya kontrol edilmesi zor agresif şekillerde kullanılabilirler. Bunlar pahalı bir yatırım olabilirken, bütçesi olan ülkeler buna yatırım yapabilir ve bu da yalnızca insanlardan oluşan bir orduya karşı onlara avantaj sağlayabilir.
- Süper Zeka Tehdidi
Hinton, yapay zekanın her açıdan insanlardan daha yetenekli olduğu bir süper zeka seviyesine ulaştığında artık insan ihtiyaçları veya arzularıyla bağlı olmayacağını açıklamak için daha da ileri gidiyor. Soru, bizden daha akıllı olup olamayacağı değil, bizi ortadan kaldırmaya karar vermemesini sağlayıp sağlayamayacağımızdır. Süper zeki yapay zeka, insanlığı hedeflerine engel olarak görebilir ve medeniyetimizin sonunu getirebilecek eylemlerde bulunabilir. Bu, Terminator 3’ün konusuna benziyordu ancak – aktif olarak yapay zeka güvenliği araştırmalarında yer alan Hinton için gerçek bir endişe kaynağı. Şimdiki zorluk, güvenli, emniyetli ve aynı zamanda her zaman kontrolümüz altında olan yapay zeka inşa etmenin yollarını bulmaktır.
- Düzenlemeler: Çok Az, Çok Geç mi?
Hinton, özellikle Avrupa’da düzenlemeler yapıldığını kabul ediyor ancak bunların YZ’nın oluşturduğu tehditlerin tümüyle başa çıkmak için yetersiz olduğunu eleştiriyor. Örneğin bazı düzenlemeler, YZ’nın askeri kullanımını hariç tutuyor ve asıl tehlike de burada yatıyor. Hinton ayrıca, hükümetlerin ve şirketlerin elindeki YZ’nın seçimleri manipüle etmek, nüfusları kontrol etmek ve yaygın eşitsizlik yaratmak için kullanabileceği risklerini vurguladı.
Artan endişelere rağmen Hinton, yapay zeka gelişiminin hızını yavaşlatabileceğimizden şüphe ediyor çünkü teknoloji çok değerli ve küresel sistemlerimizde çok yerleşik. Bunu durdurulamaz bir güç, çoktan çok ileri gitmiş bir teknolojik devrim olarak görüyor.
Çözüm
Bu konuşma bende aciliyet duygusu bıraktı. Ana hatlarını çizdiği riskler görmezden gelinemeyecek kadar gerçek. Yapay zeka, sağlık hizmetlerini, eğitimi ve verimliliği artırarak hayatlarımızı iyileştirmek için inanılmaz bir potansiyele sahip olsa da, bir toplum olarak başa çıkmaya çok hazırlıksız olduğumuz önemli tehlikeleri de barındırıyor. İş yerinden edilmekten otonom silahlara kadar, yapay zekanın etkisi dünyayı hazır olmadığımız şekillerde kökten değiştirebilir.
Hinton’ın harekete geçme çağrısı açıktır: YZ güvenliğine daha fazla kaynak ayırmamız gerekiyor ve bunu da hızla yapmamız gerekiyor. YZ’nın geleceğini kontrol edip edemeyeceğimiz belirsiz. Ancak en azından denemezsek, YZ’nın hakimiyetinin felaket sonuçlara yol açacağı bir geleceğe bakıyor olabiliriz.
Bu konuşmayı düşündüğümde, cevaplardan çok soruyla baş başa kalıyorum, ancak bir şey kesin: Hiçbirimizin tam olarak anlayamayacağı kadar büyük bir şeyin eşiğinde duruyoruz. Yapay zeka, insanlığın yarattığı en büyük armağan veya bizim en büyük hatamız olabilir. Seçim ve sorumluluk bize ait.
Ayrıca Okuyun: Jensen Huang’ın Bilimkurgu Gibi Gelen 8 Gelecek Tahmini
Konuşmanın tamamını buradan izlenebilir.:ttps://www.youtube.com/watch?v=giT0ytynSqg