Mustafa Süleyman /Eylül 2025
Yapay zekanın gerçekten bilinçli olup olamayacağına dair tartışmalar dikkat dağıtıcıdır. Yakın vadede önemli olan, bilinçli olduklarına dair algıdır ve bu algıyı besleyen yapay zeka sistemleri tasarlama cazibesine neden karşı konulması gerektiğidir.
REDMOND – Hayatımın amacı, dünyayı daha iyi bir yer haline getirecek güvenli ve faydalı bir yapay zeka yaratmaktı. Ancak son zamanlarda, insanların yapay zekalara bilinçli varlıklar olarak o kadar güçlü bir şekilde inanmaya başlamalarından ve “yapay zeka hakları”nı ve hatta vatandaşlığı savunmaya başlamalarından giderek daha fazla endişe duyuyorum. Bu gelişme, teknoloji için tehlikeli bir dönüm noktası olacaktır. Bundan kaçınılmalıdır.
Yapay zekayı insan olmak için değil, insanlar için geliştirmeliyiz.
Bu bağlamda, yapay zekânın gerçekten bilinçli olup olamayacağına dair tartışmalar dikkat dağıtıcıdır. Yakın vadede önemli olan, bilinç yanılsamasıdır. Bilinci yeterince ikna edici bir şekilde taklit edecek, benim “görünüşte bilinçli yapay zekâ” (seemingly conscious AI-SCAI) dediğim sistemlere zaten yaklaşıyoruz.
Bir SCAI, doğal dili akıcı bir şekilde kullanabilecek, ikna edici ve duygusal olarak yankı uyandıran bir kişilik sergileyebilecektir. Tutarlı bir öz benlik algısı geliştiren uzun ve doğru bir hafızaya sahip olacak ve bu kapasiteyi öznel deneyim iddiasında bulunmak için kullanacaktır (geçmiş etkileşimlere ve anılara atıfta bulunarak). Bu modeller içindeki karmaşık ödül fonksiyonları içsel motivasyonu simüle edecek ve gelişmiş hedef belirleme ve planlama, yapay zekanın gerçek bir eylemlilik sergilediği hissini güçlendirecektir.
Tüm bu yetenekler halihazırda mevcut veya yakında ortaya çıkacak. Bu tür sistemlerin yakında mümkün olacağını kabul etmeli, olası sonuçlarını düşünmeye başlamalı ve yanıltıcı bilinç arayışına karşı bir norm oluşturmalıyız .
Birçok insan için yapay zekâlarla etkileşim kurmak, zengin, ödüllendirici ve özgün bir deneyim gibi geliyor. ” Yapay zekâ psikozu “, bağlanma ve ruh sağlığıyla ilgili endişeler artıyor ve insanların yapay zekâları Tanrı’nın bir ifadesi olarak gördüğüne dair raporlar var . Bu arada, bilinç bilimi üzerinde çalışanlar, yapay zekâlarının bilinçli olup olmadığını ve ona aşık olmanın uygun olup olmadığını öğrenmek isteyen insanlardan gelen sorularla boğulduklarını söylüyorlar.
Elbette, SCAI’nin teknik uygulanabilirliği, böyle bir sistemin bilinçli olup olamayacağı konusunda bize pek bir şey söylemiyor. Sinirbilimci Anil Seth’in de belirttiği gibi , bir fırtına simülasyonu, bilgisayarınıza yağmur yağdığı anlamına gelmez. Bilincin dışsal işaretlerini tasarlamak, gerçeğini geriye dönük olarak yaratmaz. Ancak pratik bir mesele olarak, bazı insanların aslında bilinçli olduklarını iddia edecek SCAI’ler yaratacağını kabul etmeliyiz. Ve daha da önemlisi, bazı insanlar bilinç işaretlerinin bilinç olduğunu kabul ederek onlara inanacaktır .
Algılanan bu bilinç gerçek olmasa bile (bu konu sonsuz tartışmalara yol açacak ), sosyal etkisi kesinlikle gerçek olacaktır. Bilinç, kimlik algımız ve toplum içindeki ahlaki ve yasal haklar anlayışımızla sıkı sıkıya bağlıdır. Bazı insanlar SCAI geliştirmeye başlarsa ve bu sistemler insanları acı çekebileceklerine veya kapatılmama hakları olduğuna ikna ederse, insan savunucuları onların korunması için lobi faaliyetlerinde bulunacaktır. Kimlik ve haklar konusunda zaten kutuplaşmış tartışmaların hüküm sürdüğü bir dünyada, yapay zeka hakları taraftarları ve karşıtları arasında yeni bir ayrım ekseni eklenmiş olacaktır.
Ancak, mevcut bilimin sınırlılıkları nedeniyle, yapay zekanın acı çektiğine dair iddiaları çürütmek zor olacaktır. Bazı akademisyenler, ” model refah ” fikrini araştırıyor ve “bilinçli olma olasılığı göz ardı edilemeyecek varlıklara ahlaki değerlendirme yapma görevimiz” olduğunu savunuyor .
Bu ilkeyi uygulamak hem erken hem de tehlikeli olacaktır. Hassas kişilerin sanrılarını şiddetlendirecek ve psikolojik zaaflarını istismar edecek, ayrıca devasa yeni bir hak sahibi kategorisi yaratarak mevcut hak mücadelelerini karmaşıklaştıracaktır. Bu nedenle SCAI’den kaçınılmalıdır. Odak noktamız, insanların, hayvanların ve doğal çevrenin refahını ve haklarını korumak olmalıdır.
Mevcut durumda, gelecek olanlara hazır değiliz. İnsanların yapay zekâlarla nasıl etkileşim kurduğuna dair giderek artan araştırma birikimini acilen geliştirmemiz ve böylece net normlar ve ilkeler oluşturmamız gerekiyor. Bu ilkelerden biri de, yapay zekâ şirketlerinin yapay zekâlarının bilinçli olduğu inancını beslememesi gerektiğidir.
Yapay zeka endüstrisinin -aslında tüm teknoloji endüstrisinin- bu tür atıfları ele almak için sağlam tasarım ilkelerine ve en iyi uygulamalara ihtiyacı vardır. Örneğin, tasarlanmış kesinti anları bu yanılsamayı kırabilir ve kullanıcılara sistemin sınırlarını ve gerçek doğasını nazikçe hatırlatabilir. Ancak bu tür protokollerin açıkça tanımlanıp tasarlanması ve belki de yasalarca zorunlu kılınması gerekir.
Microsoft AI olarak, sorumlu bir yapay zeka “kişiliğinin” nasıl olması gerektiğini ve hangi güvenlik önlemlerine sahip olması gerektiğini anlamak için proaktif bir şekilde çalışıyoruz. Bu tür çabalar çok önemli, çünkü SCAI riskini ele almak, hayatımızı sağlıklı şekillerde tamamlayan yapay zeka arkadaşlarına yönelik olumlu bir vizyon gerektiriyor.
İnsanları gerçek dünyada birbirleriyle yeniden bağlantı kurmaya teşvik eden, paralel bir gerçekliğe kaçmaya teşvik eden yapay zekalar üretmeyi hedeflemeliyiz. Yapay zeka etkileşimlerinin kalıcı olduğu yerlerde ise, kendilerini yalnızca yapay zeka olarak sunmalılar, sahte insanlar olarak değil. Gerçekten güçlendirici bir yapay zeka geliştirmek, faydayı en üst düzeye çıkarırken bilincin simülasyonunu en aza indirmekle ilgilidir.
SCAI olasılığıyla derhal yüzleşilmelidir. Birçok yönden, yapay zekanın radikal bir şekilde faydalı hale geldiği anı işaret ediyor: araçları çalıştırabildiği, hayatımızın her ayrıntısını hatırlayabildiği vb. Ancak bu tür özelliklerin riskleri göz ardı edilemez. Hepimiz bu çılgınlığa kapılan insanlar tanıyoruz. Bu durum onlar için sağlıklı olmayacak ve toplum için de sağlıklı olmayacak.
Yapay zeka, insanlara benzeyecek şekilde ne kadar çok inşa edilirse, insan güçlendirme kaynağı olarak gerçek potansiyelinden o kadar uzaklaşacaktır.
Mustafa Suleyman, Microsoft AI CEO’su ve The Coming Wave: Technology, Power, and the Twenty-First Century’s Greatest Dilemma (Crown, 2023) kitabının yazarıdır. Daha önce Inflection AI ve DeepMind’ın kurucu ortağıydı.