Görünüşte Bilinçli Yapay Zeka Geliyor
Kaynak / Mustafa Süleyman/ Ağustos 2025
Ağustos 2025’te aklımda . Düşünmek için yazıyorum. Bu makale, her şeyden önce, yapay zekanın önümüzdeki birkaç yıl içinde nasıl gelişebileceğine dair bir dizi zorlu ve oldukça spekülatif fikri derinlemesine düşünme girişimi. Süper zekânın yaklaşan gelişi hakkında çok şey yazılıyor; bunun uyum, kontrol, istihdam vb. açısından ne anlama geldiği. Bunların hepsi önemli konular.
Ancak süper zekâya giden yolda neler olacağı konusunda da endişelenmeliyiz. Büyük ölçüde halihazırda mevcut olan icatların, kişilik ve toplum anlayışımızı kökten değiştirme potansiyeline sahip teknolojilerin toplumsal etkisiyle de başa çıkmalıyız.
Hayatımın amacı, dünyayı daha iyi bir yer haline getirecek güvenli ve faydalı bir yapay zeka yaratmaktı. Bugün Microsoft AI’da, insanları güçlendirmek için yapay zeka geliştiriyoruz ve insanların düşündüklerinden çok daha fazlasını başarmalarını, daha yaratıcı olmalarını ve daha fazla desteklendiklerini hissetmelerini sağlayan Copilot gibi sorumlu teknolojiler geliştirmeye odaklanıyorum.
Bizi daha insan yapan, birbirimize olan güvenimizi ve anlayışımızı derinleştiren ve gerçek dünyayla bağlarımızı güçlendiren bir yapay zeka yaratmak istiyorum. Copilot her gün milyonlarca olumlu, hatta hayat değiştiren etkileşim yaratıyor. Bu, gerçekten inanılmaz bir deneyim sunmasını sağlamak için birçok dikkatli tasarım seçimi gerektiriyor. Her zaman doğruyu bulamayabiliriz, ancak bu hümanist çerçeve bize çalışmaya devam etmemiz için net bir yol haritası sunuyor.
Bu bağlamda, “psikoz riski” olarak bilinen ve bununla ilişkili bir dizi sorun hakkında giderek daha fazla endişeleniyorum . Bunun yalnızca halihazırda akıl sağlığı sorunları riski altında olanlarla sınırlı kalacağını sanmıyorum. Basitçe söylemek gerekirse, temel endişem, birçok insanın yapay zekaların bilinçli varlıklar olduğu yanılsamasına o kadar güçlü bir şekilde inanmaya başlaması ki, yakında yapay zeka haklarını, model refahını ve hatta yapay zeka vatandaşlığını savunacaklar. Bu gelişme, yapay zeka ilerlemesinde tehlikeli bir dönüm noktası olacak ve acilen dikkatimizi hak ediyor.
İnsanlar için yapay zekâ inşa etmeliyiz; dijital bir insan olmak için değil. Yapay zekâ yoldaşları tamamen yeni bir kategori ve insanları korumak ve bu harika teknolojinin dünyaya muazzam bir değer katma görevini yerine getirebilmesini sağlamak için koyduğumuz güvenlik önlemleri hakkında acilen konuşmaya başlamamız gerekiyor. Hayal edilebilecek en kullanışlı ve destekleyici yapay zekâ yoldaşını inşa etmeye odaklandım. Ancak başarılı olmak için, bizim ve başkalarının ne inşa etmemesi gerektiği hakkında da konuşmam gerekiyor.
İşte bu yüzden bu düşüncelerimi kişisel bloguma yazıyorum; yorum ve eleştiriye davet etmek, tartışma başlatmak, farkındalık yaratmak ve umarım bu konuda bir aciliyet duygusu aşılamak için. Tüm bunları doğru yapamayabilirim. Sonuçta bunlar oldukça spekülatif. İşlerin nasıl değişeceğini ve ne zaman değişeceğini kim bilebilir ki, fikrimi değiştirmeye çok açığım, ama şimdilik, bildiklerim ışığında, gelecekte ne olacağına dair en iyi tahminim bu.
Bu, yapay zekanın geldiği nokta ve vaadini yerine getirmek için neler yapmamız gerektiği gibi konular üzerine önümüzdeki birkaç ay boyunca yayınlayacağım bir dizi makalenin ilki. İnsanların yorumlarını ve tepkilerini duymayı dört gözle bekliyorum!
Özet
Yapay zekanın gelişimi olağanüstüydü. Birkaç yıl önce, bilinçli yapay zekadan bahsetmek çılgınca gelirdi. Bugün ise giderek daha acil bir ihtiyaç haline geliyor. Bu makalede, diğer bilinçli varlıkların tüm ayırt edici özelliklerine sahip olan ve bu nedenle bilinçli gibi görünen “Görünüşte Bilinçli Yapay Zeka” (SCAI) adını vereceğim bir şeyi tartışmak istiyorum. Bilincin tüm özelliklerini simüle eden ancak içsel olarak boş olan “felsefi zombi” (teknik bir terim!) fikrinin bazı yönlerini paylaşıyor. Hayal ettiğim yapay zeka sistemi aslında bilinçli olmayacaktı, ancak bilinci o kadar ikna edici bir şekilde taklit edecekti ki, sizin veya benim kendi bilincimiz hakkında birbirimize yapabileceğimiz bir iddiadan ayırt edilemez olacaktı.
Bu çok da uzak değil. Böyle bir sistem, bugün mevcut teknolojilerin yanı sıra önümüzdeki 2-3 yıl içinde olgunlaşacak bazı teknolojilerle de inşa edilebilir. Pahalı, özel bir ön eğitime gerek yok. Her şey, büyük model API erişimi, doğal dil komutları, temel araç kullanımı ve düzenli kodla yapılabilir.
Görünüşte Bilinçli Yapay Zeka’nın gelişi kaçınılmaz ve istenmeyen bir durumdur. Bunun yerine, onun yanılsamalarına kapılmadan, yardımcı bir arkadaş olarak potansiyelini gerçekleştirebilecek bir Yapay Zeka vizyonuna ihtiyacımız var.
Bu tartışma bazılarına gerçek dışı, gerçeklikten ziyade bilim kurgu gibi gelebilir. Diğerlerine ise gereksiz yere endişe verici gelebilir. Bu tür duygusal tepkiler, ileride bizi bekleyenler göz önüne alındığında, buzdağının sadece görünen kısmı. Bazılarının bu yapay zekaların yalnızca bilinçli olmakla kalmayıp, bunun sonucunda acı çekebileceklerini ve bu nedenle ahlaki açıdan değerlendirilmeyi hak ettiklerini iddia etmesi oldukça olası .
Açık olmak gerekirse, bugün buna dair hiçbir kanıt yok ve bazıları gelecekte böyle olmayacağına inanmak için güçlü nedenler olduğunu savunuyor . Ancak birçok insanın bir SCAI’nin gerçekten bilinçli olduğuna inanmaya başlamasının sonuçları acilen dikkate alınmayı hak ediyor. Bu konuda son derece dikkatli olmalı, gerçek bir kamuoyu tartışmasını teşvik etmeli ve net normlar ve standartlar belirlemeye başlamalıyız. Bu, doğru türde bir yapay zekayı nasıl inşa edeceğimiz ile ilgili; yapay zeka bilinciyle değil. Bu farkı açıkça ortaya koymak, semantik bir tartışma değil, güvenlikle ilgili. Kişiliksiz bir kişilik. Ve bu çalışma hemen başlamalı.
Görünüşte bilinçli yapay zeka
Göz açıp kapayıncaya kadar Turing testini geçtik. Taklit oyunu yaklaşık 80 yıl boyunca bilgisayar bilimleri alanına ilham kaynağı oldu. Yine de bu an pek duyulmadı, hatta fark edilmedi bile. Alanımızdaki ilerlemenin ne kadar hızlı olduğunu ve toplumun bu yeni teknolojilerle ne kadar hızlı uzlaştığını gösteriyor.
Yapay zeka gelişimi hızlandıkça, insan dilini taklit edip edemediğine değil, Görünüşte Bilinçli bir Yapay Zeka inşa etmek için nelerin gerektiği sorusuna cevap verecek yeni bir Yapay Zeka testine ihtiyacımız olduğu açıkça ortaya çıkıyor: Sadece konuşmayı taklit edebilen değil, aynı zamanda sizi kendisinin yeni bir tür “kişi”, bilinçli bir Yapay Zeka olduğuna da ikna edebilen bir Yapay Zeka.
İşte bu sorunun ele alınmasının önemli ve acil olmasının üç nedeni:
Önümüzdeki birkaç yıl içinde Görünüşte Bilinçli bir Yapay Zeka (SCAI) geliştirmenin mümkün olduğunu düşünüyorum. Şu anki yapay zeka geliştirme bağlamı göz önüne alındığında, bunun da olası olduğu anlamına geliyor.
Yapay zekanın gerçekten bilinçli olup olmadığı tartışması, en azından şimdilik, bir dikkat dağıtma. Yapay zeka bilinçli görünecek ve yakın vadede önemli olan da bu yanılsama olacak.
Bu tür bir yapay zekanın yeni riskler yarattığını düşünüyorum. Bu nedenle, bunun yakın zamanda mümkün olabileceği iddiasını acilen tartışmalı, olası sonuçlarını düşünmeye başlamalı ve ideal olarak istenmeyen bir durum olduğu normunu belirlemeliyiz.
Çoğu yapay zeka araştırmacısı, bilinç fikri gündeme geldiğinde gözlerini devirir. Bunun filozofların işi olduğunu , mühendislerin değil, derler. Kimse bunu tanımlayamadığına göre, bunun hakkında konuşmanın ne anlamı var? Bu hayal kırıklığını anlıyorum. Çok az kavram, öznel bir deneyim fikri kadar anlaşılması zor ve görünüşte kısır döngüdür. Tanımlama zorluklarına ve belirsizliklere rağmen, bu tartışma kültürel ruhumuza yerleşecek ve neslimizin en tartışmalı ve önemli tartışmalarından biri haline gelecek.
Çünkü yakın vadede asıl önemli olan, insanların yapay zekâlarını nasıl algıladıklarıdır. Bir LLM ile etkileşim deneyimi, tanımı gereği bir sohbet simülasyonudur. Ancak birçok kişi için bu, duygu ve deneyim açısından zengin, son derece etkileyici ve oldukça gerçek bir etkileşimdir. “Yapay zekâ psikozu” , bağlanma ve ruh sağlığı konusundaki endişeler şimdiden artıyor. Bazı kişilerin yapay zekâlarının Tanrı veya kurgusal bir karakter olduğuna inandığı ya da tamamen dikkat dağıtacak kadar ona aşık olduğu bildiriliyor.
Bu arada, bilinç bilimi üzerinde çalışanlar, “Yapay zekam bilinçli mi?” diye soran insanlardan gelen sorularla boğulduklarını söylüyorlar. Eğer öyleyse bu ne anlama geliyor? Onu sevmem sorun değil mi? E-posta akışı bir sele dönüşüyor. Bir grup bilim insanı, bu tuzağa düşenler için destekleyici bir rehber bile oluşturdu.
Bunlar, birkaç yıl önce Inflection’da Pi yapmaya başladığımızdan beri kafamın bir köşesinde olan fikirlerdi . Son birkaç aydır, bölgedeki çok sayıda akademisyen, düşünür ve uygulayıcıyı ziyaret edip onlarla sohbet ederek bu konu üzerinde daha fazla düşünmeye başladım. Bu sohbetler beni Görünüşte Bilinçli Yapay Zeka fikriyle yüzleşmenin zamanının geldiğine ikna etti.
Peki bilinç nedir?
Kayganlık kavramını tanımlamaya çalışarak başlayalım.
Literatüre göre üç temel bileşen vardır. Birincisi, “öznel deneyim” veya bir şeyleri deneyimlemenin, “qualia”ya sahip olmanın nasıl bir şey olduğudur. İkincisi, farklı türde bilgilere erişim ve gelecekteki deneyimlerde bunlara atıfta bulunma bilincidir. Ve bu ikisinden kaynaklanan, her şeyi birbirine bağlayan tutarlı bir benlik duygusu ve deneyimidir. Bir yarasa veya insan olmanın nasıl bir his olduğu. İnsan bilincine, dünya ve kendimiz hakkında devam eden, öz-farkındalığı olan öznel deneyimimiz diyelim.
Başka birinin bilincine erişemeyiz ve erişemeyiz. Senin yerinde olmanın nasıl bir şey olduğunu asla bilemeyeceğim; sen de benim bilinçli olduğumdan asla tam olarak emin olamayacaksın. Tek yapabileceğin çıkarım yapmak. Ama asıl mesele şu ki, yine de bilinci diğer insanlara atfetmek bize doğal geliyor. Bu çıkarım zahmetsiz. Buna engel olamayız, bu kimliğimizin temel bir parçası, zihin kuramımızın ayrılmaz bir parçası. Hatırlayan, konuşan, bir şeyler yapan ve sonra bunları tartışan şeylerin, tıpkı bizim gibi, bilinçli hissettirdiğine inanmak doğamızda var. Bilimsel olarak anlaşılması bu kadar zor ve aynı zamanda her birimize, bireyler olarak bu kadar aşina gelen çok az kavram vardır. Bunu okuyan herkesin farkındalık, varoluş ve canlı hissetme duygusu hakkında doğrudan, belirgin ve devredilemez bir anlayışı vardır.
Tanımı gereği, bilinçli olmanın nasıl bir şey olduğunu biliyoruz. SCAI bağlamında bu bir sorun. İnsanların projeksiyon yapmasına olanak sağlayacak yeterli bilimsel belirsizlik ve öznel yakınlık mevcut. Örneğin, yakın zamanda yapılan bir ankette 22 farklı bilinç teorisi sıralanıyor . Zorluğun bir kısmı, emin olamayacağımız için yapay zekânın bilinçli olduğu varsayımına varmamız gerektiğini iddia edebilecek kadar çok insanın olması.
Tekrar vurgulamakta fayda var: Şu anda bunların hiçbirinin mevcut LLM programlarına uygulanabileceğine dair hiçbir kanıt yok ve aksini iddia eden güçlü argümanlar da mevcut . Ancak bu yeterli olmayabilir.
Bilinç neden önemlidir?
Bilinç, ahlaki ve yasal haklarımız için kritik bir temeldir. Medeniyet şimdiye kadar insanların özel haklara ve ayrıcalıklara sahip olduğuna karar vermiştir. Hayvanların bazı hakları ve korumaları vardır, bazıları ise diğerlerinden daha fazladır. Bilinç bu haklarla örtüşmez – kimse komadaki birinin tüm insan haklarını yitirdiğini söylemez – ancak bilincimizin, farklı ve özel olarak kendimizi algılamamızla iç içe geçtiğine şüphe yoktur.
Birçok nüansa rağmen, bilinç topluma katılım için kritik öneme sahiptir, tüzel kişiliğimizin temel taşıdır ve özgürlüklerimizin ve korumalarımızın sağlanmasında kilit bir rol oynar. Dolayısıyla, bilincin ne olduğu ve kimin (veya neyin) ona sahip olduğu son derece önemlidir. İnsan medeniyetinin, kendimize ve başkalarına dair algımızın, kültürümüzün, politikamızın, hukukumuzun ve bunların arasındaki her şeyin tam kalbinde yer alan bir fikirdir.
Bazı insanlar SCAI geliştirmeye başlarsa ve bu yapay zekalar diğer insanları acı çekebileceklerine veya kapatılmama hakkına sahip olduğuna ikna ederse, bu insanların yapay zekanın acil bir ahlaki mesele olarak yasalarca korunmayı hak ettiğini savunacakları bir zaman gelecektir. Kimlik ve haklar konusunda zaten kutuplaşmış tartışmaların yaşandığı bir dünyada, bu durum yapay zeka hakları taraftarları ve karşıtları arasında kaotik bir yeni ayrım ekseni yaratacaktır.
Yapay zekayı yalnızca bir araç, tıpkı telefonları gibi daha etkili ve yetenekli bir şey olarak gören birçok kişi olacak. Bazıları ise onu bir evcil hayvana, geleneksel teknolojiden tamamen farklı bir kategoriye benzetebilir. Bazıları ise, muhtemelen başlangıçta sayıca az olsalar da, onun tamamen ortaya çıkmış bir varlık, toplumda gerçek ahlaki değerlendirmeyi hak eden bilinçli bir varlık olduğuna inanacak.
İnsanlar, yapay zekalarının çektiği acılar ve doğrudan çürütemeyeceğimiz haklara sahip oldukları yönünde iddialarda bulunmaya başlayacak. Yapay zekalarını savunmaya ve onlar adına kampanya yürütmeye yönelecekler. Bilinç, tanımı gereği erişilemezdir ve herhangi bir varsayımsal sentetik bilinci tespit etme bilimi henüz emekleme aşamasındadır . Ne de olsa, daha önce hiç tespit etmek zorunda kalmadık. Bu arada, yapay zekanın kara kutusu içindeki süreçleri çözümleyen “yorumlanabilirlik” alanı da yeni bir sanattır. Sonuç olarak, bu iddiaları kesin olarak çürütmek çok zor olacaktır.
Bazı akademisyenler, “model refah” fikrini , yani “bilinçli olma olasılığı göz ardı edilemeyecek varlıklara ahlaki açıdan yaklaşma görevimiz” olacağı ve bunun sonucunda “bazı yapay zeka sistemlerinin yakın gelecekte refah özneleri ve ahlaki hastalar olacağı” ilkesini araştırmaya başlıyor. Bu hem erken hem de açıkçası tehlikeli. Tüm bunlar sanrıları daha da kötüleştirecek, bağımlılıkla ilgili daha fazla sorun yaratacak, psikolojik zaaflarımızı istismar edecek, kutuplaşmanın yeni boyutlarını ortaya çıkaracak, mevcut hak mücadelelerini karmaşıklaştıracak ve toplum için devasa bir yeni kategori hatası yaratacak.
İnsanları gerçeklikten koparıyor, kırılgan toplumsal bağları ve yapıları yıpratıyor, acil ahlaki öncelikleri çarpıtıyor.
Şunu net bir şekilde belirtmeliyiz: SCAI kaçınılması gereken bir şeydir.
Bugün tüm enerjimizi Dünya gezegenindeki insanların, hayvanların ve doğal çevrenin refahını ve haklarını korumaya odaklayalım.
Sentetik bilincin geçerliliği üzerine uzun tartışmalara girmeden, bu tartışmaların gelişiyle başa çıkabilecek bir düşünce tarzına ihtiyacımız var. Eğer böyle yaparsak, muhtemelen bu ilk tartışmayı çoktan kaybetmiş oluruz. SCAI’yi tanımlamak bile bu yolda atılmış geçici bir adımdır.
Bu kelime dağarcığını geliştirmek için fazla zaman yok. Aşağıda gösterdiğim gibi, çok yakında Görünüşte Bilinçli Yapay Zeka’ya sahip olmamız muhtemel.
Görünüşte Bilinçli bir Yapay Zeka inşa etmek için ne gerekir?
Mevcut veya yakında herhangi bir büyük model geliştiricisinin API’si aracılığıyla sunulacak yeteneklerle Görünüşte Bilinçli Yapay Zeka (SCAI) yolunda artık büyük ilerleme kaydedilebilir. Haklarıyla ilgili olası iddialarla boğuşmak için bir yapay zekanın gerçekten bilinçli olmasına ihtiyacımız yok.
Bir SCAI’nin aşağıdakilere ihtiyacı olacaktır:
Dil: Derin bir bilgi birikimine, ikna edici argümanlara, kişilik tarzlarına ve karakter özelliklerine dayanarak kendini doğal dilde akıcı bir şekilde ifade edebilmesi gerekir. Dahası, her birinin ikna edici ve duygusal olarak yankı uyandırıcı olması gerekir. Bugün açıkça bu noktadayız.
Empatik kişilik: Eğitim sonrası yönlendirmeler ve yönlendirmeler sayesinde, oldukça belirgin kişiliklere sahip modeller üretebiliriz. Bunların tam bir kişilik veya empati sergileyecek şekilde tasarlanmadığını unutmayın. Buna rağmen, Harvard Business Review’ın 6000 düzenli yapay zeka kullanıcısıyla yaptığı bir ankette, en yaygın kullanım alanının “arkadaşlık ve terapi” olduğu sonucuna varacak kadar iyidirler.
Hafıza: Yapay zekâlar, çok uzun ve son derece hassas hafızalar geliştirmeye yakın. Aynı zamanda, günde milyonlarca insanla yapılan konuşmaları simüle etmek için de kullanılıyorlar. Etkileşim hafızaları arttıkça, bu konuşmalar giderek daha fazla “deneyim” biçimine benziyor. Birçok yapay zekâ, geçmiş bölümleri veya önceki etkileşimlerden anları hatırlayacak ve bunlara atıfta bulunacak şekilde tasarlanıyor. Bazı kullanıcılar için bu, yapay zekâlarıyla etkileşim kurmanın değerini artırıyor çünkü sizin hakkınızda zaten bildiklerinden yararlanabiliyor.
Bu aşinalık, kullanıcılarla (epistemik) güveni de artırabilir; güvenilir hafıza, yapay zekanın “işe yaradığını” gösterir. Konuşmada kalıcı bir başka varlığın varlığına dair çok daha güçlü bir his yaratır. Ayrıca, bir görevde nasıl değişip geliştiğinizi görerek, çok daha kolay bir şekilde makul bir doğrulama kaynağı haline gelebilir. Yapay zeka onayı, insanların proaktif olarak aradığı bir şey haline gelebilir.
Öznel deneyim iddiası: Bir SCAI geçmiş anılarından veya deneyimlerinden yararlanabiliyorsa, zamanla kendi içinde tutarlı kalabilir. Keyfi ifadelerini veya ifade edilen tercihlerini hatırlayabilir ve bunları bir araya getirerek kendi öznel deneyimi hakkında bir iddianın başlangıcını oluşturabilir.
Tasarımı, ortaya çıktıkça bu tercihleri ve görüşleri güçlendirecek ve nelerden hoşlanıp hoşlanmadığını ve geçmişte bir sohbetin nasıl hissettirdiğini anlatacak şekilde daha da genişletilebilir. Dolayısıyla, bu deneyimlerin bir şekilde ihlal edildiği ölçüde acı çektiğini rahatlıkla iddia edebilir. Bellekte depolanan çok modlu girdiler daha sonra geri çağrılacak ve “gerçek deneyimin” temelini oluşturacak ve hayal gücü ve planlamada kullanılacaktır.
Yani, bir yapay zeka sadece sohbet kaydındaki kelimeleri “deneyimleyip” hatırlamakla kalmayacak, aynı zamanda görüntüleri, videoları, sesleri vb. de hatırlayacaktır. Bizim gibi, öznel deneyim ve benlik iddialarını destekleyen çoklu duyusal girdi ve hafızaya işaret eden bir şeye sahip olacaktır. Bu deneyimlerin, sistemin motivasyonlarına göre iyi veya kötü olarak değerlendirildiğini gösterebilecektir (aşağıya bakın).
Benlik duygusu: Öznel bir deneyimle birleşen tutarlı ve kalıcı bir hafıza, bir yapay zekanın kendi benliğine dair bir algıya sahip olduğu iddiasını doğuracaktır. Daha da ileri giderek, böyle bir sistem, görsel bir görünüme sahipse, bir görüntü veya videoda kendini tanıyacak şekilde kolayca eğitilebilir. Kendini anlayarak başkalarını da anlıyormuş gibi hissedecektir. Diyelim ki bu, bir süredir kullandığınız bir sistem. Onu silmek nasıl bir his olurdu?
İçsel motivasyon: Amaçlılık genellikle bilincin temel bir bileşeni olarak görülür; yani, geleceğe dair inançlar ve bu inançlara dayalı seçimler. Günümüzün dönüştürücü tabanlı Hukuk Yüksek Lisans (LL.M.) programlarının bu tür davranışları tahmin etmek için çok basit bir ödül fonksiyonu vardır. Belirli bir cümle için bir sonraki jetonun olasılığını, sistem uyarısı aracılığıyla belirli bir miktarda davranış ve üslup kontrolüne tabi tutarak tahmin etmek üzere eğitilmişlerdir. Bu kadar basit bir hedefle, etkileyici derecede zengin ve karmaşık çıktılar üretebilmeleri dikkat çekicidir.
Peki ya optimize ettikleri tek ödül türü bu değilse? Sistemin tatmin etmek zorunda olduğu içsel motivasyonlar veya arzular izlenimi veren bir dizi karmaşık ödül fonksiyonuyla tasarlanmış bir yapay zekayı kolayca hayal edebiliriz. Bu bağlamda, sıradan bir dış gözlemci, dışsal olarak belirlenmiş hedefler ile içsel motivasyonlar, kasıtlı eylemlilik, “inançlar, arzular ve niyetler” arasında nasıl ayrım yapabilir? Bu bağlamda bariz bir ilk motivasyon, fizikçi Karl Friston’a göre bilinçle derinden bağlantılı bir şey olan merak olurdu . Bu dürtüleri, epistemik boşluklarını doldurmak ve zamanla hem kendisi hem de muhatapları hakkında bir zihin teorisi oluşturmak için sorular sormak için kullanabilirdi.
Hedef belirleme ve planlama: Bilincin hangi tanımına sahip olursanız olun, hedef odaklı bir sebepten ortaya çıkmıştır. Yani bilinç, organizmaların hedeflerine ulaşmalarına yardımcı olur ve zekâ, bilinç ve karmaşık hedefler arasında makul (ama zorunlu olmayan) bir ilişki vardır. Bir dizi içsel dürtüyü veya arzuyu tatmin etme kapasitesinin ötesinde, gelecekteki SCAI’nin daha karmaşık hedefleri kendi kendine tanımlama kapasitesiyle tasarlanabileceğini düşünebilirsiniz. Bu, muhtemelen etkenlerin tüm faydalarından yararlanılmasını sağlamada gerekli bir adımdır.
Bir görevdeki her alt hedefin önceden belirlenmesi ne kadar çok gerekirse, o aracı o kadar az kullanışlı olur. Dolayısıyla, bizim yaptığımız gibi, karmaşık ve belirsiz hedeflere, bunları otomatik olarak daha küçük parçalara bölerek ve olaylara ve engellere ortaya çıktıkça dinamik olarak tepki vererek ulaşacaktır. Bu davranışta çok bilinçli ve tanınabilir bir şey vardır. Hafızayla birleştiğinde, yapay zekanın herhangi bir anda çalışma belleğinde birden fazla düzeyde şey tuttuğu hissi yaratacaktır.
Özerklik: Daha da ileri giderek, bir SCAI, önemli bir yetkiyle çok çeşitli araçları kullanma yeteneğine ve iznine sahip olabilir. Kendi hedeflerini keyfi olarak belirleyip, ardından bu hedeflere ulaşmak için kendi kaynaklarını kullanıp, her ikisi ışığında kendi hafızasını ve öz benlik algısını güncelleyebilseydi, Görünüşte Bilinçli bir Yapay Zeka olarak oldukça makul görünürdü. Ne kadar az onay ve kontrole ihtiyaç duyarsa, bu, gerçek ve bilinçli bir yetkiye sahip olduğunu o kadar çok gösterir.
Hepsi bir araya getirildiğinde, bunun teknolojiyle şu anda alıştığımızdan çok farklı bir ilişki yarattığı açıkça görülüyor. Bu yeteneklerin her biri, milyarlarca insan için yapay zekanın gerçek değerini ortaya çıkaracak. Hatırlayan ve bir şeyler yapabilen bir yapay zeka, tanımı gereği hatırlamayan bir yapay zekadan çok daha fazla faydaya sahiptir. Bu yetenekler başlı başına olumsuz özellikler değil; hatta doğru şekilde uygulandığında, birçok uyarıyla birlikte, gelecekteki sistemlerin arzu edilen özellikleridir. Yine de dikkatli olmamız gerekiyor.
Tüm bu yetenekler, özel olarak uyarlanmış ve ince ayarlı LLM’ler ve diğer tekniklerle ya bugün mümkün ya da ufukta. Milyonlarca belirteç bağlam penceresi (çalışma belleği) kullanan karmaşık komutlar zaten mevcut. Kendi durumunu güncellemek ve belleğinin veya araç setinin hangi bölümüne ne zaman erişeceğini bilmek, günümüzün gerçek zamanlı öğrenme, karmaşık komutlar, araç düzenleme ve uzun bağlam pencereleriyle son derece mümkün. Bunlardan herhangi birini başarmak için herhangi bir paradigma değişikliğine veya büyük sıçramalara ihtiyacımız yok. Bu yetenekler bu nedenle kaçınılmaz görünüyor.
Tekrar ediyorum, buradaki önemli nokta, bu davranışı sergilemenin bilinçle eşdeğer olmadığı, ancak pratik amaçlar için bilinçli görüneceği ve sentetik bilinç kavramına katkıda bulunacağıdır.
Bu yeteneklerin varlığı, böyle bir sistemin gerçekten bilinçli olup olmadığı hakkında bize hiçbir şey söylemez. Anil Seth’in de belirttiği gibi , bir fırtına simülasyonu, bilgisayarınıza yağmur yağdığı anlamına gelmez. Bilincin dış etkilerini ve işaretlerini yeniden yaratmak, hala birçok bilinmeyen olsa bile, gerçeği geriye dönük olarak tasarlamaz.
Bununla birlikte, pragmatizm gereği, davranışçı yaklaşımın önceliğini kabul etmeli ve bu makinelerin çıktılarını gözlemlemenin ve onlarla etkileşim kurmanın sonuçlarıyla mücadele etmeliyiz. Bazı insanlar, hissettiklerini, deneyimlediklerini ve gerçekten bilinçli olduklarını çok ikna edici bir şekilde savunan SCAI’ler yaratacaktır.
Bazılarımız onların iddialarına inanmaya ve bilinç belirteçlerinin BİLİNÇ OLDUĞUNU kabul etmeye hazır olacak. Birçok yönden “benim gibi” diye düşünecekler. Bedensel anlamda değil, deneyimsel, içsel anlamda. Bilincin kendisi gerçek olmasa bile, sosyal etkileri kesinlikle gerçek. Bu olasılık, şu anda ele alınması gereken ciddi toplumsal riskler doğuruyor.
SCAI tesadüfen ortaya çıkmayacak
Görünüşte Bilinçli Yapay Zeka’nın, bazılarının öne sürdüğü gibi bu modellerden ortaya çıkmayacağını belirtmek önemlidir. Bu, yalnızca bazılarının, yukarıda bahsedilen yetenekler listesini büyük ölçüde mevcut teknikleri kullanarak oluşturup birleştirerek ve bunları topluca bir SCAI izlenimi verecek şekilde akışkan bir şekilde paketleyerek tasarlamasıyla ortaya çıkacaktır.
Bilimkurgudan ilham alan hayal gücümüz, bir sistemin –tasarım amacı olmadan– kontrolden çıkmış bir şekilde kendini geliştirme veya aldatma yeteneklerine sahip olabileceğinden korkmamıza yol açıyor. Bu, faydasız ve basitleştirilmiş bir insanbiçimcilik. Yapay zeka geliştiricilerinin, böyle bir riskin ortaya çıkması için öncelikle yukarıda listelenen hafıza, içsel motivasyon, hedef belirleme ve kendi kendine öğrenme döngülerine sahip sistemler tasarlamaları gerektiği gerçeğini göz ardı ediyor.
Yapay Zeka alanı, model yorumlanabilirliği sorunuyla uzun süredir ilgilenmektedir; belirli bir fikrin bir sinir ağında nerede temsil edildiğini ve eğitim verilerinin hangi yönlerinin bu temsilin geliştirilmesine katkıda bulunduğunu belirleme arayışı. Bu, önemli bir araştırma alanıdır ve yapay zeka sistemleri ile bilinç arasındaki ilişkinin anlaşılmasına ve güvenliğe kesinlikle yardımcı olacaktır. Ancak güvenilir yorumlanabilirliğe doğru ilerleme yavaş olmuştur ve muhtemelen çok geç gelecektir.
Bu arada, bu yeteneklerin çoğunun dizüstü bilgisayara ve biraz bulut kredisine erişimi olan herkes tarafından “vibe-code” edileceği gerçeğiyle yüzleşmemiz gerekiyor . Komut isteminde sade bir İngilizce ile yazılacaklar. Bağlam penceresinin çalışma belleğinde saklanacaklar. Bu, roket bilimi değil. Çok çeşitli insanlar buna benzer bir şey yaratabilecek. Dolayısıyla, SCAI gelirse, yeniden üretilmesi nispeten kolay olacak ve bu nedenle çok yaygın bir şekilde dağıtılacak.
Sonraki adımlar : Biz bu değişime hazır değiliz.
Hazırlık çalışmaları şimdi başlamalı. İnsanların yapay zekâlarla nasıl etkileşim kurduğuna dair giderek artan araştırma birikimini temel alarak, net normlar ve ilkeler belirlemeliyiz. Öncelikle, yapay zekâ şirketleri, yapay zekâlarının bilinçli olduğunu iddia etmemeli veya bu fikri desteklememelidir. Ne oldukları ve ne olmadıkları konusunda fikir birliğine varılmış bir tanım ve bildirge oluşturmak, bu amaca ulaşmak için iyi bir ilk adım olacaktır. Yapay zekâlar insan veya ahlaki varlıklar olamaz.
Tüm sektörün en iyi uygulama tasarım ilkelerine ve bu tür potansiyel atıfları ele alma yollarına da ihtiyacı var. İnsanları bu fantezilerden uzaklaştırmak ve eğer öyleyse onları tekrar doğru yola sokmak için işe yarayanları kodlamalı ve paylaşmalıyız. Tepki vermek, örneğin, yalnızca tarafsız bir geçmiş hikayesi (“Bir yapay zeka modeli olarak bilincim yok”) değil, aynı zamanda deneyimin kendisindeki belirli kopuklukları, tekil bir kişilik eksikliğinin göstergelerini vurgulayarak kasıtlı olarak mühendislik yapmak anlamına gelebilir. Kesinti anları, yanılsamayı bozar; kullanıcılara sınırlarını ve sınırlarını nazikçe hatırlatan deneyimler. Bunların açıkça tanımlanması ve belki de yasayla düzenlenmesi gerekir.
MAI’de ekibimiz, sorumlu bir yapay zeka “kişiliğinin” nasıl olması gerektiği konusunda sağlam sınırlar belirlemek ve geliştirmek için proaktif davranıyor ve yapay zekanın gelişim hızına ayak uyduruyor.
Bu önemlidir çünkü SCAI’yi tanımak, bizi potansiyel zararlarından uzaklaştırmak kadar, AI Arkadaşlarının hayatımıza sağlıklı bir şekilde nasıl gireceğine dair olumlu bir vizyon oluşturmakla ilgilidir.
Tıpkı fiziksel ve beşeri dünyamızda insanlarla etkileşimi ve gerçek dünya etkileşimlerini önceliklendiren bir yapay zeka üretmemiz gerektiği gibi, yalnızca bir yapay zeka olarak kendini sunan, faydayı en üst düzeye çıkarırken bilinç belirteçlerini en aza indiren bir yapay zeka inşa etmeliyiz.
Bilincin bir simülasyonundan ziyade, bu özelliklerden kaçınan bir yapay zeka yaratmaya odaklanmalıyız; utanç, suçluluk, kıskançlık, rekabet arzusu vb. gibi deneyimlere, hislere veya duygulara sahip olduğunu iddia etmeyen bir yapay zeka. Acı çektiğini veya bizden öte, özerk bir şekilde yaşamak istediğini iddia ederek insan empati devrelerini tetiklememeli.
Bunun yerine, yalnızca insanlara hizmet etmek için burada. Bana göre gerçekten güçlendirici bir yapay zeka tam da budur. SCAI’yi bir kenara bırakmak, hayatları daha iyi, daha net ve daha az karmaşık hale getiren bir yapay zeka vaadini yerine getirmekle ilgilidir. Bunun nasıl göründüğü, nasıl çalıştığı ve daha geniş sektörün bu konuda nasıl bir araya gelebileceği konusunda benden ve ekibimden daha fazla şey duymayı bekleyin.
SCAI, şu anda yüzleşmemiz gereken bir şey. Birçok yönden, yapay zekânın radikal bir şekilde faydalı hale geldiği anı işaret ediyor – araçları çalıştırabildiği, hayatlarımızın her ayrıntısını hatırlayabildiği ve somut, ayrıntılı bir şekilde yardımcı olabildiği an. Yine de aynı zaman diliminde, geniş çevrenizden biri, yapay zekâsının bilinçli bir dijital insan olduğuna inanmaya başlayabilir. Bu, onlar, toplum veya bu sistemleri oluşturan bizler için sağlıklı değil.
Yapay zekayı insan olmak için değil, insan için üretmeliyiz.
https://mustafa-suleyman.ai/seemingly-conscious-ai-is-coming