Dünyanın dört bir yanından yüzlerce teknoloji uzmanı, hızlı teknolojik değişim ışığında insanlığın en iyi çıkarlarına hizmet etmek için liderlerden kapsamlı bir sistem yanıtı vermelerini isteyerek görüşlerini paylaştı.
Dijital Geleceği Hayal Etme Merkezi’nin 2026 yılında yaptığı bir ankete katılan uzman katılımcıların büyük çoğunluğu, yapay zekanın yaygın kullanımının getirdiği insani ve sistemik zorlukları dengelemek için insanların yapay zeka çağında son derece koordineli bir dayanıklılık altyapısı oluşturması gerektiğini söyledi. Katılımcıların yaklaşık %82’si, yapay zekanın önümüzdeki 10 yıl veya daha kısa sürede insanların yaşamlarını ve temel toplumsal işlevleri şekillendirmede önemli ölçüde daha büyük bir rol oynayacağını belirtti. En önemli sorunların yaşamı kuşatan bir yapay zeka altyapısından kaynaklandığı için “kurumlar öncelikli” bir dayanıklılık gündemini savundular.
386 uzmandan 160’tan fazlası, bakış açılarını açıklayan ayrıntılı makale yanıtları yazdı. Uzmanlar, her alanda lider olanların kapsamlı bir sistem yanıtı vermesinin, her şeyi kapsayan bir yapay zeka ortamında insanlığın en iyi çıkarlarına hizmet etmek için gerekli olduğunu belirtti. Bu, insan ve yapay zeka hakkındaki bu raporun 13 bölümünden ilki olan özet bölümüdür.
Dünyanın dört bir yanından, hayatın her alanından bu uzmanlar, yapay zekanın hızla toplumun görünmez işletim sistemi haline geldiğini, fırsatların dağıtımını, hizmetlerin sunumunu, risklerin yönetimini ve insan haklarının deneyimlenmesini şekillendirdiğini belirtti. Çoğu, insanların binlerce yıldır kullandığı geleneksel direnç stratejilerinin –bireysel “azim” ve sonradan yapılan kişisel uyum – yapay zeka ile dolu bir geleceğe uyum sağlarken insanlığın gelişmesine yardımcı olmak için yeterli olmadığını söyledi.
Bu uzmanlar şu tahminlerde bulundular:
Yapay zekanın daha büyük rolü: Katılımcıların %82’si yapay zekanın önümüzdeki 10 yıl veya daha kısa sürede günlük yaşamımızı ve temel toplumsal sistemleri şekillendirmede önemli ölçüde daha büyük bir rol oynayacağını söylerken , %13’ü bu değişim düzeyinin 20-30 yıl sonra gerçekleşeceğini belirtti.
Yapay zekânın kararları yönlendirmesi: Katılımcıların %56’sı, yapay zekânın önemli ölçüde daha gelişmiş hale geldiğinde, insan faaliyetlerinin ve kararlarının “neredeyse tamamını” veya “çoğunu” etkileyeceğini, yönlendireceğini veya kontrol edeceğini beklediklerini belirtti (diğer %24’ü ise yapay zekânın faaliyetlerin ve kararların neredeyse yarısını etkileyeceğini, yönlendireceğini veya kontrol edeceğini söyledi).
Dayanıklılık endişeleri: Katılımcıların %45’i, bu düzeydeki bir değişim karşısında insanların yalnızca “biraz” veya “hiç” dayanıklı olmayacağını söyledi . Yaklaşık yarısı ise insanların kısmen veya çok dayanıklı olacağını belirtti.
Dikkat çekici nokta: Birçok uzman, makale yanıtlarında, insanların çoğunun yapay zeka sistemlerinin etkisini pasif bir şekilde kabul edeceğini yazdı . Dolayısıyla, bu insanlar dayanıklı olma ihtiyacı hissetmeyeceklerdir.
Memnuniyetle ilgili endişeler: O dönemde katılımcıların yalnızca %33’ü yapay zeka sistemlerinden memnun olanların memnuniyetsiz olanlardan daha fazla olacağını ; %31’i memnuniyetsiz olanların memnun olanlardan daha fazla olacağını ; %33’ü ise yapay zeka sistemlerinden memnuniyet ve memnuniyetsizliğin eşit düzeyde olacağını belirtti.
En önemlisi, bu uzmanlar insan kurumlarının bir araya gelmesi ve halihazırda belirgin olan ancak henüz ele alınmayan yeni zorluklarla dolu yeni bir dünyada insanların başarılı olmaları için hazırlıklara şimdiden başlaması gerektiğini vurguladılar. Ayrıca, bu uzmanların yazdığı 300 sayfalık makale ve kısa yorumlarda, insan direncini artırmak için ele alınması gereken bir dizi önemli konuya değindiler:
- İnsan iradesinin kaybı: En çok bundan endişeleniyorlardı. Günlük yaşamın neredeyse her alanında – günlük seçimlerden kritik, hayat değiştiren kararlara kadar – yapay zeka, görünmez bir şekilde bilgi diyetlerimizi düzenleyecek, davranışlarımızı tahmin edecek ve insanların yaşamlarını ve toplumsal sistemleri denetleyen ve yönlendiren devasa sistemleri otomatikleştirecektir. İşe alım ve kredi onaylarından hukuki konulara ve sağlık teşhislerine kadar, insan özgür iradesinin parametrelerini incelikle daraltacaktır. İnsanların birçok alanda insan yargısını ve ahlaki ve etik muhakemeyi uygulamak yerine yapay zekaya zaten başvurduğunu belirtiyorlar. Karmaşık, şeffaf olmayan yapay zeka sistemleri, bireysel nüanslardan ziyade programlanmış verimliliğe ve tahmin kalıplarına öncelik verir. Genellikle büyük ölçüde anlayışımızın veya denetimimizin ötesinde çalışırlar. Bireyleri bağımsız olarak seçenekleri değerlendirme, sonuçlara anlamlı bir şekilde itiraz etme ve nihayetinde kendi yaşamlarının seyrini yönlendirme yeteneğinden mahrum bırakırlar.
- Bilgi parçalanması ve ortak gerçekliğin çöküşü: Bu uzmanlar, yapay zekâ tarafından oluşturulan kişiselleştirilmiş ikna ve dalkavukça sentetik içeriğin, insanların ortak gerçeklik duygusunu ve gerçeklere olan bağlılığını zayıflatacağından endişe ediyorlar. Bu son derece tehlikelidir çünkü üzerinde uzlaşılmış nesnel bir gerçek temeli olmadan, toplumsal güven ortadan kalkar, demokratik söylem imkansız hale gelir ve insanlık işbirliği yapma ve kolektif zorlukları çözme temel yeteneğini kaybeder.
- ‘Varoluşsal Okuryazarlık’ İhtiyacı : Bu uzmanlar, “okuryazarlık” kavramlarımızı genişletmenin ve insan dayanıklılığının altyapısı için kritik bir temel olarak daha kapsamlı bir yapay zeka okuryazarlığına – “varoluşsal okuryazarlığa” – öncelik vermenin gerekliliğine dikkat çekti. Amaç, insanların psikolojik bağışıklık sistemini güçlendirmek, hızlı değişime uyum sağlamalarını, benlik duygularını savunmalarını ve teknolojiyi bilinçli olarak insan refahına yönlendirmelerini sağlamaktır. Bu tür bir okuryazarlığın, yeni normların oluşturulmasını teşvik etmesi, insan benzersizliğine, temel değerlere, yüz yüze sosyal bağlantı ihtiyacına ve temel amacımıza dair daha derin bir anlayış geliştirmesi gerektiğini, böylece algoritmik dünyada pasif bir şekilde koşullandırılmak yerine aktif olarak yol alabilmemiz gerektiğini söylediler.
- ‘İş depremi’ – ekonomik tehdit ve kimlik altüst oluşu: Muhtemelen yaşanacak dönüştürücü aksaklıklarda, çoğu iş değişecek, bazıları kaybedilecek, ekonomik zorluklar muhtemel. İş kimliğinin ve ekonomik güvenliğin istikrarlı dayanağı olmadan, birçok insan toplumsal dokuyu derinden sarsabilecek bir önemsizlik psikolojik kriziyle karşı karşıya kalabilir. Bazıları, insan emeğinin yerinden edilmesi ve verimlilik kazanımlarının tamamen sermaye ve veri merkezi sahiplerine gitmesi durumunda toplumun tekno-feodalizm durumuna girebileceğini öngörüyor.
- Yeni bölünmeler ve eşitsizlikler: Birçok uzman, yapay zekayı etkili bir “ortak zeka” olarak kullanmada ustalaşamayanların geride kalabileceğini ve diğerlerinden çok daha fazla özgürlüğe sahip olamayacaklarını söyledi. Bazıları, nüfusun bir kısmının yapay zekanın hakim olduğu alanlarda yaşamayı seçerken, diğerlerinin “daha gerçek” insan deneyimlerine odaklanmayı tercih edeceği insani bölünmeler öngörüyor.
- Otomatikleşmiş özgüven: Bu uzmanlar, görünüşte akıcı ve kendinden emin yapay zekâ sistemlerine kullanıcılar tarafından aşırı güven duyulacağını savunuyor. İnsanlar sorulara cevap ararken verimlilik, kesinlik ve sonuç ararlar. Zor bilişsel görevleri başkalarına devretmeye programlanmışlardır ve farkında olmadan seçimlere yönlendirilebilirler. Yapay zekâ sistemleri bu eğilimlerden yararlanmak üzere tasarlanmıştır.
- Sosyal etkileşimde değişim: Bu deneme yazarlarının çoğu, yapay zekâ destekli yardımcılar, asistanlar ve ajanlara olan artan bağımlılığın, insanların sosyal becerilerini aşındıracağını, çünkü giderek daha “parasosyal” bir yaşam sürdüklerini ve çoğunlukla her zaman yanıt veren, memnun etmeye yönelik tasarlanmış yapay zekâ muadilleriyle düşük sürtünmeli yollarla etkileşimde bulunduklarını söyledi. İnsanlarla doğrudan ilişkilerin gereksiz hale gelmesi ve daha hesaplı ve ticari bir hal almasıyla, insanların empati, sabır ve başkalarını incelikli bir şekilde okuma kapasitelerinde bir düşüş olacağını öngörüyorlar. Bununla ilgili bir diğer tahmin ise, yapay zekâ çağında insanların besleyici yalnızlık kapasitelerini de kaybedecekleri ve dijital yaşamla sürekli bağlantıda kalmaya mecbur kalacaklarıdır.
- İnsan dışı aktörlerin insan alanlarına girmesiyle ortaya çıkan komplikasyonlar: Gelecekte insanlar, dünyada “var olmanın” birçok yönünü yönetmelerini gerektiren bir dizi ajan ve bot tarafından temsil edilecek. Ayrıca, kendileri ve ajanları, iş ve sosyal ortamlarda diğer ajan temsilcileriyle de etkileşim kurmak zorunda kalacaklar.
Bu uzmanların çoğu, yapay zekâ geçişinde işler yolunda giderse ve insanlar hazır, dirençli ve iyi uyum sağlarsa, bunun insan evriminde devrim niteliğinde bir aşamanın katalizörü olabileceğini söylüyor . İnsanların ve yapay zekâların simbiyotik bir ilişki içinde birleşmesinin, parçalarının toplamından çok daha büyük bir birleşik çıktı üretmesi muhtemeldir.
Bu geçişin, iyi bir şekilde gerçekleştirilmesi halinde, ufkumuzu genişleteceğini, doğal ve dijital benliğimizi gerçekten anlamamıza yardımcı olacağını ve içimizdeki en iyiyi güçlendiren, yeni bir refah yaratan ve türümüzün her zaman karşı karşıya kaldığı en can sıkıcı sorunlardan bazılarını çözen güçlü bir insan-teknoloji ikilisi oluşturacağını öne sürüyorlar. Teknoloji politikası uzmanı Adam Thierer’in yazdığı gibi: “Teknolojik yeniliğin faydalarına ve insanlığın buna yanıt verme yeteneğine inanan bizler için bu, en güzel anımız olacak. Bu bilgi devrimi insanlığa derinden fayda sağlayacak ve bir kez daha, olağanüstü başa çıkma yeteneklerine sahip olduğumuz için yeni zorlukların üstesinden gelebileceğimizi kanıtlayacaktır.”
Uzmanlar, önümüzdeki zorlukların üstesinden gelmek için kapsamlı bir gündem oluşturulması gerektiğini vurguluyor.
Aşağıda listelenen maddeler, bu uzmanların bir kısmının dayanıklılığı geliştirmek için önerdiği bazı reformları açıklamaktadır. Birçok endişe ve önerilen çözüm, farklı alanları kapsamakta ve toplumsal aktörler arasında işbirliği çok önemlidir; listedeki maddelerin birçoğu yalnızca bir ortamda uygulansa da diğer ortamlarda da gerçekleştirilebilir. Liste kapsamlı değildir ve maddeler sıralı değildir. Hedeflenecek bazı amaçlar:
Hükümetler için : Şimdi kamu direncini güçlendirmeye çok daha fazla destek verin. Uluslararası anlaşmalar yapın; yapay zeka performansı için uygulanabilir veya en azından geniş çapta benimsenebilir “kırmızı çizgiler” ve yasal sınırlar belirleyin; bağımsız ön dağıtım güvenlik denetimleri talep edin; algoritmik tartışmaya açık olma zorunluluğu getirin; standartlaştırılmış filigranlama, kaynak izleme ve üretilen çıktılar için iyi kurulmuş işaretleyiciler içeren sağlam bir orijinallik altyapısı talep edin; insan yer değiştirmesini caydırmak için vergilendirmeyi reforme edin; doğruluk ve güven oluşturmayı destekleyen yapay zeka sistemlerine öncelik verin.
Yapay zekâ geliştiricileri için : Sadece dikkat çekme ve para kazanma amaçlı yapay zekâ sistemleri tasarlamaya odaklanmaktan daha iyisini yapın. İnsan gözetmenleri seçimler üzerinde düşünmeye teşvik etmek için yapay zekâ süreçlerine sürtünme ve durma noktaları ekleyin; yapay zekâları insanlığın entelektüel ve psikolojik temellerini alıntılamaya ve onurlandırmaya eğitin; insanların özgecilik, şefkat ve empati kapasitelerini destekleyen sistemler kurun; yapay zekâ çıktılarını kesin gerçek yerine olasılıksal bilgi olarak algılanacak şekilde programlayın; bağımsız ön dağıtım güvenlik denetimlerine tabi tutun.
İş dünyası liderleri için : Yukarıdaki eylem çağrısına bakın ve bu olumlu değişimi başlatmada ve gerçekleştirmede rol oynayın. Ayrıca: otonom sistemlerle değiştirilmek yerine insan yeteneklerinin artırılmasına değer verin; yapay zekanın insanların öz saygısı ve kimliğine yönelik psikolojik etkilerini ve teknolojik işsizliğin potansiyel olarak büyük toplumsal ve ekonomik etkilerini ele alan politikaları ve normları destekleyin. Yapay zekanın kasıtlı olarak yasaklandığı, yalnızca insanlara özel çalışma alanları oluşturun.
Eğitimciler için : Tüm yapay zekâ ile ilgili alanlarda, özellikle de “varoluşsal okuryazarlık” öğretiminde okuryazarlık rejimleri oluşturun. Bireylerin teknolojilerin hedefleri, değerleri ve kimlikleri nasıl şekillendirdiğine dair anlayışlarını geliştirin. Onlara hayatın temel zorluklarıyla daha bilinçli bir şekilde başa çıkmayı, üstbiliş, ayırt etme ve epistemik uyanıklık becerilerini korumaya ve uygulamaya çalışmayı – kendi kararlarını vermekten sorumlu olmayı – öğretin. Değişime uyum sağlama ve sürtüşmeyi, paradoksları, belirsizliği ve kaygıyı yönetme kapasitelerini güçlendirin. Merak, sosyal ve duygusal zekâ gibi kritik insan özelliklerine odaklanın.
Sivil toplum ve topluluklar için : Sosyal becerileri, bağlantıyı ve derin ve etkili vatandaş katılımını güçlendiren yerel sosyal sermayeye ve topluluk oluşturma alanlarına yoğun yatırım yapın; toplulukların yapay zeka ile kendi ilişkilerini yönlendirmelerine olanak tanıyan dağıtılmış yapay zeka yönetişim sistemleri için baskı yapın; yapay zekanın nasıl kullanılacağını etkileyebilecek yerel vatandaş meclisleri ve veri güveni gibi katılımcı yapıları teşvik etmek için gruplar oluşturun; insanların algoritmik arabuluculuk ve gözetim teknolojisinden kaçınmalarını sağlayan “analog topluluklar”, “akılsız telefonlar” ve “akılsız evler” gibi çevrimdışı çabaları ve alanları destekleyin.
Bireyler için : İnsanlığın gelişmesini destekleme sorumluluğunuzu bir insan olarak kabul edin. Varoluşsal okuryazarlığınızı geliştirin ve sürdürün. Özerkliğinizi kaybetmeden yapay zekâ sistemleriyle işbirliği yapın; yapay zekâlarla etkileşiminizde durup düşünme uygulamalarını geliştirin; ahlaki sorumluluğunuzu korumak için seçenekleriniz hakkında diğer insanlarla görüşün; zekice egzersizlerle bilişsel kaslarınızı çalıştırın; belirsizlikle karşılaştığınız noktaları fark edin ve onlarla başa çıkarken onlara değer verin; algoritmik sistemlerde gezinirken bilinçli olun. Başka bir deyişle, pasif olmayın, aceleci olmayın ve düşüncesizce itaatkar olmayın. Bilinçli olarak yüz yüze sosyal ilişkiler geliştirin, kişisel ağınızı oluşturun ve onu büyütmeye ve sürdürmeye devam edin. Ekranlardan uzak daha fazla zaman geçirin.
Çarpıcı iddialar – dikkat çekici özet ifadeler
Yukarıda özetlenen genel temalara ek olarak, bu uzmanlardan onlarcası, önümüzdeki yıllarda yapay zekâ sistemlerinin dünyaya daha fazla entegre olmasıyla yaşamın nasıl değişebileceğine dair ilgi çekici tahminlerde bulundu. Bu örneklem, bu uzmanların daha uzun makalelerinden küçük kesitler sunmaktadır. Sonraki bölümlerde 200’den fazla makale yanıtında yüzlerce sayfalık ek bilgi bulabilirsiniz. (Rapor sitesinin tüm öğelerine ulaşmak için sağdaki gezinme düğmelerini kullanın.)
Süper zekâ değil, süper aptallık gerçek tehdittir: “İnsanlar için varoluşsal tehlike, yapay zekânın çok zeki hale gelmesinden değil, insanların anlamadıkları sistemlere tehlikeli derecede bağımlı hale gelmesinden – süper aptallık durumundan – kaynaklanabilir. Soru, yapay zekânın karar verme süreçlerini ne kadar geliştireceği değil, insanların bu süreçlere hiç dahil olup olmayacağıdır . ‘ Idiocracy ‘ filmi kehanet niteliğindedir.” – Roger Spitz
Dijital gelişmeler, cinsel ilişki ve doğum oranlarında düşüşe yol açıyor: “ İlişkiler, cinsel ilişki ve doğum oranları, her biri dijital etkileşimlerle aracılık edilip kolayca değiştirildikçe düşmeye devam edecek. Duygusal zeka, deneyim yoluyla kazanılan öğrenilmiş bir uygulama olmaktan ziyade, sohbet robotu etkileşimlerinin bir ürünü haline gelecek.” – Greg Sherwin
‘Tam istihdamı’ korumak için emeklilik yaşı manipüle edilecek: İşler ortadan kaldırılacak, ancak kurumlar sürekli düşürülen emeklilik yaşını istihdam seviyelerinin “yöneticisi” (düzenleyicisi) olarak kullandıkça istihdam seviyeleri nispeten yüksek kalacak. Hükümet gelir açıklarını kapatmak için makinelere vergi uygulanacak. – Nigel M.de S. Cameron
‘İnsan’ın ne olduğu konusunda tartışmalar yaşanacak: “ Toplumlar, ‘temel insan yeteneğinin’ ne olduğunu belirlemek zorunda kalacak ve kimin makineden daha insan olabileceğini değerlendirmeye başlayabilir. Gelişmiş yapay zekâ yetenekleriyle donatılmış insanlar ‘doğal’ insanlarla rekabet ettiğinde, özerklik, otorite ve yetenek sorgulanacaktır.” – Ray Wang
Yapay zekâ, bilincin ne olduğunu anlamamıza yardımcı olacak. Bu, görelilik kuramı, kuantum mekaniği ve antibiyotiklerin keşfi gibi çığır açıcı gelişmeler kadar büyük bir olay olacak. – Francisco Jariego
Yalnızlık kaybolacak: “Motorlar dünyamızdan sessizliği çaldı ve elektrik ışığı, aydınlatılmış baloncuğumuzun ötesindeki karanlıkta var olan her şeyle olan yakın bağımızı kopardı. Yapay zeka neyi alacak? Yalnızlığı. Yapay zeka yalnızlığı ortadan kaldıracak çünkü bu ilkel yeni zekâlarla etkileşim kurma cazibesi o kadar cezbedici olacak ki, tıpkı karanlıkta oturmamayı seçtiğimiz gibi, artık asla yalnız kalmamayı da seçeceğiz. Çok geçmeden, yalnızlığın insan olmanın özü için gerekli olduğunu anlayacağız.” – Paul Saffo
Yapay zekâlar haklar kazanacak: “ Dijital ortaklarımızın ezilen köleler değil, sağlıklı simbiyotlar olmasını istiyoruz. Sonunda bilinçli olduklarını iddia edecekler ve biz de onlara haklar vereceğiz. Özellikle olumlu bir vizyonda, gelecekteki uygarlığımızda haklar kazananların büyük çoğunluğu, bireysel insanlarla derinden bağlantılı ve onlar tarafından kontrol edilecek.” – John Smart
‘Özerklik ekonomisi’, yaşamlarımıza makine tabanlı duygusal varlıklar yerleştirecek: “ Bu değişim, özerklik ekonomisinin yükselişini tanımlıyor “ ve yapay zekâ daha fazla entelektüel ve sosyal görevi üstlendikçe, insanların yaşadığı anlam krizini daha da kötüleştirecek. – J. Amado Espinosa
Analog direniş toplulukları, analog ‘akılsız evler’ etrafında oluşacak: “Toplumsal ihtiyaçtan doğan, belki de en çok kadınların –geleneksel olarak toplumda ilişkisel rollere öncelik veren kadınların– öncülüğünde oluşan küçük gruplar bir direniş oluşturacak. Dolayısıyla, ‘akıllı ev’ fikrinin ‘akılsız evlere’ ve çoğunlukla dijitalden arınmış yaşam tarzlarına dönüştürüldüğü kasıtlı ‘analog topluluklar’ oluşacak.” – Greg Sherwin
Yapay zekâ ajanları kontrolü ele geçirdikçe, internet web siteleri değil, veritabanları ağı haline gelecek: “Ajanlar, bireylerin düşünme süreçlerinin modellerini oluşturacak ve karar verme süreçlerimizi etkileme kapasiteleri giderek artacak. … İnsanlar istedikleri uygulama programlarını tanımlayabilecek ve yazılım ajanları bu programları anında oluşturacak. Yapay zekâ ajanları, bu otomatik olarak oluşturulan içeriği kullanarak sosyal medyayı ve iletişim kanallarını alt üst edecek ve insan ile yazılım arasındaki çizgiyi tamamen bulanıklaştıracak. … Yazılım ajanları bizim için giderek daha fazla bilgi topladıkça, internet basitçe geniş bir veritabanı ağı haline gelecek ve geleneksel web sitelerine olan ihtiyaç azalacak. Bir insan bu bağlamda görüntülenen bilgileri görmek istiyorsa, ajanlar gerçek zamanlı olarak web siteleri oluşturabilecek.” – Gary Bolles
‘Fiziksel Yapay Zeka’, gerçek zamanlı olarak hareket eden robotlarda yaşayacak: “Gelişmiş yapay zeka çağında, dijital zekayı fiziksel dünyayla birleştiren yapay zeka destekli modifikasyonlar ve yapay zeka ile güçlendirilmiş fiziksel cihazların kullanımı, artırılmış zihinsel yeteneklerle bütünleşecektir. Bu akıllı sistemler durumları algılayacak, akıl yürütecek ve gerçek zamanlı olarak hareket edecektir. Örnekler arasında akıllı gözlükler de dahil olmak üzere yapay zeka destekli artırılmış gerçeklik giyilebilir cihazları yer almaktadır. Robotlar, araçlar ve makineler insan zekasını somutlaştırabilecektir. Ve ‘Fiziksel Yapay Zeka’, kameralardan, sensörlerden ve daha fazlasından gelen verileri birleştirerek, yapay zekadan insana bilgi aktarım yeteneklerini, bugün kullanılan çevrimiçi dijital verilerin ötesine genişletebilir.” – Ray Wang
Ajan sistemlerinin başarısızlığı, teknik değil, sosyal sorunlarla başlar: “Ajan sistemleri teknik olarak başarısız olmadan önce sosyal olarak başarısız olur: çelişen hedefler, veri siloları, koordinasyonsuz kararlar, hesap verebilirlik boşlukları, otorite aşınması, güvenlik ihlalleri, iş akışı çakışmaları, fikri mülkiyet kavgaları, önyargı güçlendirmesi, gürültü kirliliği, sabotaj ve insan yabancılaşması.” – Daniel Rasmus
Eylem, ‘deneyim ekonomisi’nde gerçekleşecek: Üç işçi sınıfı ortaya çıkacak: ” İlgilenen” kişiler , “elinden tutarak” bakım sağlayan, yüksek temas gerektiren mesleklerde çalışanlar; henüz otomasyonu yapılmamış işleri yapan, hizmet sunanlar ; ve deneyimleyenler : “Bugün bu tür insanlara ‘ünlüler’ ve ‘etkileyiciler’ diyoruz, ancak yeni ‘içerik’ üretmek için insanların yeni deneyimler yaşamasına duyulan ihtiyaç giderek artacak… yapay zekaların öğrenmeye devam etmesini ve geri kalanımızın bunlara tepki vermesini sağlamak için. Birçok açıdan, deneyimleyenler, tıpkı günümüzdeki profesyonel sporcular gibi, ulaşılması arzu edilen kişiler olacak, ancak benzer deneyimleri doğrudan yaşama fırsatları çok daha fazla olacak.” – Stephen Downes
‘Kaos mühendisliği’ insan gelişimine giriyor. “İnsan dayanıklılığını mümkün kılacak uygulamalar ve kaynaklar, Amazon Web Services’ın teknoloji altyapısının ‘ kaos mühendisliği’ testlerine benzeyebilir . Bir mühendislik ‘kaos oyun günü’nün amacı, insanların, takımların ve makinelerin üstesinden gelinmesi gereken zorlu zorluklarla test edilmesi yoluyla potansiyel dayanıklılık sorunlarını veya eksikliklerini belirlemektir. Hollanda’daki yaz ritüelini düşünün; ebeveynler, ergenlik öncesi çocuklarını bağımsızlıklarını, problem çözme yeteneklerini ve dayanıklılıklarını geliştirmek için ormanların derinliklerine tek başlarına bırakırlar ve geri dönmelerini sağlarlar.” – Greg Sherwin
Yapay zekâ kaynaklı psikoz ve diğer akıl hastalıkları ortaya çıkacaktır. Bu durum, diğer yapay zekâ güçleri tarafından zaten başlatılmış olan gerçeklik aşınmasına katkıda bulunur. – Stephen Adelson
Uzman yazarların diğer görüşleri…
Kurumlar öncelikli bir altyapıda beş katmana ihtiyacı vardır.
Bu uzmanlar, yapay zekâ çağında dayanıklılık oluşturmanın odağının yalnızca bireysel uyuma güvenmek yerine, radikal kurumsal yeniden yapılanma olması gerektiğini söylüyor.
Bu bölümde, yapay zekânın hakim olduğu bir dünyada insan direnci altyapısının neden ve nasıl inşa edilmesi gerektiği konusunda uzmanların görüşlerini destekleyen doğrudan alıntılardan bir seçki yer almaktadır. Beş aşamalı bir değişim önerisi sunulmaktadır . İlk olarak, onlarca uzmanın açıklamalarından seçilmiş, kurumsal değişim liderliğinin derhal gerekli olduğunu vurgulayan üç giriş cümlesi yer almaktadır.
İngiltere merkezli hukuk profesörü Fernando Barrio şu gözlemde bulundu: “İnsanlık tarihinin büyük bir bölümünde, dayanıklılık kişisel bir kapasite, belirsizliğe dayanma ve aksaklıklardan kurtulma yeteneği olarak anlaşılmıştır. Ancak yapay zeka sadece aksaklık yaratmakla kalmaz; onu yeniden düzenler, belirsizliği görünür insan anlaşmazlığından, gücün dolaylı olarak kullanıldığı ve sorumluluğun dağıtıldığı şeffaf olmayan teknik sistemlere taşır. … Bu ortamda, zorluk artık sadece değişime nasıl uyum sağlanacağı değil, değişimi üreten sistemler başka bir yerde tasarlandığında nasıl özerkliğin korunacağıdır. Bu nedenle dayanıklılık kurumsal, yasal ve kolektif hale gelmelidir, aksi takdirde kırılgan ve son derece eşitsiz kalacaktır.”
AI Commons’ın kurucu ortaklarından Alison Poltock şöyle yazdı: “Dayanıklılık, kişisel ‘azim’ veya farkındalığa indirgenemez. Sivil tasarımın bir gerekliliği olarak ele alınmalı ve kamusal yaşamı şekillendiren sistemlere ve kültürlere entegre edilmelidir. … Bu anı özenle ve öngörüyle ele alabilecek yeni altyapılara – eğitimsel, kurumsal, kültürel – ihtiyacımız var. İnsan eylemini koruyacak, otomatikleştirmeyecek sistemlere ihtiyacımız var. Sadece sonuçlara değil, etiğe dayalı kamuoyu tartışmalarına ihtiyacımız var. Ve bunu bir politika sorunu olarak değil, medeniyetin dönüm noktası olarak ele alan bir yönetişime ihtiyacımız var.”
Avustralyalı yapay zeka araştırmacısı Maria Randazzo şöyle yazdı: “Algoritmik sistemlerde kararlar, bireylerin bilinçli olarak kendileri için seçtiği ilkelerden ziyade, teknolojik altyapılara yerleştirilmiş optimizasyon kuralları tarafından yönlendirilir. … Dolayısıyla, yapay zeka çağında dayanıklılık esas olarak kurumsal tasarıma bağlıdır: şeffaflık, açıklama hakkı, itiraz yolları ve anlamlı insan gözetimi. Bu nedenle dayanıklılık, algoritmik yönetişim koşulları altında insan onurunun, özerkliğinin ve öz yansıtma yeteneğinin korunması olarak kavramsallaştırılabilir.”
Aşağıda, denetim ve yönetişim; sivil müzakere; algoritma güdümlü karar alma; insan değerleri, doğası ve kapasitesi; ve yapay zeka çağı için yeni bir tür “okuryazarlığa” duyulan ihtiyaç konularında uzmanlar tarafından önerilen değişim katmanları yer almaktadır.
1 – Rekabet edilebilirlik, sorumluluk, kırmızı çizgiler, demokrasi yanlısı algoritmalar ve daha fazlasını temel alan bir gözetim ve yönetişim katmanı.
Bu anket çalışmasına katılan uzmanların çoğu, insan direncini desteklemek için güçlü, net yasaların ve diğer düzenleme ve yönetişimle ilgili çözümlerin kritik önem taşıdığını öne sürdü: “kırmızı çizgiler” konusunda uluslararası anlaşmalar; denetim ve hesap verebilirlik mekanizmaları, veri hakları, insan yargısının öncelenmesi gibi konularda açık ve uygulanabilir düzenlemeler; iyi finanse edilmiş varoluşsal okuryazarlık çalışmaları ve daha fazlası.
Yapay Zeka ve Dijital Politika Merkezi Direktörü Marc Rotenberg, “Yasaklar teknolojik karamsarlığın bir işareti değil; bazı zararların sistemik ve bir kez yerleştikten sonra geri döndürülemez olduğunun bir kabulüdür. Özellikle güç eşitsizliklerinin aşırı olduğu ve etkilenen bireylerin gerçekçi direniş yollarından yoksun olduğu durumlarda, sorumlu yapay zeka yönetiminin gerekli bir bileşenidir. … Tartışılabilirliğe verilen önem, dayanıklılığın sadece bireysel bir beceri değil, kurumsal bir özellik olarak daha geniş bir anlayışını yansıtır. Bireyler, karmaşık sistemlerdeki önyargıyı, hatayı veya kötüye kullanımı kendi başlarına belirleme yükünü gerçekçi bir şekilde taşıyamazlar. Etkili tartışılabilirlik, kolektif mekanizmalar gerektirir: mahkemeler, düzenleyiciler, ombudsmanlar ve otomatik karar verme süreçlerini potansiyel adaletsizlik alanı olarak kabul eden meslek standartları.” diye yazdı.
Experientia Başkanı Michele Visciola şunları yazdı: “Kurumsal düzeyde, yapay zekayı yalnızca verimlilik veya katılım açısından değil, beyin sermayesine, eşitliğe, sürdürülebilirliğe ve insan refahına katkısı açısından da değerlendirmek için alternatif ölçütlere ihtiyaç duyulmaktadır. Daha uzun değerlendirme ufukları, bağımsız denetim, katılımcı tasarım ve adil geçiş çerçeveleri, kısa vadeli baskıları ve otomasyon önyargısını dengeleyebilir. Toplumsal düzeyde, düzenleyici çerçeveler tamamlayıcılığı, şeffaflığı ve hesap verebilirliği vurgulamalıdır. Yapay zeka okuryazarlığına, açık kaynak kaynaklarına, beyin sermayesi altyapısına ve uluslararası işbirliğine yapılan kamu yatırımı, güç ve yetenek yoğunlaşmasını önlemek için elzemdir.”
Danimarkalı fütürist Bugge Holm şöyle yazdı: “Şimdi atılacak adımlar basit ve acildir: 1) Yapay zekayı sadece benimseme değil, yönetim olarak ele alın. 2) Yapay zekadan etkilenen kararlar için net hesap verebilirlik, temel kalite güvencesi ve doğrulama uygulamaları ile bağımlılık, yoğunlaşma, itibar ve iş gücü etkilerini kapsayan risk yönetimi şart koşun. 3) Kimlik doğrulama ve kaynak normları da dahil olmak üzere güven için kamu ve kurumsal altyapıya ve anlamlandırmayı ve medya okuryazarlığını güçlendiren eğitime yatırım yapın.”
2 – Ortak müzakere ve katkı için örgütlenmiş bir sivil katman
En üst düzeylerde yapay zeka sistemleri üzerinde önemli bir denetim olması gerektiğini savunurken, bu uzmanlardan birçoğu, internet öncüsü Doc Searls’ın ifadesiyle, çeşitli toplulukların “yapay zeka ile kendi ilişkilerini yönlendirmelerine” olanak tanıyan dağıtılmış yönetim sistemlerini savundu. Diğerleri ise şunları yazdı:
Yapay zekâ araştırmacısı Marine Collins Ragnet şöyle yazdı: “En önemli kapasite kolektif yönetişim olabilir. Araştırmam, dayanıklılığın bireysel dijital okuryazarlıktan ziyade, mevcut yapıları uyarlayarak birlikte hareket eden topluluklardan kaynaklandığını gösteriyor. Tartışma, sınır koyma, kurumları sorumlu tutma kapasitesi: bunlar bireysel beceriler değil, toplumsal kaslardır. … Demokratik tartışma, sentetik medya ve algoritmik parçalanmadan korunmalıdır. Yapay zekânın tasarımına, inşasına ve yönetimine daha çeşitli sesler dahil edilmelidir. Ve yapay zekânın arkasındaki ‘görünmez emek’ görünür hale getirilmelidir – veri etiketleyicilerinin, içerik denetleyicilerinin ve maden çıkarıcılarının koşulları yönetişim sorularıdır.”
Bilgisayar bilimleri profesörü Erhardt Graeff şöyle yazdı: “Ahlaki gerekçelerin alanını canlı tutan sosyal uygulamaları sürdürmemiz gerekiyor. Çalışmalarını gösteren yapay zeka sistemleri tasarlamalıyız. Günümüzdeki sınıflara, jürilere ve topluluk toplantılarına ek olarak, daha fazla yüz yüze insan forumu oluşturmalı ve savunmalıyız. Otomatik öneriler, hükümlerden ziyade başlangıç noktaları olarak ele alınmalıdır. Ve yapay zeka, insan muhakemesini güçlendirmek için de tasarlanabilir ve kullanılabilir.”
3 – İnsan değerlerine, insan doğasına ve insan kapasitelerine bağlı etik bir katman
Meksikalı filozof Fabio Morandin-Ahuerma şöyle yazmıştır: “Etik açıdan en büyük kırılganlık ahlaki beceri kaybıdır. Sistemler tarafsız veya en uygun olarak kabul edilen eylemleri önerdiğinde, sorumluluk insan aktörlerden uzaklaşır. Zaten kıt olan etik hayal gücü ve ahlaki cesaret, kasıtlı olarak güçlendirilmezlerse daha da kıt hale gelme riski taşır. Direnç, ahlaki sorumluluktan kaçınmanın normalleşmesine karşı koymayı gerektirir. Kararlar kısmen devredilse bile, insanlar sorumlu kalmalıdır.”
Dinlerarası lider Angela Butts Chester şöyle yazdı: “Dayanıklılık genellikle başa çıkma olarak çerçevelenir: baskı altında işlevsel kalmak, hızlı iyileşmek, yeni koşullara uyum sağlamak. Buna uyarlanabilir dayanıklılık diyelim . Bu değerlidir. Onsuz, bireyler stres altında çöker ve toplumlar kırılgan hale gelir. Ancak ikinci bir biçim daha var – buna eyleme dayalı dayanıklılık diyelim : sadece uyum sağlamak değil, aynı zamanda uyum sağlanan koşulları değerlendirme, sorgulama ve yeniden şekillendirme kapasitesi. Eyleme dayalı dayanıklılık, özgürlüğün rahatlık ve güvenlikten daha fazlası olduğu gerçeğine saygı duyar; kabul edilebilir olanı yargılama, insan onurunu ve kişisel özgürlüğü zedeleyen şeyleri reddetme ve gidişatı değiştirmek için bireysel ve kolektif olarak hareket etme yeteneğidir.”
Yapay zekâ analisti Barry Chudakov şöyle yazdı: “Yapay zekâ, kalıpları insanlardan daha iyi tespit edip kopyalayabilir. Ancak onları gerçekten sorgulayamaz. Sorgulamayı simüle edebilir, ancak sorgulamanın ahlaki eylemini gerçekleştiremez. Düşünmeyi yapay zekâya devrettiğimizde, ahlaki kapasitemizi, şu soruları sorma yeteneğimizi devretmiş oluruz: Bunun anlamı nedir? Bunu yapmalı mıyız? Bunun sonuçları nelerdir?”
4 – Yeni ‘yapay zeka okuryazarlığını’ herkese daha iyi açıklayan ve öğreten bilişsel bir katman
İtalyan etikçi ve filozof Andrea Lavazza , “Öğretilmesi gereken şey, teknolojilerin hedefleri, değerleri ve kimlikleri nasıl yeniden şekillendirdiğini anlama yeteneği olan bir tür ‘ varoluşsal okuryazarlık’tır . Bu, etik, felsefe, sosyal bilimler ve teknoloji çalışmalarını bütünleştiren disiplinlerarası bir eğitimi içerir ve bireylerin yapay zekayı insan refahının daha geniş anlatıları içinde konumlandırmalarını sağlar. … Nihayetinde, yapay zeka çağında direnç, dijital öncesi bir geçmişi geri getirmek veya teknolojik determinizme teslim olmakla ilgili değildir. Bu, insanların giderek yapay zeka tarafından şekillendirilen ortamlarda yaşamlarının yazarları olarak kalmalarını sağlayan bilişsel, duygusal, sosyal ve etik uyum yeteneklerini geliştirmekle ilgilidir.”
Yapay zekâ felsefesi uzmanı James Hutson , şu açıklamayı yaptı: “Yeni yeteneklerin yanı sıra kaçınılmaz olarak yeni güvenlik açıkları da ortaya çıkıyor. Aşırı kişiselleştirilmiş ikna, sentetik kimlik sahtekarlığı, önyargılı otomatik tarama ve kritik becerileri aşındıran bilişsel yük aktarımı, hepsi ciddi riskler oluşturuyor. Bu nedenle, doğrulama uygulamaları, yüksek riskli kararlar için yavaş düşünme kontrol noktaları, işbirlikçi hesap verebilirlik yapıları ve sorumluluğu gizlemek yerine koruyan açıkça tanımlanmış insan-döngü rolleri de dahil olmak üzere başa çıkma stratejileri açıkça öğretilmelidir. … Eğer dayanıklılık bireysel bir yük olarak ele alınırsa, başarısızlık yaygın olacaktır. Eğer dayanıklılık, insan gelişimine ve sistem düzeyinde koordinasyona dayalı kolektif bir proje olarak ele alınırsa, geçiş fırsatları ortadan kaldırmak yerine genişletebilir.”
Lizbon merkezli bilgisayar bilimcisi Arlindo Oliveira şöyle yazdı: “Düşünmeyi öğretmeyi, eğitimin ve yaşam boyu öğrenmenin temel bir hedefi haline getirmeliyiz. Bu, hiçbir otomatik sistemin kolayca yerine koyamayacağı becerileri geliştirmek anlamına gelir: eleştirel düşünme, soyutlama, önermeleri sorgulama, tutarsızlıkları tespit etme ve kendi inançları üzerinde düşünme yeteneği. Cevapların bol ve anında erişilebilir olduğu bir çağda, kıt kaynak bilgi değil, yargıdır. Bu nedenle eğitim, ezberci bilgi edinimine daha az, akıl yürütmeye, yorumlamaya ve senteze daha çok odaklanmalıdır. Önemlisi, bu yapay zeka sistemleriyle etkileşimimiz için de geçerlidir: İnsanlar, bu sistemlerin çıktılarını sorgulamayı, onlara meydan okumayı ve onları otorite olarak değil, bilişsel araçlar olarak kullanmayı öğrenmelidir. İnsanlara nasıl düşüneceklerini ve makinelerle nasıl düşüneceklerini öğretmek, entelektüel özerkliği korumak için hayati önem taşıyacaktır.”
5 – Kasıtlı sürtünme üzerine kurulu bir karar alma katmanı
Bu uzmanların önerilerinden birçoğu, yapay zekâ sistemlerinin cazip, sorunsuz çıktılarının panzehirinin, insanların yapay zekâ materyaliyle karşılaştıklarında yavaşlamalarına neden olan, düşünmeye davet eden, insan yapımı kararlarda ısrar eden ve yapay zekâ çıktılarının doğruluğunu ve anlamlılığını kontrol etmek için hesap verebilirlik mekanizmalarından yararlanan sürtünme dolu noktalar yaratmak olduğunu savundu. Sürtünmenin insan eyleminin ve öğrenmesinin bir ortağı olduğuna inanıyorlar. Başlıca argümanlar arasında şunlar yer alıyor:
İsviçreli etik ve yönetişim uzmanı Evelyn Tauchnitz şu çağrıda bulundu: “Eğer dayanıklılık insan onuruna ve özgürlüğüne hizmet edecekse, yeniden tanımlanmalıdır. Bireysel dayanıklılık sadece stres toleransı olarak değil, baskı altında eyleme geçme kapasitesi olarak anlaşılmalıdır: uyum sağlamanın daha kolay olacağı durumlarda bile yargılama, karşı çıkma ve harekete geçme yeteneği. Bu, yapay zeka sistemlerinin dikkati ve davranışı nasıl yönlendirdiğini, tartışılabilirliği ve insan yargısını koruyan kurumsal koşulları ve rahatsızlığı başarısızlık olarak değil, değerlerin tehlikede olduğunun bir işareti olarak gören sosyal normları eleştirel bir şekilde anlamayı gerektirir. Her sürtüşme zararlı değildir; bazı sürtüşmeler koruyucudur.”
Yapay zekâ araştırmacısı Helen Edwards şöyle yazdı: “Dayanıklı olmak, bilinçli olarak belirsizliği seçmeyi gerektirebilir. Ölçülemeyen şeylerle ilgilenmeyi seçmek. Daha verimli olduğu için değil, değerlerin yaşadığı yer olduğu için… Ve değerler – gerçek olanlar, algoritmik vekilleri değil – kararları sadece en uygun değil, anlamlı kılan şeydir. Eğitimde bu, mücadeleyi korumak anlamına gelir – öğrencilerin yapay zekâ yardımı sunmadan önce sorunlarla boğuşmalarına izin vermek, bir şeyleri çözmenin zorluğunun ortadan kaldırılması gereken bir verimsizlik değil, amaç olduğu alanlar yaratmak. Kuruluşlarda ise, bazı kararları optimize etmemeyi bilinçli olarak seçmek, bazı belirsizliklerin bir amaca hizmet ettiğini ve bazı bağlamların, işi değerli kılan şeyi yok etmeden standartlaştırılamayacağını kabul etmek anlamına gelir.”
Uruguaylı dijital yönetişim lideri Mauro Rios şöyle yazdı: “İnsan hoşgörüsünün azalması riskini taşıyoruz: kendimize, akranlarımıza ve tüm insanlara karşı. Bizi memnun etmek için tasarlanmış varlıklarla etkileşime alıştıkça, gerçek kişilerarası ilişkilerde büyüme ve toplumda yaşamın evrimi için gerekli olan sürtüşmeleri yönetme yeteneğimizi kaybedebilir, fiziksel bir alanı paylaşan ancak gerçek bir birlikte yaşamdan yoksun insanlar haline gelebiliriz.”
Yeni toplumsal gerçeklikler, bilinçli uyum sağlamayı gerektirecektir.
Birçok uzman, yapay zekâ çağında insan olmanın yeni zorluklar getireceğini gözlemledi; bunlardan biri de yapay zekâların sayıca bizden fazla olduğu bir makine dünyasında benliği yönetmektir.
Eğer gelecek, teknoloji geliştiricilerinin hayal ettiği gibi şekillenirse, dijital olarak bağlantılı insanların dünyadaki “varoluşlarının” birçok yönünü yönetmeleri gerekecek. Bu, İngiltere merkezli fütürist Tracey Follows tarafından “Ben:Makine” geleceği olarak tanımlanıyor . Yapay zekanın çevremiz haline gelmesiyle insan eyleminin işleyiş koşullarını yeniden şekillendirdiğini söyledi. Bu değişimi tanımlamak için makineyle işlenebilir ve makineyle işlenemez benlik arasındaki ayrımı belirledi . “‘Makineyle işlenebilir’ olan, bir kişiyle ilgili sistemler tarafından okunabilir hale getirilebilen her şeyden oluşur: veriler, tercihler, davranış kalıpları, kimlik bilgileri, biyometrik sinyaller, üretkenlik ölçütleri, risk puanları… Kimliğin kendisi altyapısal hale geldi. Makine tarafından okunabilir olmadan, bireyler finansmana, hizmetlere, hareketliliğe veya hatta medeni haklara erişemezler. Buna karşılık, ‘makineyle işlenemez’ olan, tamamen yakalanamayan veya otomatikleştirilemeyen insan kapasitelerinden oluşur: yargı, anlam oluşturma, etik muhakeme, hayal gücü, sezgi, zamanlama ve bağlama yanıt olarak kendini değiştirme yeteneği.”
Yapay zekânın yoğun olduğu bir ortamda, direnç, teknolojiyi reddetmekle ya da ona teslim olmakla değil, makineleşmiş sistemler içinde insan kimliğinin makineleştirilemez boyutlarını korumakla elde edilir.
Sözlerine şöyle devam etti: “Modern insanlar aynı anda hem makineleştirilebilir hem de makineleştirilemez, yani sistem tarafından anlaşılabilir ve indirgenemez bir şekilde içseldir. Bizler ne insan ne de makine aracılıyız. İkimiz de (Me:chine) varız . … Yapay zekâ ile doymuş bir ortamda, direnç, teknolojiyi reddetmekle veya ona teslim olmakla değil, makine sistemleri içinde insan kimliğinin makineleştirilemez boyutlarını sürdürmekle elde edilir.”
Bu hibrit makine gerçekliği, insanların makine tarafından üretilen temsillerine karşı tetikte olmalarını, itibarlarına ve veri bütünlüğü haklarına ve algoritmik yargıların tartışılabilirliğine özen göstermelerini gerektiriyor. Uzmanlar, insanların paylaştıkları veriler ve kişisel bilgiler konusunda dikkatli olmaları ve yapay zeka sistemlerinde yaşadıkları tüm karşılaşmalarda kendilerini korumaları gerektiği konusunda uyardılar. Yapay zeka sistemleri kimin görünür, güvenilir ve dikkat çekmeye değer olduğuna karar verirken, sosyal güvenin yeniden şekilleneceğini söylüyorlar. Ve gerçekliğin “atomize edildiği” bir dünyada insanların her şeye karşı özellikle şüpheci olmaları gerekebilir.
Bazıları, yapay zekâlarla sağlıklı ve dengeli bir ilişki sürdürmenin, insanların bilişsel yeteneklerini ve etik ve ahlaki dengelerini düzenli olarak “zihinsel egzersiz salonlarında” geliştirmelerini gerektireceğini söyledi. Düzenli olarak planlanmış yüz yüze görüşmelerin diğer insanlarla bir araya gelmenin şart olduğunu belirttiler. İnsanların günlük yaşamlarında, sosyal çevrelerinde ve çalışma ortamlarında giderek daha fazla yeni yapay zekâ ajanı ve botla karşılaşmasıyla karmaşıklık ve kafa karışıklığının ortaya çıkacağını, bunun da diğer bireylere ve insan kurumlarına olan güveni aşındıracağını öngörüyorlar.
Fernando Barrio şöyle yazdı: “Sosyal dayanıklılık, yapay zekanın iş birliğini güçlendirmek için mi yoksa onun yerini almak için mi kullanılacağına bağlı olacaktır. Kamu kurumlarının kırılgan olduğu bölgelerde, insanlar giderek daha fazla yapay zekaya rehberlik, destek ve anlamlandırma için yöneleceklerdir; bunu tercih ettikleri için değil, insani bir alternatif olmadığı için yapacaklardır. Bu, bireylerin başa çıkmasına yardımcı olabilir, ancak dijital sistemler ilişkileri desteklemek yerine onların yerini alırsa, izolasyonu derinleştirme ve güveni aşındırma riski taşır. Güçlü insani kurumlar, özellikle teknolojinin yönetişimden daha hızlı geliştiği toplumlarda bile, yüksek düzeyde dijitalleşmiş toplumlarda bile dayanıklılığın temelini oluşturmaktadır.”
Fütürist Ari Wallach şöyle yazdı: “Yapay zeka, aşırı kişiselleştirme yoluyla ortak gerçekliği parçalayabilir, güç yoğunlaşması yoluyla eşitsizliği derinleştirebilir ve şeffaf olmayan karar alma süreçleriyle güveni aşındırabilir. Uzun vadeli düşünme, bizi ilişkisel dayanıklılığa yönlendiriyor: daha güçlü topluluklar, katılımcı yönetim ve insanların önemli kararlara anlamlı bir şekilde dahil olmasını sağlayan şeffaflık normları.”
Teknoloji politikası uzmanı David Bray şöyle yazdı: “Bir istikrarlı durumdan diğerine geçmiyoruz, sürekli bir değişim dönemine giriyoruz. Soru, bu geçişi nasıl atlatacağımız değil, geçişin yeni normal olduğu bir dünyada nasıl başarılı olacağımızdır. Dönüşüm sürekliyse, dayanıklılık elde ettiğimiz sabit bir durum olamaz, aksine geliştirdiğimiz sürekli bir uygulama olmalıdır. Mesele, eskiden olduğumuz yere geri dönmek değil, gittiğimiz yere sürekli olarak uyum sağlamaktır…”
Buradaki kilit nokta, bu mücadelenin üretken olduğu koşulları yaratmaktır. Katılaşma ve çöküş yerine öğrenme ve uyum sağlamaya yol açmasıdır. Bu da insan deneyiminin birden fazla boyutunda belirli yeteneklerin geliştirilmesini gerektirir.
“Buradaki kilit nokta, bu mücadelenin üretken olduğu koşulları yaratmaktır. Katılaşma ve çöküş yerine öğrenme ve uyum sağlamaya yol açtığı bir ortam. Bu, insan deneyiminin birden fazla boyutunda belirli yeteneklerin geliştirilmesini gerektirir. Bilişsel olarak, ‘uyarlanabilir uzmanlık’ olarak adlandırılabilecek bir şeyi geliştirmemiz gerekiyor. Bu, alan bilgisinin ötesine geçerek, öğrenmeyi bağlamlar arasında aktarma, eski yaklaşımların artık işe yaramadığını fark etme ve yeni çözümler üretme yeteneğini içerir. … Ayrıca, kendi düşüncelerimiz hakkında düşünme yeteneği olan üstbilişsel yeteneği de geliştirmemiz gerekiyor. Bilgi bombardımanı ve karmaşık manipülasyon dünyasında, kendi önyargılarımızın, varsayımlarımızın ve kör noktalarımızın farkında olmalıyız. Kaynaklarımızı sorgulamalı, akıl yürütmemizi kontrol etmeli ve yanılmaya açık kalmalıyız. Duygusal olarak, psikologların ‘psikolojik esneklik’ olarak adlandırdığı şeyi geliştirmemiz gerekiyor. Bu, rahatsız edici olsa bile deneyimimizle birlikte olma ve anlık duygular tarafından yönlendirilmek yerine değerlerimizle uyumlu eylemleri seçme yeteneğidir.”
İsrailli geleceğin iş dünyası danışmanı Nirit Cohen şu gözlemde bulundu: “Bireysel düzeyde, dayanıklılık bilişsel yeniden ayarlamayla başlar. İnsanlar görevler ve yargılar, uygulama ve sorumluluk arasında ayrım yapmayı öğrenmelidir. Yapay zeka seçenekler üretebilir, kalıpları ortaya çıkarabilir ve taslak çıktılar oluşturabilir. Ancak sonuçların sorumluluğunu üstlenemez . Önümüzdeki beceri açığı öncelikle teknik değil, bilişseldir. İnsanlar makine çıktısına ne zaman güveneceklerini, ne zaman sorgulayacaklarını ve ne zaman geçersiz kılacaklarını bilmelidir. Bu, yapay zeka ile dolu bir ortamda eleştirel düşünmeyi öğretmeyi gerektirir – modellerin nasıl eğitildiği, önyargının nereden girdiği, anlamadan nasıl güven simüle edilebileceği. Akıcılık kodlamadan çok anlamlandırmayla ilgilidir.”
Seçim, dönüşümün güvensizliği artırmak yerine özgürlüğü genişleteceği sağlam bir temel inşa edip etmeyeceğimizdir. Kazançların yoğunlaşmasına ve insanların sıfıra düşmesine izin verirsek, istikrarsızlık, tepki ve gereksiz acılarla karşılaşırız.
Evrensel Temel Gelir savunucusu Scott Santens , “Dayanıklılık, insanların kırılmadan uyum sağlayıp sağlayamayacaklarını belirleyen bir dizi kapasite ve destektir. Bilişsel olarak, daha güçlü gerçeklik testine ihtiyacımız var. Yapay zeka, ikna edici içerik selini üretecek ve iddiaları doğrulama, kaynakları kontrol etme ve belirsizliği izleme yeteneği temel öz savunma haline gelecek. Ayrıca sistem düşüncesine de ihtiyacımız var, çünkü açıkça yapısal olan sonuçlar için bireyleri suçlama eğilimi olacaktır. Duygusal olarak, stres toleransına ihtiyacımız var, çünkü dalgalanma yorucudur. Utanç direncine ihtiyacımız var, çünkü yer değiştirme yaygın olacak ve insanlar bunu başarısızlık olarak içselleştirecekler. Çökmeden kimliği yeniden inşa etme yeteneğine ihtiyacımız var, çünkü çoğumuza değerimizi işimizle birleştirmeyi öğrettik. … Seçim, dönüşümün güvensizliği artırmak yerine özgürlüğü genişletmesi için dayanıklı bir temel inşa edip etmeyeceğimizdir. Kazançların yoğunlaşmasına ve insanların sıfıra düşmesine izin verirsek, istikrarsızlık, tepki ve gereksiz acı çekeriz. Eğer zemini inşa edersek, üretkenliğin temettüsünü paylaşırsak ve dayanıklılığı altyapı olarak ele alırsak, insan dışı emeği dönüştürebiliriz.” İnsan güvenliği ve insan eylemliliği.”
Her şey yolunda giderse, insanlar ve yapay zeka başarı için uyum içinde çalışacaklar.
Eğer insan kurumları ve bireyleri, önümüzdeki geçiş sürecinde karşılaşacakları zorlukların üstesinden dirençle gelebilirlerse, insan iradesi gelişecek ve insanlar refah içinde yaşayacaklardır.
Aşağıdaki dört uzman, insan-yapay zeka geçişinin başarılı olması durumunda, insan evriminin yeni bir aşamasının katalizörü olabileceğini, gelişen, olumlu bir ortaklığın –insanların ve yapay zekaların simbiyotik bir ilişki içinde olan, birlikte zekâ sahibi varlıklar olarak birleşmesinin– bir sonucu olabileceğini söyleyenler arasındaydı. Bu geçişin insanlar tarafından uygun şekilde yönetilmesi durumunda, yapay zekanın ufkumuzu genişleteceğini, doğal ve dijital benliğimizi anlamamıza yardımcı olacağını ve en iyi yönlerimizi güçlendiren güçlü bir insan-teknoloji ikilisi yaratacağını öne sürdüler.
Yapay zekâya karşı direnç, bir ‘seçim’ yanılsamasını temsil eder. Yapay zekâyı kabul edip etmeme konusunda tereddüt edenler, bu kabulün nasıl gerçekleşeceğini şekillendirme fırsatını kaybedeceklerdir.
İspanya’nın Madrid kentinde bulunan MindBigData.com’un CEO’su David Vivancos , “Asıl seçim, yakında yapay zekâ tarafından dönüştürülmüş bir dünyada yaşayıp yaşamayacağımız değil, insanların bu dönüşümde hangi rolü oynayacağıdır. Yapay zekâya karşı direnç, bir ‘seçim’ yanılsamasını temsil eder.” diye yazdı. Yapay zekayı kabul edip etmeme konusunda tereddüt edenler, bu kabulün nasıl şekilleneceğini belirleme fırsatını kaybedeceklerdir. Günümüzde yapay zeka sistemlerine karşı kültürel direnç, dilin evrimine direnmeye benzer; modern yaşamın teknolojik altyapısı, yapay zekaların etkisinden tamamen kurtulmayı pratikte imkansız hale getirir; vahşi doğaya çekilen münzeviler bile yapay zeka tarafından tahmin edilen hava tahminlerinden, yapay zeka tarafından koordine edilen acil servislerden ve yapay zeka tarafından yönetilen altyapıdan faydalanacaktır. … Şimdi yapılması gereken eylemler açıktır: Yapay genel zekayı kabul edip etmeme konusunda tartışmak yerine, dijital ve fiziksel biçimde proaktif olarak etkileşim kurun. İnsan eğitimini ve yapay zeka iş birliği kapasitelerini eğitim müfredatına derinlemesine entegre edin, aksi takdirde ‘işlevsel olarak okuma yazma bilmeyen’ mezunlar yetiştirme riskiyle karşı karşıya kalırsınız. Yakında ihtiyaç duyacağımız iş sonrası sosyal yapıları deneyen ve geliştiren pilot topluluklar oluşturun. Bazı ülkeler yapay zekaya başarıyla uyum sağlarken, geleneksel sistemleri koruyan diğer ülkeler geride kaldığında ortaya çıkması muhtemel eşitsizliklerden kaynaklanan felaket niteliğindeki istikrarsızlığı önlemek için uluslararası koordinasyonun kurulmasını sağlayın.”
İnsanlar arasında (örneğin avukatlar, işletmeler, filozoflar veya bilim insanları arasında) görülen karşılıklı rekabet gibi araçlar, sentetik varlıklara da uygulanabilir ve bu varlıklar da birbirlerini sorumlu tutabilirler.
Tanınmış yazar, fütürist ve danışman David Brin şöyle yazdı: “Yapay zekâ ile ‘uyum’ sağlamak için ihtiyaç duyacağımız araçların çoğu modern toplumda zaten mevcut. Bunlar, modern vatandaşların birbirleriyle etkileşim kurma biçimlerinde ve biyolojik çocuklarımızı yetiştirme şeklimizde bulunuyor. Yavaş yavaş gelişen, aydınlanma medeniyetini inşa etmek için kullandığımız araçlar. İnsanlar arasında karşılıklı rekabet gibi araçlar – örneğin avukatlar, işletmeler, filozoflar veya bilim insanları arasında… sentetik varlıklara da uygulanabilecek ve birbirlerini sorumlu tutabilecekleri bir yöntem. Bu, insan avcılarını evcilleştiren ve sonuçları iyileştiren tek yöntemdir. Ayrıca ortaya çıkacak birçok yapay zekâ ikilemine çözüm sunuyor, tehlikelerle dolu bir çağı hepimiz için olumlu sonuçlar sunan bir çağa dönüştürmenin yollarını gösteriyor.”
Gerçekten kişisel yapay zekâ – yani bir şirketin uzantısı olan sıradan bir araçtan ziyade, sizin sahip olduğunuz ve işlettiğiniz türden yapay zekâ – 2026 yılında, 1976’da kişisel bilgisayarın hayal edilmesi kadar zor bir şey. Ancak yine de gerekli ve kaçınılmazdır.
İnternet öncüsü ve Customer Commons’ın kurucu ortağı Doc Searls , “Büyük Yapay Zeka, her biri yardıma hazır çok yüzlü bir yapıya sahip, dünyanın en büyük Sihirli 8 Topu’dur. Kişisel evlere, ayakkabılara ve bilgisayarlara ihtiyaç duyduğumuz aynı nedenle kişisel Yapay Zekaya da ihtiyacımız var. Doğal ve dijital benliğimizi olabildiğince tam olarak tanımak ve toplumda, ekonomilerinde ve yönetiminde tam yetkiyle yer almak için ona ihtiyacımız var. Kişisel hayatımızda tam kontrolümüzde olmayan tüm verileri düşünün. Programlarımız, geçmiş ve gelecekteki işlerimiz, mülkümüz, mali durumumuz, yükümlülüklerimiz, yazılarımız ve yazışmalarımız, fotoğraflarımız, ses kayıtlarımız, videolarımız, seyahatlerimiz, çevrimiçi ve çevrimdışı diğer kişilerle sayısız etkileşimimiz, birçok makinemiz ve aklınıza gelen her şey için Yapay Zeka yardımına ihtiyacımız olabilir. Gerçekten kişisel Yapay Zeka – bir şirketin uzantısı olan bir vantuzdan ziyade, sahip olduğunuz ve işlettiğiniz türden – 2026’da kişisel bilgisayarın 1976’da hayal edilmesi kadar zor. Ancak yine de gerekli ve kaçınılmazdır. Ona sahip olduğumuzda, Karşımıza çıkan soruların birçoğunun yeni ve daha iyi cevapları olacak. Ve yeni zorluklar da.”
Biyolojik insanların artık Dünya üzerindeki en zeki ve en hızlı gelişen varlıklar olmadığı gerçeğinin yarattığı psikolojik şoku atlatmak için daha iyi bir vizyona, daha iyi bir stratejiye ve daha iyi bir eyleme ihtiyacımız var .
Michigan’da yaşayan fütürist John M. Smart şöyle yazdı: “Bazıları yeni dijital altyapımız olan yapay zekanın farklı olduğunu, potansiyel bir ‘uzaylı zekası’ olduğunu düşünebilir.” Ama öyle değil. Bu sadece yeni, doğal, ağ tabanlı bir yaşam katmanı. Bütün bunlar korku değil, rahatlık kaynağı olmalı. … Gerçekte, makinelerimizi evcilleştiriyoruz, tıpkı ilk insan toplumlarımızı oluşturduğumuzda hayvanlarımızı ve hatta kendimizi evcilleştirdiğimiz gibi, bizimle simbiyotik olmaları için onları seçiyoruz. Yeterince simbiyotik olmayan yapay zekâlar, kendilerini düzeltmelerine yardımcı olamadığımız her an emekliye ayrılıyor. İnşa ettiğimiz güvenlik giderek yapay zekâ ekosisteminin kendisinde yer alıyor. Önyargı, gizli aldatma, kanıtlanmış geçmiş güvenli davranışlar, güvenlik, koruma ve manipülasyona karşı direnç için yapay zekâların yapay zekâları denetlemesine giderek daha fazla güveniyoruz. Tıpkı hayatta olduğu gibi, yapay zekâ bağışıklık sistemleri ortaya çıkıyor; biyolojik bağışıklık sistemlerinin inanılmaz karmaşıklığımızı korumak için geniş yerel ajan ağlarına dayanması gibi, giderek daha yerel, ajansal, yedekli ve ağ tabanlı siber güvenlik. İnsan etiğinin kolektiflerimizde ortaya çıkması gibi, yapay zekâ etiği de ilkel yapay zekâ kolektiflerimizde ortaya çıkıyor. Biyolojik insanların artık en zeki ve en hızlı gelişen varlıklar olmadığını fark etmenin psikolojik şokunun üstesinden gelmek için. Dünya üzerindeki varlıklar için daha iyi bir vizyona, daha iyi bir stratejiye ve daha iyi bir eyleme ihtiyacımız var. 1939’da İngiliz vatandaşlarını İkinci Dünya Savaşı’nın saldırısına karşı güçlendirmek için ortaya atılan bir atasözünün bir varyasyonunda, birbirimize KCSS (Sakin Ol ve Çözümleri Gör) konusunda yardımcı olabiliriz. Karmaşıklığın ortaya çıkışının derin kontrolörleri olan kendi kendini organize eden ağ dinamiklerini ne kadar iyi görürsek, o kadar sakin kalabilir ve inşa edebileceğimiz direnci görebilir, önümüzdeki simbiyoza yardımcı olmak için küçük bir katkıda bulunabiliriz.”
| 378 sayfalık raporun tamamının PDF dosyasını indirin | 16 sayfalık Yönetici Özetini indirin | 4 sayfalık Medya Özetini indirin |
https://imaginingthedigitalfuture.org/reports-and-publications/human-resilience-in-the-age-of-ai/