Şubat 2025 / William H. Janeway
İnsanlığın onu kontrol altına alma çabalarına rağmen, belirsizlik günlük yaşamın kaçınılmaz bir parçası olmaya devam ediyor. Birçok kişi yapay zekâya umut bağlasa da, iki yeni kitap, teknolojinin kaosa düzen getirmesini beklemek yerine, giderek belirsizleşen bir dünyada yol almaya kendimizi alıştırmamız gerekebileceğini öne sürüyor.
CAMBRIDGE – İngiliz şair George Meredith 150 yıldan uzun bir süre önce, “Ah,” diye hayıflanmıştı , “hayatımızda kesinlik arayışında olan ruh, tozlu bir cevabın ne kadar da canını sıkıyor!” Bu duygu, artan belirsizlik çağında yaşamanın varoluşsal zorluğuna dair benzersiz içgörüler sunan iki yeni kitabın kalbinde yer alıyor.
Giderek belirsizleşen bir dünyada yol almanın karmaşıklıklarıyla boğuşurken, Cambridge Üniversitesi’nden David Spiegelhalter ve Neil D. Lawrence, akademi içinde ve dışında edindikleri kapsamlı mesleki deneyimlerden büyük ölçüde yararlanmaktadır. Emekli istatistik profesörü olan Spiegelhalter, Birleşik Krallık Tıbbi Araştırma Konseyi’nin Biyoistatistik Birimi’nde yıllarca çalışmış ve birçok önemli kamu soruşturmasında önemli roller üstlenmiştir. Makine öğrenimi profesörü olan Lawrence, doktora derecesini tamamlamadan önce bir Kuzey Denizi sondaj platformunda kuyu kaydı mühendisi olarak çalışmış, ardından Amazon’a makine öğrenimi direktörü olarak katılmış ve nihayetinde akademiye geri dönmüştür.
Yazarların geçmişleri, insanlığın belirsizliği ölçmek ve yönetmek için başvurduğu sayısız yönteme dair analizlerini zenginleştiriyor. Bunlar arasında, riskin fiziksel olarak tanımlanabildiği sıklıkçı yaklaşımlardan, öznel risk tahminlerini içeren Bayesçi analize kadar birçok yöntem yer alıyor. Yapı, üslup ve vurgu açısından farklılık gösterseler de, kitapları birkaç temel temada birleşiyor.
Ortak temalardan biri, güven duygusunun insanlara özgü kapasitesi ve karşılıklı ilişkilerin kilit rolüdür. Örneğin Spiegelhalter, politika yapıcıların belirsizlik karşısında güveni nasıl teşvik edebileceklerini göstermek için filozof Onora O’Neill’ın ” akıllı şeffaflık ” kavramına dayanır. Benzer şekilde Lawrence, O’Neill’ın 2002 tarihli BBC Reith Konferansları’ndan alıntı yaparak , güvenin sistemlerin -ister yasal, ister siyasi veya sosyal olsun- özünde var olmadığını, sistemler içinde faaliyet gösteren insanlar tarafından kazanılması gerektiğini savunur.
Bir diğer önemli konu ise, özellikle 2022 sonlarında ChatGPT’nin piyasaya sürülmesinden bu yana yoğun ve çoğu zaman abartılı tartışmalara konu olan üretken yapay zekânın, özellikle de büyük dil modelleri (LLM) alanının yükselişidir. Bu sistemler, insan yapımı içeriklerin büyük bir kısmını işleyerek metinsel ve görsel yanıtlar üreterek, görünüşe göre güven uyandırmak için tasarlanmışlardır. Ancak, O’Neill’in iddia ettiği gibi, insan gözetiminden bağımsız süreçler doğası gereği güvenilir değilse, makine tarafından çalıştırılan algoritmalara nasıl güvenebiliriz? Lawrence’ın kitabının merkezinde yer alan bu soru, Spiegelhalter’ın kitabının son sayfalarında da ortaya çıkıyor.
Son olarak, Spiegelhalter ve Lawrence, dünyamızı tanımlayan öngörülemezliğin bir yansıması olarak gördükleri “Laplace’ın Cin’i” olarak bilinen ünlü düşünce deneyine başvuruyorlar. Filozof Pierre Simon Laplace, 1814 tarihli Olasılıklar Üzerine Felsefi Bir Deneme adlı kitabında şöyle yazmıştır:
“Evrenin mevcut durumunu, geçmişinin sonucu ve geleceğinin nedeni olarak görebiliriz. Belirli bir anda, doğayı harekete geçiren tüm kuvvetleri ve doğayı oluşturan tüm nesnelerin tüm konumlarını bilecek bir akıl, eğer bu verileri analize tabi tutacak kadar geniş olsaydı, evrenin en büyük kütlelerinin ve en küçük atomlarının hareketlerini tek bir formülde kucaklardı; böyle bir akıl için hiçbir şey belirsiz olmazdı ve tıpkı geçmiş gibi gelecek de gözlerinin önünde olurdu.”
Spiegelhalter ve Lawrence’ın kitapları birçok yönden Laplace’ın öngördüğü deterministik evrene bir karşı tezat oluşturuyor. Laplace’ın iblisi her şeyi bilmeyi ve kusursuz öngörülebilirliği temsil ederken, gerçekliğimiz Lawrence’ın yerinde bir şekilde “Laplace’ın cini” olarak tanımladığı kaçınılmaz belirsizliklerle şekilleniyor. Kör şansın, talih ve cehaletin etkilerini azaltmak için araçlar geliştirme çabalarımıza rağmen, bu güçler günlük yaşamın kaçınılmaz bir parçası olmaya devam ediyor.
Belirsizliği Evcilleştirmek
Spiegelhalter’ın Belirsizlik Sanatı adlı eseri, insanlığın olasılık teorisini öngörüye uygulama çabalarını ustaca bir şekilde anlatıyor. Olasılıkların, keşfedilmeyi bekleyen nesnel, bağımsız varlıklar olmadığını savunuyor. Aksine, belirsizlikle ilişkimiz son derece kişiseldir ve deneyim, kaynaklar ve belirli bir problemi nasıl algılayıp ele aldığımızı etkileyen diğer faktörler tarafından şekillendirilir. Spiegelhalter’ın ifadesiyle, belirsizlik “cehaletin bilinçli farkındalığıdır”.
Örneğin, bir madeni parayı havaya atıp elinizle kapatma eylemini ele alalım. Spiegelhalter, bu senaryonun iki farklı belirsizlik türü içerdiğini açıklıyor: Bir olayın (bu durumda yazı tura) içsel rastgeleliğini yansıtan şansa bağlı belirsizlik ve daha önce gerçekleşmiş bir şey (yazı mı tura mı) hakkında bilgi eksikliğinden kaynaklanan epistemik belirsizlik.
Spiegelhalter, geçmiş deneyimlerin istatistiksel analizinin daha az yapılandırılmış durumlarda olası sonuç aralığını nasıl daraltabileceğini göstermek için yazı tura örneğini kullanır. Bu süreç, altı yüzlü bir zarın belirli bir sayıya gelme olasılığını hesaplamak gibi frekansçı yöntemler kullanılarak basit olabilirken, sonuçlar fiziksel kısıtlamalarla net bir şekilde tanımlanmadığında çok daha zor hale gelir.
Model belirsizliği kavramını inceleyen Spiegelhalter, haritalar gibi dünya modellerimizin de yararlı soyutlamalar olduğunu, ancak gerçekliğin asla tam bir temsili olmadığını vurguluyor. Bazıları diğerlerinden daha doğru olsa da, özellikle insan davranışını açıklamaya çalışan modeller söz konusu olduğunda, hiçbir model metafiziksel anlamda “doğru” olamaz.
Oyun teorisi, insanların yalnızca birbirlerinin eylemlerine değil, aynı zamanda bu eylemlere ilişkin beklentilerine de tepki verdiğini kabul ederek bu analize daha da sağlam bir temel kazandırmıştır. Ancak, finansçı George Soros’un teorileştirdiği ve gösterdiği gibi, bilinçli olarak refleksif davranışlar, öngörü kapasitemizin sınırlarını zorlayan yinelemeli bir döngü yaratır.
Spiegelhalter, Bayes Teoremi’nin olasılık teorisinin gelişimindeki kilit rolünü haklı olarak vurgular. İngiliz bakan Thomas Bayes tarafından formüle edilen ve ölümünden sonra 1763’te yayınlanan bu teorem, ancak Alan Turing ve ekibinin II. Dünya Savaşı sırasında Alman Enigma kodunu çözmek için bu teoreme güvenmesiyle yaygın bir kabul görmüştür.
Bayes Teoremi, belirsizlik analizini, ön olasılığı (B Kanıtı verildiğinde Sonuç A’nın olasılığı), sonuç göz önüne alındığında kanıtın gözlemlenme olasılığına (A Sonucu verildiğinde Kanıt B’nin olasılığı) bağlayarak resmileştirir. Bu olasılık, sonucun ve kanıtın ayrı ayrı gözlemlenme olasılığına bağlıdır. Alıştırmanın çıktısı, analizi özetleyen ve yeni kanıtlar bulundukça güncellenecek olan son olasılıktır.
Spiegelhalter, Bayes Teoremi’ni hayata geçirmek için okuyuculara bir dizi düşündürücü soru sunuyor. Örneğin, aşılanmış kişilerin COVID-19’dan ölme olasılığı neden aşılanmamış kişilere göre daha yüksek? Ve kusursuz olmayan bir polis görüntüleme yazılımı tarafından işaretlenen birinin gerçekten bir tehdit olma olasılığı nedir?
Spiegelhalter, okuyucuları Bayes analizinin mekaniği konusunda yönlendirerek, onu sadece gizeminden arındırmakla kalmıyor, aynı zamanda kanıtları değerlendirmede öznel beklentilerin rolünün de altını çiziyor; özellikle de olasılıklar fiziksel özelliklerin (bir madeni paranın veya zarın olasılıkları gibi) bir fonksiyonu olmadığında.
Sonuç olarak, Spiegelhalter’in de kabul ettiği gibi, belirsizliği dizginleme yeteneğimiz sınırlıdır. Bu bakış açısı, bir şeyin mantıksal olarak yanlış veya doğru olduğu gösterilemedikçe sıfır veya bir olasılık atamaya karşı uyarıda bulunan Cromwell Kuralı’nın da temelini oluşturur. İstatistikçi Dennis Lindley tarafından adlandırılan kural, Oliver Cromwell’in 1650’de İskoçya Kilisesi Genel Meclisi’ne yaptığı “Sizden, Mesih’in derinliklerinde, yanılıyor olabileceğinizi düşünmenizi rica ediyorum.” şeklindeki çağrısından esinlenmiştir. Bu kural, biçimsel mantığın “küçük dünyası”nın dışında, her zaman şüphe ve yeniden değerlendirme için yer olduğunu hatırlatır.
Güvenen Hayvan
Spiegelhalter, insan anlayışının sınırlarını kabul etse de, Frank Knight ve John Maynard Keynes tarafından öne sürülen radikal belirsizlik kavramını kesinlikle reddediyor. Keynes’in 1937’de özlü bir şekilde ifade ettiği gibi, “hiçbir şey bilmiyoruz” fikri , öznel olasılık tahminleri yaygın kabul görmeden önce öne çıktı.
Ancak Knight ve Keynes’i reddeden Spiegelhalter, pek de güven verici bir açıklama sunmuyor. “Kişisel sonucu”, biçimsel analizin sınırlarının altını çiziyor:
“[B]üyüdükçe daha derin, ontolojik belirsizlikleri kabul ediyoruz, ne olabileceğini listelemek konusunda bile kendimizi güvende hissetmiyoruz, biçimsel analiz girişimlerinden uzaklaşıp hem hayal ettiğimiz hem de hayal etmediğimiz durumlarda makul derecede iyi performans göstermesi gereken bir stratejiye doğru ilerliyoruz.”
Böylesi bir ontolojik belirsizlik, içinde yaşadığımız dünyanın ve evrenin temel doğasıyla ayrılmaz bir şekilde bağlantılıdır. Termodinamiğin ikinci yasasının da belirttiği gibi, kapalı bir sistemde düzen kaçınılmaz olarak rastlantısallığa yol açar.
En özenle inşa edilmiş sistem ve kurumlarımızın bile öngörülemeyen şoklara karşı savunmasız kaldığı gerçeği, Belirsizlik Sanatı’nı Lawrence’ın Atomik İnsan’ına bağlar . Lawrence’ın gözlemlediği gibi, insanların “doğal zekası, sürekli olarak beklenmedik durumlarla sınandığı bir dünyada ortaya çıkmıştır.”
Uyum sağlama yeteneğimiz ve karşılıklı güvene olan kapasitemiz, Lawrence’ın “atomik insan” olarak adlandırdığı şeyin ayrılmaz bir parçasıdır. Bu kavram, Lawrence’ın yapay zekanın derinlemesine tarihini yönlendiren temel soruya verdiği cevaptır: Makinelerin asla kopyalayamayacağı bir insan özü var mıdır?
Usta bir hikâye anlatıcısı olan Lawrence, D-Day’den önceki gün, Müttefiklerin Avrupa komutanı ve geleceğin ABD başkanı General Dwight Eisenhower örneğini verir. Eisenhower, elindeki tüm istihbaratı sentezlemek ve ardından kendi yargısına –veya Spiegelhalter’in deyimiyle, belirsizlikle olan kişisel ilişkisine– güvenerek Nazi işgali altındaki Avrupa’yı işgal edip etmemeye karar vermek zorundaydı. Emri verdikten sonra Eisenhower, Overlord Harekâtı başarısız olursa tüm sorumluluğu kabul eden bir muhtıra yazdı. Lawrence’ın anlatımına göre bu an, atom bombası gibi bir insanın öngöremediği bir gelecek üzerine düşünme yeteneğini örnekliyor.
Eisenhower’ın elindeki kaynaklar arasında, Turing ve kod çözücü ekibi tarafından kırılan Alman şifrelerinin şifreleri de vardı. Lawrence, Nazi Almanyası’nın giderek karmaşıklaşan şifreleme makinelerini tersine mühendislik yoluyla ele alma çabalarını, bilgisayar biliminin tarihini ve daha spesifik olarak gerçek zekaya sahip bilgisayarlar geliştirme arayışını keşfetmek için bir başlangıç noktası olarak kullanıyor.
Sibernetik ve “uzman sistemler”den üretken yapay zekaya, sinir ağlarına ve makine öğrenimine kadar bilişimin evrimini izleyen Lawrence, bu gelişmeleri şekillendiren bilimsel çalışmalara odaklanarak, bilişimsel kavramlardaki ilerlemelerin ilgili teknolojik atılımlara nasıl bağlı olduğunu gösteriyor. Özellikle, 1950’lerin sonlarındaki algılayıcıdan (sayısallaştırılmış bir görüntüyü yorumlayabilen ilk sistem) benzer bir mimari kullanan ancak çok daha güçlü sistemlerin mümkün kıldığı yeteneklere dayanan günümüzün LLM programlarına geçiş iki nesil inovasyon gerektirdi.
Büyük Yapay Zeka Yanılgısı
Atomik İnsan’ın en büyük gücü, Lawrence’ın teknoloji tarihini insan zekâsının derinlemesine bir incelemesiyle bir araya getirme becerisinde yatıyor. Lawrence, zekâmızın doğal seçilim yoluyla evrimleştiğini ve evrimsel süreçlerle şekillenen organizmaların doğasında var olan kalıcılık ve uyum yeteneğini temsil ettiğini açıklıyor. Buna karşılık, yapay seçilim -ister bitkilerde, ister hayvanlarda veya bilgisayar sistemlerinde olsun- beklenmedik koşullarla karşılaştığında başarısızlığa meyilli, belirli amaçlara göre uyarlanmış türler üretiyor.
Lawrence, insanların “muazzam bilişsel gücünü”, bilgiyi iletmedeki dikkat çekici derecede yavaş tempomuzla karşılaştırıyor. Bilişsel yeteneğimiz, “Laplace’ın cinleri”nin öngörülemez dünyasında hayatta kalmamıza yardımcı olmak için evrimleşti ve bildiklerimizi -veya doğru olduğuna inandıklarımızı- başkaları için anlamlı kılmak için anlatılar paylaşıyoruz. Anlayışımızın kusurlu olabileceğini fark ederek, kendimizden şüphe ediyor ve yavaş iletişimin doğasında var olan sınırlamaları telafi etmek için başkalarının düşüncelerini modelleyerek “zihin teorileri” geliştiriyoruz.
Ancak günümüzün yapay zekâ modelleri, insan zekâsının bu temel niteliklerinden yoksundur. Eğitim verilerinin dışındaki koşullarla karşılaştıklarında tökezlerler. Yine de, bu modeller Lawrence’ın “büyük yapay zekâ yanılgısı” olarak adlandırdığı şeyi sürdürmektedir:Birbirimizi anladığımız kadar bizi de anlayan bir algoritmik zeka biçimi yarattığımıza olan inanç.
Aslında, LLM’ler olasılıkçı tahmin makineleridir. Nedensellik konusunda önde gelen bir uzman olan bilgisayar bilimci Judea Pearl’ün açıkladığı gibi , “Makine öğrenimi modelleri bize sonlu örneklem tahminlerinden olasılık dağılımlarına geçmenin verimli bir yolunu sunuyor ve yine de neden-sonuç ilişkilerine ulaşmamız gerekiyor.”
Çevrimiçi ortamda bulunan, insan yapımı içeriklerin büyük bir kısmı üzerinde eğitim alan Hukuk Yüksek Lisansı (LL.M.) programları, belirsiz bir dünyada yol almak için insanların çabalarının ifadelerini işler . Ancak insanların aksine, bu sistemler kendi eksikliklerinin farkında değildir. Sonuç olarak, bir metindeki veya bir görüntüdeki pikseldeki bir sonraki kelimeyi tahmin etmek için eğitim verilerinden yararlanma konusundaki olağanüstü yetenekleri, tespit edemeyecekleri veya düzeltemeyecekleri hatalara açıktır.
Lawrence, insan ve üretken yapay zekâ arasındaki etkileşimden ortaya çıkan varsayımsal bir melez zekâ öngörüyor – “dijital makine için bir kontrol çubuğu” olarak tanımladığı bir “insan-analog makine” (HAM). Böyle bir sistemin, insan yeteneklerini LLM’lerin yapamayacağı şekillerde artırabileceğini ve genişletebileceğini öne sürüyor. Ancak “büyük yapay zekâ yanılgısını” pekiştirme riski her zaman mevcut:
“Karşı karşıya olduğumuz tehlike, makinenin insanlığımızı aşmamızı sağlayacağına inanmaktır. … Atomik insan, yeteneklerle değil, zayıflıklarla tanımlanır. Bu zayıflıklar sayesinde, bu sınırlamalara rağmen iletişim kurmamızı ve iş birliği yapmamızı sağlayan kültürler geliştirdik. Tarihimiz boyunca çabalarımıza yardımcı olacak yeni araçlar geliştirdik ve bilgisayar bunlardan sadece en yenisi. Ama bilgisayarın tek yapması gereken şey bu: bir araç.”
Veri mi, Saçmalık mı?
Lawrence ve Spiegelhalter, bilinçli kararlar almak için verileri işleme konusunda insan kapasitesini kutlarken, aynı zamanda temel bir zorluğun da altını çiziyorlar: Veri tek başına anlam ifade edemez; bağlam çok önemlidir.
Amerika Birleşik Devletleri’nde cezai hüküm önermek ve şartlı tahliye başvurularını değerlendirmek için yapay zekanın giderek artan kullanımı buna bir örnektir. Dijital tahmin sistemleri karmaşık sosyal ortamlara dahil edildiğinde, eğitim verilerine yerleşmiş önyargıları ve önyargıları kaçınılmaz olarak yansıtırlar.
Spiegelhalter’ın milyonlarca yıldır insan zekâsını şekillendiren beklenmedik gelişmelerin itici gücü olarak tanımladığı ontolojik belirsizlikte daha da derin bir zorluk yatıyor. Basitçe söylemek gerekirse, gözlemlediğimiz verileri üreten süreçlerin zaman içinde tutarlı kalacağına güvenebilir miyiz? Değilse, onlara hiç güvenebilir miyiz?
Ekonomist Paul Davidson, 2015 tarihli Post Keynesyen Teori ve Politika kitabında bu konuya dikkat çekerek , ana akım ekonomideki kritik bir kusuru vurgulamıştır: Geçmiş verilerin zaman içinde sabit kalan olasılık dağılımları oluşturmak için kullanılabileceği ve istatistiksel olarak sağlam tahminlere olanak tanıdığı varsayımı. Davidson, “Gelecekte meydana gelen olaylardan bir örneklem çıkarmak imkânsız olduğundan,” diye gözlemlemiştir, “ekonominin ergodistik bir stokastik süreç tarafından yönetildiği varsayımı, analistin geçmiş veya mevcut piyasa verilerinden alınan örneklerin, gelecekteki piyasa verilerinden alınan örneklere eşdeğer olduğunu iddia etmesine olanak tanır.”
Bu varsayımın sorununu anlamak için, 1913’te bir Fransız bankasında beş yıllık Rus tahvil fiyatları tahminini hazırlamakla görevli genç bir finans analistini düşünün. Fransa, onlarca yıldır Çarlık Rusyası için önemli bir sermaye kaynağı olmuş ve varsayımsal analistimize Rus tahvil fiyatları hakkında kapsamlı veriler sağlamıştır. Ancak bu veriler, Rusya’nın 1905’te Japonya’ya karşı verdiği savaştaki yenilgisinin, ardından gelen halk ayaklanmasının ve kademeli sanayileşmenin etkisini yansıtmış olsa da, herhangi bir tahmin 1918’e gelindiğinde tüm Rus tahvillerinin değersiz hale geleceğini öngörebilir miydi?
Benzer şekilde, 2008 küresel mali krizi, belirsizliğin kontrol altında olduğuna dair uzun süredir devam eden inancı yerle bir etti. Bankaların sermaye gereksinimlerini artırmak gibi cehalete karşı korunma stratejileri hızla en önemli öncelik haline geldi . Bu kurumsal tepkiler, geçmiş krizleri ele almak için tasarlanmıştı ve gelecekteki krizlere hazırlık için pek işe yaramadı.
Lawrence bir başka zorluğun daha altını çiziyor: “Hayal gücümüz etrafındaki dünyayla uyum içinde çalışırken ve ihtiyaç duyduğu tutarlılığı sağlamak için bu dünyaya güvenirken”, tarih tutarlı olmaktan çok uzaktır. Aksine, kesintiler, rejim değişiklikleri ve devrimlerle damgalanmıştır.
Ekonomist Richard Zeckhauser, bu düşünceden yola çıkarak, dünyanın durumu hakkındaki farklı bilgi düzeylerinin farklı yatırım ortamlarına nasıl karşılık geldiğini gösteren faydalı bir model geliştirdi . Modeli, karar alma senaryolarını üç farklı alana ayırıyor: risk, belirsizlik ve cehalet.
Bu çerçevede “risk”, hem dünyanın olası durumlarının hem de olasılıklarının, yatırım getirilerinin dağılımıyla birlikte bilindiği durumları ifade eder. Buna karşılık “belirsizlik”, dünyanın olası durumlarının bilindiği, ancak olasılıklarının bilinmediği senaryoları tanımlar. Üçüncü alan olan “cehalet” ise, dünyanın olası durumlarının bile bilinmediği ve “getiri dağılımlarının, genellikle başkalarının davranışları hakkındaki çıkarımlardan yola çıkılarak tahmin edildiği” durumlar için geçerlidir.
Zeckhauser’in cehalet kavramı, Keynes’in belirsizlik kavramını yansıtır. Cehaletimizin çoğu zaman galip geldiğini kabul ederek, bilinemez sonuçların kitlesel güdümün yönlendirdiği kendi kendini gerçekleştiren kehanetlere dönüşebileceğini anlarız. Ve böylece, Keynes’in ünlü güzellik yarışması metaforunda olduğu gibi , geride kalmamak veya ezilmemek umuduyla başkalarını yakından gözlemleriz.
Spiegelhalter’in kendisi de bu noktayı kabul ediyor: “Bazen tüm olasılıkları kavrayamayız.” Bazen de, “bilmediğimizi kabul etmek zorunda kalabiliriz.”
- Neil D. Lawrence, Atomik İnsan: Yapay Zeka Çağında Bizi Benzersiz Kılan Nedir (PublicAffairs, 2024).
David Spiegelhalter, Belirsizlik Sanatı: Şans, Cehalet, Risk ve Talih Arasındaki Yol Nasıl Bulunur (BK: Pelican, 2024; ABD: WW Norton & Company, 2025).