Yapay zekâ, şimdiye kadar icat edilmiş en önemli teknolojilerden biridir. Yapay zekâ geliştirme hızı baş döndürücü ve yaygınlaştırılması, güçlü ekonomik ve jeopolitik teşviklerle yönlendirilen pervasız bir şekilde gerçekleşiyor. Bugün verdiğimiz kararlar, gelecek nesiller boyunca dünyamızı etkileyecek. Daha iyi bir gelecek inşa etmek için öncelikle yapay zekâ ile ilgili kritik zorlukları netleştirmeli ve yapay zekâ ile insancıl bir gelecek için neler yapabileceğimizi belirlemeliyiz.
Riskler:
Teknoloji şirketleri, pazar hakimiyetini ele geçirmek ve yapay genel zekayı (AGI) ilk başaran olmak için inanılmaz bir hızla yapay zeka geliştiriyor.
Ancak bu yarış son derece istikrarsız. Yapay zekâ, insan bilişsel yeteneklerini geliştirmeyi, angaryayı ortadan kaldırmayı ve insanlığın en önemli bilimsel, teknik ve endüstriyel girişimlerini hızlandırmayı vaat ediyor. Ancak aynı teknoloji, toplumumuzda benzeri görülmemiş riskler yaratabileceği gibi, mevcut dijital ve toplumsal zararları da daha da artırabilir.
Büyük ekonomik ve jeopolitik baskılar, yapay zekayı hızla yüksek riskli alanlara (iş yerlerimiz, finans sistemlerimiz, sınıflarımız, hükümetlerimiz ve ordularımız) yerleştirme yarışına yol açıyor. Bu pervasız hız, ortaya çıkan zararları hızlandırıyor ve acil yeni sosyal riskleri gün yüzüne çıkarıyor.
Bu arada, yapay zekâ toplumumuzun birçok farklı alanına dokunduğu için, kamuoyundaki tartışma karmaşık ve parçalı bir halde. Yapay zekâ şirketlerindeki geliştiricilerin ortaya çıkan yapay zekâ yetenekleri hakkında asimetrik bir bilgisi var, ancak gelişmenin hızı, toplumumuzdaki kilit paydaşların güncel kalmasını neredeyse imkansız hale getiriyor.
Yapay zekâ ile geleceğimizin kalitesi, daha derin diyaloglar kurabilme ve yapay zekâyı akıllıca geliştirme, uygulama, düzenleme ve kullanma yeteneğimize bağlıdır. CHT’de, yapay zekâ tartışmasını, her biri sosyal yapılarımız ve insan deneyimi üzerinde farklı etkilere sahip beş ayrı alana ayırıyoruz.
İlişkiler, Topluluk ve Değerler
Yapay zekâ sistemleri artık sadece kullandığımız araçlar değil. İlişkilerimizin aktif katılımcıları haline gelerek, iletişim kurma, bağlantı kurma ve birbirimiz hakkında hissetme biçimimizi incelikle etkiliyorlar. Yazılı iletişimi şekillendirmek için üretken yapay zekânın kullanımından, insan yakınlığının yerini alan sohbet robotlarına kadar, yapay zekâ sistemleri kişilerarası yaşamlarımızda karmaşık yeni bir değişken yarattı.
Yapay zekâ giderek aramızda bir engel oluşturuyor: insan ve makine arasındaki çizgiyi bulanıklaştırıyor, ilişkilerde güveni ve özgünlüğü aşındırıyor.
Çalışma, Onur ve Anlam
Yapay zekâ şirketleri sadece insan bilişsel yeteneklerini geliştiren sistemler kurmakla kalmıyor. Birçoğu, insan emeğinin yerini tamamen alabilecek sistemler yaratma hedefiyle yapay genel zekâ (AGI) geliştirmek için açıkça çalışıyor. Dahası, endüstriler işgücü maliyetlerini düşürmek için iş akışlarında insan emeğini yapay zekâ araçlarıyla değiştirmeye teşvik ediliyor. Sonuç olarak, iş, onur ve yaşamımızdaki anlam söz konusu olduğunda hızla değişen bir manzara ortaya çıkıyor.
Sektörler verimliliği optimize etmek için giderek daha fazla otomasyona yöneliyor.
Yapay zekâ, profesyonel yaşamlarımızın statükosuna bir tehdit oluşturuyor. Ancak, işin anlamını yitirmesine veya refahın daha az elde toplanmasına yol açmadan, yapay zekâ destekli bir iş gücüne geçişi yönlendirme yeteneğine sahibiz.
Yapay zekâ, insan yargısını geliştirmek, adil ekonomik fırsatları desteklemek ve anlamlı işlere erişimi genişletmek için geliştirilebilir ve yönetilebilir. Yapay zekânın akıllıca ve sorumlu bir şekilde uygulanması, insan verimliliğinde yeni bir çağa ve onur ve tatmin duygusunun ilerlemeyi nasıl tanımladığımızın merkezinde olduğu cazip yeni kariyer yollarına öncülük edebilir.
Gücün Merkezileştirilmesi ve Araçların Merkezsizleştirilmesi
Yapay zekâ, bir teknoloji olarak, hem ekonomik hem de jeopolitik gücü radikal bir şekilde merkezileştirme potansiyeline sahiptir. Yapay zekâ teknolojisinde belirleyici bir avantaj elde eden şirketler ve ülkeler, rakiplerine karşı muazzam ve potansiyel olarak kalıcı bir üstünlük kazanabilirler. Yapay zekânın ideolojik önyargılarını kontrol edebilen rejimler, küresel ölçekte önemli bir yumuşak güç sergileyebilirler.
Aynı zamanda, yapay zeka araçları bireyleri benzeri görülmemiş şekillerde güçlendiriyor; kolaylık, entelektüel gelişim potansiyeli ve verimlilik sunuyor. Ancak yapay zeka ajanları otonom olarak araçları kullanmaya, e-postalara, takvimlere ve finansal/tıbbi kayıtlara erişmeye ve diğer ajanlarla etkileşime girmeye başladıkça, saldırılara, veri sızdırmaya veya yetkisiz işlemlere maruz kalma riski önemli ölçüde artıyor. Bu durum, kötü niyetli aktörleri de kolayca güçlendirebilir ve yasal ve sosyal kurumlarımızın aşırı yüklenmesi riskini artırabilir.
Teknoloji geliştirme kaynakları (sermaye, veri, işlem gücü, yetenek) bir avuç çokuluslu şirket arasında yoğunlaşıyor.
Ortak Anlayışın Bozulması
Ortak anlayış – toplumun temel bir gerçeklik algısı üzerinde uzlaşma yeteneği – işleyen bir toplumun temelidir; sağlıklı demokratik süreçleri, verimli söylemleri ve anlamlı kolektif eylemlerde bulunma yeteneğini destekler. Ancak son on yılda, sosyal medya toplumun gerçeklik algısını çarpıtarak ortak anlayış oluşturma yeteneğimizi zayıflattı. Şimdi ise yapay zeka araçları, yapay zeka tarafından üretilen derin sahte içerik, “yapay zeka çöplüğü”, vatandaş gibi davranan yapay zeka ajanları ve bilgi ekosistemlerimize yönelik diğer otomatik müdahalelerle bunu daha da artırma tehdidinde bulunuyor.
Yapay zekâ tarafından üretilen içerik, insan tarafından oluşturulan içerikten giderek ayırt edilemez hale geliyor.
Kontrol Kaybı
Giderek daha güçlü, anlaşılmaz ve otonom yapay zekâ sistemlerini devreye sokarken, bunlar üzerinde anlamlı insan kontrolünü sürdürme yeteneğimiz tehdit altında. “Kontrol kaybı” terimi, yapay zekâ sistemlerinin kazaen veya kasıtlı olarak insan kontrolüne direnç gösterdiği bir dizi endişe verici senaryoyu tanımlar. Potansiyel senaryolar, kritik altyapının sistemik arızalarından, insan komutlarına uymayı reddetmeye ve daha da korkutucu olan, yapay zekânın insan kontrolüne karşı manipülatif ve aldatıcı karşı koordinasyonuna kadar uzanmaktadır.
Geleneksel yazılımların aksine, yapay zekâ net hedeflerle programlanmaz.
Önde gelen yapay zeka laboratuvarlarının şeffaflık eksikliği, bu yapay zeka sistemlerindeki gerçek özerklik düzeyini anlamayı zorlaştırıyor.
Büyük Resim
Yapay zeka, son derece önemli ve genel amaçlı bir teknolojidir.
Bu nedenle, yapay zekayı nasıl tasarladığımız, uyguladığımız ve kullandığımız, onun biz ve toplumumuz üzerindeki etkisini belirleyecektir. Bu güçlü teknolojinin ardındaki teşvikleri yeniden düzenleyerek ve daha sorumlu ürünler tasarlayarak, insanlık distopik sonuçlar olmadan yapay zekanın faydalarından yararlanabilir.
Daha ayrıntılı okuma için Center for Humane Technology kurumunun yayınladığı .pdf dosyasına aşağıdaki linke tıklanarak ulaşılabilir.
https://www.datocms-assets.com/160835/1768963143-ai-in-society.pdf