Yapay Zekanın Etkililiği ve Demokrasi Üzerine Yeni Perspektifler: “Kime Hizmet Ediyor?”

Yazan /

 

Richard Reisman, Richard Whitt / 6 Aralık 2024

Teknoloji sektöründeki birçok kişi yakın vadede ‘nın günümüzün sohbet robotları seviyesinden karmaşık eylemlerde çok az denetimle bulunabilen daha sofistike  ajanlarına evrilmesini bekliyor. İlk olarak, bu, ajanlarımızın bize nasıl hizmet ettiği konusunda kişisel ajansın temel rolünün yeterince dikkate alınmaması nedeniyle demokratik özgürlüklerin giderek daha fazla tehdit edileceği ihtimalini ortaya çıkarıyor. İkinci olarak, bireysel ajans ve özerklik üzerindeki etkilerin ötesinde,  ajanlarının daha geniş topluluktaki potansiyel rolü ve insanlığımızın üzerine inşa edildiği sosyal dinamikler üzerindeki etkileri yatıyor. Yapay Zeka Ajanlarının insanlığa hizmet etmesini sağlamak için yeni ve daha güçlü ilişki çerçevelerinin gerekli olduğunu düşünüyoruz.

 

Tezimiz, “etiği”, “değer uyumu”, “güvenlik” ve “koruma bariyerleri” üzerine büyüyen çalışma gövdesinin bir dizi önemli sorunu gündeme getirdiği, ancak demokrasi ve insan özgürlüğüne yönelik tehditlerin temel çekirdeğine stratejik bir odaklanmanın vurgulanması gerektiğidir . Bunlar, YZ’nın dünyayı nasıl bildiğimizi, dünyada nasıl davrandığımızı ve YZ’nın bizim için nasıl davrandığını giderek daha fazla nasıl şekillendireceğinden kaynaklanmaktadır. Bu parça, insan seçimi ve özerkliğine yönelik bu zorlukları belirlemeye ve gidermeye yardımcı olmak için teknik yaklaşımlarla birlikte yeni yönetişim çerçeveleri önermek için yapılan çalışmayı sentezlemektedir.

Aşağıda sunulan genel fikir, tıpkı insanlığın monolitik olmadığı ve çok sayıda unsur içerdiği gibi , ajanlarımızın veya asistanlarımızın da geliştiricileri tarafından tüm çıkarlara hizmet edecek şekilde bir şekilde hizalanmış monolitik sistemler olarak inşa edilemeyeceğidir. Bunun yerine, bu sistemler kullanıcılarına sadakatle hizmet eden ve bunu yaparken daha geniş bir dayanışmayı  hedefleyen, birbiriyle çalışan ajanlardan oluşmalıdır. Bu, hem bireysel hem de topluluk düzeylerinde yapılmalıdır.

Her geniş işlevsel  ajanı veya asistan sistemi bileşeni için temel soru şudur: “Kime hizmet ediyor?”

Ayrıca, ABD  politika geliştirmelerinde, düzenleyici bariyerlere daha az vurgu yapılarak dramatik bir yeniden düzenleme yapılması muhtemel görünüyor ve bunun küresel etkisi olacaktır. Aşağıda önerilen çerçevelerin ve stratejilerin, kutuplaşma, türbülans ve hükümet tıkanıklığı zamanlarında bile insan gelişimini ilerletmek için gereken uyarlanabilirliği, dayanıklılığı ve kolektif zekayı organik olarak etkinleştirecek, sosyal arabuluculukla yumuşatılmış bireysel temsilcilik temelinde bir temel sunduğuna inanıyoruz. Bu nedenle, bu çerçeveler ve stratejiler üzerine inşa edilen çözümlerin, bu ilkeler yaygın olarak tanındığında geniş iki partili destek toplayabilmesi gerektiğini öneriyoruz.

 Ajansının İki İşlevsel Boyutu

Yapay zeka ajansının iki temel işlevsel boyutu vardır: görevleri yerine getirme konusundaki teknik kabiliyeti ve bu diyagramda gösterildiği gibi bir kullanıcıyla olan ilişkisinin doğası:

Richard Whitt’ten, Web’i Yeniden Örmek , 2024

 

  • “Ajanlık”, bir yetenek ölçüsü: Open AI’ye göre , bir  sisteminin “ajanlığı”, “sınırlı doğrudan denetimle karmaşık ortamlarda karmaşık hedeflere uyarlanabilir bir şekilde ulaşabilme derecesidir.” Bu, ‘lar basit botlardan giderek daha yetenekli asistanlar ve avatarlar aracılığıyla tamamen özerk ajanlara doğru ilerledikçe teknik yeteneğin bir ölçüsüdür. Bu,  ajan geliştirmenin temel odak noktası olmuştur, ancak aşağıda açıklandığı gibi, kendi başına, bu boyut kime hizmet ettiği ve insan özgürlüğünü destekleyip desteklemediği konusunda tarafsızdır. Burada önerilen ikinci boyut olmadan, bireylere ve insanlığa çok kötü hizmet eden (birçok kişinin korktuğu gibi) son derece ajan ‘lara yol açabilir.
  • “Ajanslık”, bir ilişki ölçüsü: GLIA Vakfı’na göre , bir  sisteminin “ajanslığı”, “onların” ajanı olarak hizmet ederek son kullanıcıyı yetenekli bir şekilde temsil etme yetkisine sahip olduğu derecedir. Bu, bu kitapta ve makalede açıklandığı gibi, bir sağlayıcının sunabileceği herhangi bir hizmetin “kullanıcıları” olarak insanları ele almaktan, kullanıcıya karşı giderek daha sadık bakım, sadakat ve bağlılık seviyelerine doğru ilerleyen gerçek insan ilişkisinin bir ölçüsü olarak görülebilir. Bu boyut genellikle ihmal edilir, ancak “kime hizmet ettiği” ve demokratik özgürlükler için elzemdir. Son kullanıcının çıkarlarına sadakatle hizmet etmekle yükümlü olmayan üçüncü bir tarafça sağlanan pasif “uyum”, bunun gölgesinden fazlasını sağlamak için yeterli değildir.

Bireylere, topluma ve özgürlüğe hizmet eden en iyi yapay zeka ilişkileri ve yeteneklerine doğru ilerlemek için bu iki boyutta da birlikte ilerlemek gerekir.

Aracılığı en iyi şekilde etkinleştirebilecek dijital teknoloji, belirli bir kullanıcıya sadakatle hizmet eden aracı  aracılarının, istenen görevleri tamamlamak için diğer  aracılarını (bu kullanıcıyla tam olarak uyumlu olabilir veya olmayabilir) çağırmasını veya onlara yanıt vermesini sağlayacak açık – birlikte çalışabilirliğidir. Bu tür bir aracılık uyumu, yalnızca  geliştiricilerinin ihtiyaçlarını karşıladığında değil, daha da önemlisi, insan “son kullanıcı” ve sosyal ihtiyaçlarını karşıladığında da geçerli olmalıdır. Elbette, birlikte çalışabilirlik aracılığı elde etmede de değerlidir.

Aracılık için bu daha derin ihtiyaç – bir aracının kullanıcısına sadık hizmet ilişkisi – teknik değil sosyotekniktir. Aracılık hizmeti için tasarıma doğru atılan bir adım,  ekosistemi paydaşlarını korumayı amaçlayan çeşitli “değer uyumu” tekliflerinde yer almaktadır. Google DeepMind bunu ” aracısını, son kullanıcıyı, geliştiriciyi ve genel olarak toplumu içeren” dört parçalı (“dörtlü”) bir ilişki olarak çerçeveler.

Ancak,  hizalaması, koruma bariyerleri, güvenlik ve etiğin geleneksel çerçeveleri, bu taraflar için hizalamayı tasarlamanın nih sorumluluğunun, bu taraflar uzlaştırılması zor farklı değerlere ve hedeflere sahip olsa bile, aracı geliştiricilere (genellikle çok büyük şirketlere) t olduğunu düşünür. Bu yaklaşım, platform çıkarlarına bireylerin veya toplumun çıkarlarından daha iyi hizmet eden aracılara yol açacaktır.

Bir sonraki bölümde , karmaşık ve çeşitli bir toplumda demokratik özgürlükleri korumak için bireyler ve toplum arasındaki uyuma yönelik daha açık, çok merkezli ve ortaya çıkan bir yaklaşımın gerekli olduğunu öne sürmek için sosyal medyanın paralel deneyiminden yararlanıyoruz – geleneksel olarak olduğu gibi. Üzerine inşa edilecek bu tür bir uyuma ilişkin potansiyel kaynaklar , bilgi asimetrisi, otorite ve sadakat gibi ekonomik müdür-temsilci sorunları ile emanetçilerin temsilcilik ortak hukuku ve iyi niyet, özen ve sadakat gibi geleneksel görevleriyle ilgilidir.

Mozilla, aracılıklı hizmete doğru atılan bir diğer adımı ” Kamu  ” olarak önerdi . Kamu ‘ları, kamu mallarını, kamu yönelimini ve kamu kullanımını teşvik etmek için ‘ları kimlerin inşa edebileceğini genişletecek kurumsal ‘lara tamamlayıcı olarak hizmet edebilir. Aşağıda açıklandığı gibi, aracılıklı hizmetler sağlayan  ajanlarının -hem bireylere hem de topluluklara- kamu ve özel  karışımlarının çeşitli ve açık bir toplumda bireysel ve kamu çıkarını tam olarak elde etmek için ihtiyaç duyulan türden bir temel sunduğunu öne sürüyoruz.

Bu nedenle,  ajanlarının veya yardımcılarının stratejik tasarımı için temel kapsayıcı etik mercek olarak aracılık boyutunu sunuyoruz. “Kime hizmet ediyor?” sorusuna odaklanarak, diğer her şey – önyargı, yanlış bilgi, manipülasyon, gözetim ve güvenlik soruları – yorum haline gelir .

Temsilciliğin Sosyal Temelleri

Sosyal medya ve arama hizmetleri, haber akışları, tavsiyeler ve arama sonuçları oluşturmak için algoritmik aracılara güvenir ve halihazırda ölçekte sınırlı olgunluk konusunda aydınlatıcı bir düzeye ulaşmıştır.  aracıları için ders, içerik denetimi ve ölçekte etki konusunda aşırı, devam eden çatışmaların,  geliştiricileri tarafından hizalamanın merkezi kontrolünün (burada ifade ve düşünce özgürlüğü için, “genel olarak toplumu” nasıl etkilediği açısından) yalnızca gayri meşru değil, aynı zamanda tartışmalı olarak ” imkansız ” olduğunu göstermesidir.

Yapay zekanın “sosyal” ve “medya” yönleri arasındaki güçlü ilişkiyi ve bunun sosyal medyada halihazırda büyük ölçekli deneyimlerde ortaya çıkan sorunlarla nasıl bağlantılı olduğunu düşünün:

  • Sosyal medya giderek daha fazla yapay zeka türevi içerik ve yapay zeka tabanlı algoritmalar içeriyor ve bunun tersine, insan sosyal medya içeriği ve davranışları giderek daha fazla yapay zeka modellerini besliyor
  • Sosyal medyada demokratik özgürlüklerin merkezinde yer alan güçlü ifade özgürlüğünün korunması sorunları, yapay zekanın dünyaya ilişkin anlayışımızı doğru veya yanlış şekilde nasıl şekillendirebileceği konusundaki benzer sorunlara ışık tutuyor ve onları destekliyor.

Sosyal medya için önerilen bir yanıt, son kullanıcıların platformların değil, kendilerinin seçtiği gibi, kendilerine aracı olarak hizmet edecek kendi kişisel aracı araçlarını seçmelerini sağlamaktı. Kullanıcılar ve platformlar arasındaki bu tür araçlara genellikle ara yazılım denir , ancak daha açıklayıcı bir terim, kullanıcılara ” izlenim özgürlüğü “, kimi dinleyeceklerine, kimden etkileneceklerine ve kimle ilişki kuracaklarına karar verme özgürlüğü veren ” dikkat koruyucuları ” olabilir. Sosyal medya dünyasında “genel olarak toplumun” tek bir bütün olmadığı, ancak birbirleriyle çelişen ve bilgi akışlarını farklı ancak örtüşen epistemik ve değer kültürleri aracılığıyla işleyen çok sayıda topluluk içerdiği giderek daha fazla fark ediliyor . Hem sosyal medya hem de yapay zeka tabanlı teknolojiler, bu çok sayıda topluluğun ilgili karışımına, bireysel kullanıcı aracılığı tarafından meşruiyet verilen ve üzerinde etkisi olan karmaşık bir ekosistem olarak hizmet etmeli ve onların farklı aracılık ihtiyaçlarını karşılamalıdır. Yukarıda sosyal medya için belirtildiği gibi, hizalamaya yönelik yukarıdan aşağıya çözümler, bu organik olarak ortaya çıkan dengeyi sağlama yeteneğinden ve meşruiyetinden yoksundur. Değer uyumu, çeşitli taraflara hizmet eden karmaşık bir yapay zeka aracı sistemine “tasarlanamaz”; toplumdaki ilgili katılımcı dizisine hizmet eden ve bunların çıkarları arasında uyum ve denge arayan aracı sistemlerin etkileşiminden ortaya çıkmalıdır.

Çevrimiçi hale geldikçe bu sosyal aracılık süreci ve ekosistemi ihmal edildi – bu, insanların her zaman “sosyal güven” oluşturmak için kullandıkları süreçtir, bireysel faaliyetin epistemiklerini, değerlerini, söylemlerini ve eylemlerini nasıl bilgilendirdiğini aracılık eder. Bu insan ” sosyalliğinin ” teknolojik olarak ortadan kaldırılması – platformlar ve merkezi olarak kontrol edilen yapay zeka tarafından sentezlenen yapay bir sosyallikle değiştirilmesi – insanlığın doğasını tehdit ediyor. Bireysel ve sosyal güveni oluşturmak için süreçleri koruma, canlandırma ve artırma başarısızlığı sosyal medyamızda zaten tahribata yol açtı. Şu anda ortaya çıkan ve ölçeklenen daha gelişmiş yapay zeka kullanımlarında benzer şekilde ihmal edilirse topluma çok daha büyük zarar vermesi beklenebilir. Sosyal medyadaki mevcut demokratik, meşruiyet, etki, epistemik ve değer endişelerini ele almak için sosyal aracılık süreçlerini dijital biçimde yeniden yaratma fikirlerinden yararlanmalıyız – bunun yapay zeka aracılarının diğer kullanımlarına nasıl çevrileceğini düşünmeliyiz.

Bireysel ve Toplu Temsilciliği Yapay Zeka’ya Getirmek – Birlikte Çalışma

Çevrimiçi ve yapay zeka alanında, insan merkezli arabuluculuk yalnızca bireysel faaliyet için değil, aynı zamanda organik insan sosyal işbirliği/müzakere sürecini güçlendirmek ve arabuluculuk etmek için bireysel faaliyetin uygulanması için de destek gerektirir. Bu, çeşitli topluluk epistemik ve değer kültürlerini ele almayı ve uzlaştırmayı içerir – ve bunları, özgürlüğü ve demokrasiyi koruyan şekillerde, bizi şekillendireceğimiz gibi, bizi de şekillendirecek yapay zeka modellerini yaratmada ve kullanmada yansıtır. Bu, ABD Anayasası’nın kurucularını şekillendiren Federalist Makaleler ruhuna uygun olarak, yakın zamanda yayınlanan “Dijitalist Makaleler ” koleksiyonunu bilgilendiren yukarıdan aşağıya ve aşağıdan yukarıya etki (“yardımcılık”) uyarlanabilir karışımıyla uyumludur ve onu tamamlar. Ayrıca , işbirlikçi müzakere süreçlerini çevrimiçi dünyaya entegre edecek ” dijital demokrasi ” ye doğru hareketlerle de uyumludur .

Teknik düzeyde, bu ilerlemeler, çeşitli sistemlerin basit ve iyi tanımlanmış şekillerde birlikte çalışmasını sağlayan türde yığılmış protokol yapısı kullanılarak, hem yatay (platformlar arasında) hem de dikey (aracılar ve platformlar arasında) – birlikte çalışmasını gerektirir. Önemli bir zorluk, kişisel ve kurumsal ‘lar için, aralarında ve içinde ve platformlar ve bulut hizmetleri tarafından sağlanan Büyük Dil Modelleri (LLM’ler) ile belirli kullanıcılara veya topluluklara hizmet eden Küçük Dil Modelleri (SLM’ler) arasında erişim fırsatları yaratmak da dahil olmak üzere birlikte çalışabilirliği desteklemek için gereken pazar açıklığı ve yönetişim rejimlerini ele almak olacaktır.

Kişisel aracılara ilişkin bazı örnekleri ve aracılık hizmet görevlerinin özen ve sadakatini ve son kullanıcıları etkileşimde bulundukları kuruluşlardan ve bireylerden korumada söz konusu olan demokratik özgürlük sorunlarını ve bu tür birden fazla aracının hem yatay hem de dikey olarak nasıl birlikte çalışabileceğini ele alalım:

Elbette anlaşılması ve ele alınması gereken hem teknik hem de sosyoteknik açıdan pek çok karmaşık konu var.

  • En önemlisi, işletmelerin ajansal kişisel ‘ların geliştirilmesini desteklemeye direnmesi olasılığıdır . -to- interop gibi yenilikler tarafından kontrol edilmeyen dar ekonomik teşvikler, sadık kullanıcı ajanları yerine platform ajanlarının geliştirilmesini destekleyecektir.
  • Muhtemelen önemli olacak bir diğer birlikte çalışabilirlik gereksinimi, farklı gizlilik/güvenlik kontrol karışımlarını barındırmak için aracılık ve aracılık uygulayan en az iki düzeyde ara yazılım aracısına aracı hizmetlerini ayırmaktır (bu makalede ve bu slaytlarda açıklandığı gibi ). Sıkı kontrol örnekleri arasında hassas kişisel verilerin (özellikle çok taraflı kişisel verilerin) veri aracı , işbirlikçi veya emanet aracılar aracılığıyla korunması, akışlarda veya önerilerde kişisel veya haber öğeleri oluşturma/sıralama gibi daha gevşek bir şekilde kontrol edilen ve açık kullanıcı aracı işlevleri çeşitliliğine karşıdır.

Bu girişimin karmaşıklığı bizi korkutmamalı. Yüzyıllar boyunca evrimleşerek açık piyasalar ve demokratik özgürlükler konusundaki daha yakın tarihli deneylerimizi destekleyen insan sosyal yapıları ve süreçlerinden, yapay zeka artı insan formunda etkili olacak şekilde bir gecede yeniden tasarlanmasını nasıl bekleyebiliriz?

Sonuçlar ve Öneriler

  • Demokratik özgürlükleri korumak için, yapay zeka ajanlarının burada ana hatları çizilen iki boyutu da ele alması gerekir: biri şu anda gelişmekte olan yetenek boyutu (etkenlik) diğeri ise daha az dikkat çeken ilişki boyutu (etkenlik, kime hizmet edildiği).
  • Gerçek “uyum” ve “Yapay Zeka güvenliği”, Yapay Zeka ajanlarının ve ilgili hizmetlerin bireysel ve toplumsal değerlere yalnızca yüzeysel olarak “uyum” sağlamasını değil, sadakatle hizmet etmesini gerektirecektir.
  • Faallik sağlamaya yönelik sadık ilişkiler öncelikle bireyler için geçerlidir, ancak aynı zamanda resmi ve gayrı resmi kolektifler için de geçerlidir; çünkü bunlar bireysel destekçileri tarafından güçlendirilirler.
  • Bu tür sadık aracısal ilişkilere, sosyal medyada ara yazılım aracı hizmetleri biçiminde ihtiyaç duyulurken, diğer alanlarda ise öncelikli olarak geliştiricilerine değil kullanıcılarına hizmet eden aracı hizmetleri biçiminde ihtiyaç duyulmaktadır.
  • Büyük kurumsal platformları, “kullanıcılarının” (daha uygun bir şekilde “müşteriler” olarak düşünülebilir) ve “toplumun” (nasıl tanımlanırsa tanımlansın) çıkarları doğrultusunda hareket etmeye zorlamak, bu çıkarlarla uyumluluğa dr ince bir görüntüden fazlasını elde etmek için yeterli olmayacaktır.
  • Kamusal yapay zeka, kurumsal yapay zekanın paha biçilmez bir tamamlayıcısı olabilir; ancak kamusal yapay zekanın ihtiyaç duyduğu özgürlük ve demokrasi seviyelerini en üst düzeye çıkarabilmesi için zengin birlikte çalışabilirlik ve bireysel kullanıcılar ile topluluklarla gerçek anlamda aracılık ilişkileri olmazsa olmazdır.
  • Kamu politikası, kaynağı ne olursa olsun, son kullanıcılarına karşı sorumlu olan ve dinamik olarak değişen ihtiyaçları karşılamak için açıkça genişletilebilen, birlikte çalışabilir aracı çözümlere ilişkin hakkı güvence altına alan ve destekleyen teknoloji, iş, pazar, yasal ve düzenleyici politikaların geliştirilmesini ve uygulanmasını desteklemelidir.
  • Kamu politikalarının kararlılığı ne düzeyde olursa olsun, tüketici ve yurttaş bilincinin de bu yönde, aşağıdan yukarıya doğru eğitilmesi gerekiyor.
  • Bu hedeflere ulaşmak zaman alacak ve kullanıcı talebi ile geliştirici arzını uyumlu hale getirerek yüksek düzeyde aracılık hizmetinin sağlanmasını garanti altına alan politika ve piyasa güçlerinin birleşimine bağlı olacaktır.

Hem bireylere hem de topluluklara sadakatle hizmet eden aracısal ilişkileri mümkün kılan derin ve esnek bir birlikte çalışabilirlik desteği olmadan, yapay zeka aracıları demokratik özgürlükleri genişletme ve insanlığın gelişmesini destekleme vaatlerini yerine getiremeyecektir.

 

 

 

https://www.techpolicy.press/new-perspectives-on–agentiality-and-democracy-whom-does-it-serve/

 

 

 

Scroll to Top