Sorumluluk mekanizmalarından vazgeçilmesi tehlikeli bir düzenleyici boşluk yaratma riskini taşır.
YZ yönetimine ilişkin tartışma , eyalet YZ düzenlemeleri için on yıllık bir moratoryum için son federal tekliflerin ardından yoğunlaştı . Bu önleyici yaklaşım, ortaya çıkan hesap verebilirlik mekanizmalarının yerini düzenleyici bir boşlukla değiştirme tehdidinde bulunuyor.
Kevin Frazier, yakın tarihli YZ Frontiers makalesinde , yeniliği engelleyecek ve daha küçük geliştiricileri dezavantajlı duruma düşürecek parçalanmış eyalet düzeyindeki sorumluluk kurallarını önlemek için gerekli gördüğü federal bir moratoryumun lehinde argümanlar sunuyor . Frazier (Teksas Üniversitesi, Austin Hukuk Fakültesi’nde YZ İnovasyon ve Hukuk Üyesi) ayrıca, YZ normlarının henüz yeni olması nedeniyle, YZ sorumluluğu için mevcut haksız fiil hukukuna güvenmenin erken olacağını iddia ediyor. Frazier, hakimlerin ve eyalet hükümetlerinin sorumluluğu tutarlı bir şekilde uygulamak için teknik uzmanlığa ve kapasiteye sahip olmadığı konusunda uyarıyor.
Ancak Frazier, eyalet yasalarının YZ sorumluluğu atamasına izin verme konusunda önemli endişeler dile getirirken, hem federal düzenlemenin sınırlarını hem de sorumluluğun benzersiz avantajlarını küçümsüyor. Sorumluluk, YZ sistemlerinin oluşturduğu en acil risklerin çoğunu ele almak için en uygun politika aracını temsil eder. Üstünlüğü üç temel avantajdan kaynaklanır. Sorumluluk özellikle şunları yapabilir:
- Risklerin olasılığı ve ciddiyeti konusunda yaygın bir fikir ayrılığına rağmen etkili bir şekilde işlev görmek
- Makul önlemlerden ziyade en iyi önlemleri teşvik edin
- Piyasa mekanizmalarının bunu başaramadığı durumlarda üçüncü taraf zararlarını ele alın
Frazier, “YZ etrafındaki toplumsal normlar hala şekilleniyor ve teknoloji henüz tam olarak anlaşılmış değil” şeklinde doğru bir gözlemde bulunuyor. Ancak, bu gözlemden yanlış bir sonuç çıkardığına inanıyorum. Uzmanlar, politika yapıcılar ve kamuoyu arasında YZ riskleri ve ciddiyetleri konusunda derin bir fikir ayrılığı olması, olası suistimalleri engellemek için sorumluluk çerçevelerinin kullanılmasına karşı bir argüman oluşturmaz. Aksine, bunların kullanımını vazgeçilmez hale getirir.
Anlaşmazlık ve Belirsizlik
Yapay zeka riskleri hakkındaki anlaşmazlık, teknik değerlendirmedeki farklılıklardan daha fazlasını yansıtıyor. Ayrıca, yapay zeka gelişiminin hızı, felaket sonuçlarının olasılığı ve yenilik ile önlem arasındaki uygun denge hakkında temel soruları da kapsıyor. Bazı araştırmacılar , gelişmiş yapay zeka sistemlerinin yüksek olasılıklı ve yakın varoluşsal tehditler oluşturduğunu ve acil düzenleyici müdahaleyi gerektirdiğini savunuyor. Diğerleri, bu tür endişelerin abartılı olduğunu ve erken düzenlemenin faydalı yeniliği engelleyebileceğini savunuyor.
Bu tür anlaşmazlıklar geleneksel düzenleyici yaklaşımlarda felç yaratır. Gerçekleşmeden önce riskleri ele almak için tasarlanmış reçeteli düzenlemeler — yasal bağlamlarda “ex ante” olarak bilinir, “gerçekleşmeden önce” anlamına gelir — genellikle kurallar daha katı hale geldikçe artan önemli ön maliyetler gerektirir. Bu tür kuralları geçirmek, altta yatan riskler ve bunları azaltmak için katlanmaya istekli olduğumuz maliyetler hakkında toplumsal fikir birliği gerektirir.
Yapay zekada olduğu gibi, uzman görüşleri temel sorular hakkında önemli ölçüde farklılık gösterdiğinde, ya etkisiz bir şekilde izin verici ya da ters etki yaratan kısıtlayıcı düzenlemeler ortaya çıkabilir. Bu tür anlaşmazlıkları çözmekten ziyade büyütme eğiliminde olan siyasi süreç, bu iğneyi etkili bir şekilde geçirmek için çok az rehberlik sağlar.
Onay tabanlı sistemler benzer zorluklarla karşı karşıyadır. Onay tabanlı bir sistemde (örneğin, Gıda ve İlaç DYZresi’nin reçeteli ilaçlara ilişkin düzenlemeleri), düzenleyiciler yeni ürün ve teknolojileri kullanılmadan önce resmen onaylamalıdır. Bu nedenle, düzenleyicilerin kabul edilebilir ve kabul edilemez riskler arasında ayrım yapma becerisine bağlıdırlar; bu, temel değerlendirmeler tartışmalı olmaya devam ettiğinde zor bir görevdir.
Sorumluluk sistemleri ise, aksine, önemli anlaşmazlıklar arasında bile etkili bir şekilde çalışır. Uygun risk seviyeleri hakkında önceden fikir birliğine ihtiyaç duymazlar; bunun yerine, “sonradan” hesap verebilirlik atarlar. Sorumluluk, bireysel davacıların gerçek yaralanmalar yaşadığı durumlarda ortaya çıktığı gibi, riskle otomatik olarak ölçeklenir. Bu, YZ risklerinin büyüklüğü hakkında geniş toplumsal anlaşmazlıkların önceden çözülmesi ihtiyacını ortadan kaldırır.
Dolayısıyla, Frazier ve ben hükümetlerin yapay zeka risk yönetiminde sınırlı uzmanlığa sahip olduğu konusunda hemfikir olsak da, bu aslında piyasa teşvikleri yoluyla özel sektör uzmanlığını kısıtlayıcı kurallarla yerinden etmek yerine onu kullanan sorumluluk davasını zayıflatmaktan ziyade güçlendiriyor.
Makul Özen ve Kesin Sorumluluk
Frazier ve ben ayrıca ihmal temelli sorumluluğun sınırları konusunda bazı ortak noktalara sahibiz . Geleneksel ihmal doktrini, genellikle makul bir kişinin benzer koşullar altında uygulayacağı özen düzeyi olarak tanımlanan “makul özen” gösterme görevini empoze eder. Bu standart birçok alanda haksız fiil hukukuna iyi hizmet etmiş olsa da, yapay zeka sistemleri, geleneksel makul özen analizini en önemli riskleri yönetmek için yetersiz kılabilecek benzersiz zorluklar sunar.
Uygulamada, mahkemeler bir sanığın makul özen gösterip göstermediğini değerlendirirken oldukça dar bir soruşturma yapma eğilimindedir. Bir SUV sürücüsü bir yayaya çarparsa, mahkemeler genellikle bu belirli araba yolculuğunun net sosyal faydalarının diğer yol kullanıcıları için oluşturduğu yaralanma riskini haklı gösterip göstermediğini sorgulamaz. Ayrıca bir mahkeme, bir SUV sürmenin (daha hafif bir sedan yerine) ekstra faydalarının, daha ağır aracın üçüncü taraflara oluşturduğu ekstra riskleri haklı gösterip göstermediğini de sormaz. Bu sorular makul özen soruşturmasının kapsamı dışında ele alınır. Bunun yerine, mahkemeler sürücünün sarhoş olup olmadığı, mesajlaşıp mesajlaşmadığı veya hız yapıp yapmadığı gibi sorulara odaklanır.
Yapay zeka bağlamında, yapay zeka şirketlerinin yerleşik hizalama teknikleri ve güvenlik uygulamaları uygulayıp uygulamadığını soran benzer şekilde dar bir ihmal analizi bekliyorum. Mevcut yapay zeka hizalama ve güvenlik bilgisi durumu göz önüne alındığında, belirli üst düzey özelliklere sahip bir yapay zeka sistemi geliştirmenin makul olup olmadığına dYZr sorular beklemiyorum.
Ancak ihmalkarlık daha geniş kapsamlı yukarı akış suçluluğunu ele alma yeteneğinde sınırlı olsa da, sorumluluk yine de bununla başa çıkabilir. Kesin sorumluluk altında, davalılar faaliyetlerinin tüm sosyal maliyetlerini içselleştirir. Bu yapı, marjinal maliyetlerin marjinal faydalara eşit olduğu noktaya kadar önlem yatırımını teşvik eder. Özel ve sosyal teşvikler arasındaki böyle bir uyum, makul özen standartları sistematik olarak optimum önlem seviyesini hafife alabildiğinde özellikle değerli olduğunu kanıtlar.
Üçüncü Taraf Zararlarının Muhasebeleştirilmesi
Sorumluluk sistemlerinin bir diğer önemli özelliği, üçüncü taraf zararlarını ele alma kapasiteleridir: YZ sistemlerinin, sistemin operatörüyle sözleşmesel veya başka bir piyasa ilişkisi olmayan taraflara zarar verdiği durumlar. Bu senaryolar, özel teşviklerin sosyal refahtan keskin bir şekilde saptığı ve bir tür politika müdahalesini gerektiren klasik piyasa başarısızlığı sorunlarını sunar.
Yapay zeka sistemleri doğrudan kullanıcılarına zarar verdiğinde, piyasa mekanizmaları bir miktar düzeltici baskı sağlar. Yapay zeka sistemlerinden zarar gören kullanıcılar işlerini rakiplere götürebilir, tazminat talep edebilir veya bu tür sistemlerden tamamen kaçınabilir. Bu piyasa tepkileri kusurlu olabilirken (özellikle zararların tespit edilmesi zor olduğunda veya kullanıcılar geçiş maliyetleriyle karşı karşıya kaldığında) organik bir geri bildirim mekanizması sağlayarak yapay zeka sistemi operatörlerini güvenliğe yatırım yapmaya teşvik eder.
Üçüncü taraf zararları tamamen farklı bir dinamik sunar. Bu gibi durumlarda, sistem arızalarının maliyetlerini üstlenen taraflar daha güvenli tasarım veya operasyon talep etmek için hiçbir pazar kaldıracına sahip değildir. Yapay zeka geliştiricileri, dağıtıcıları ve kullanıcıları faaliyetlerinin faydalarını içselleştirirken (kullanıcılardan elde edilen gelir, otomasyondan kaynaklanan maliyet tasarrufları, yapay zeka yeteneklerinden kaynaklanan rekabet avantajları) maliyetlerin çoğunu üçüncü taraflara aktarır. Politika müdahalesi olmadan, bu durum üçüncü tarafları koruyan güvenlik önlemlerine sistematik olarak yetersiz yatırım yapılmasına yol açar.
Sorumluluk sistemleri, YZ sistem operatörlerini üçüncü taraflara yükledikleri maliyetleri içselleştirmeye zorlayarak bu dışsallık sorununu doğrudan ele alır. YZ sistemleri insanlara zarar verdiğinde, sorumluluk kuralları YZ şirketlerinin mağdurları tazmin etmesini gerektirir. Bu, YZ şirketlerini üçüncü tarafları koruyan güvenlik önlemlerine yatırım yapmaya teşvik eder. YZ şirketleri, yüksek seviyeli sistem mimarisi değişiklikleri, uyum ve yorumlanabilirlik araştırmalarına daha fazla yatırım yapma ve dağıtımdan önce yeni modelleri test etme ve kırmızı takım oluşturma, potansiyel olarak geniş dahili dağıtım dahil olmak üzere, bu tür önlemleri belirlemek için en iyi konumdadır.
Bu mekanizmanın gücü, üçüncü taraf zararlarını azaltma sorununa yönelik alternatif yaklaşımlarla karşılaştırıldığında açıktır. Reçeteli düzenleme, düzenleyicilerin uygun risk azaltma önlemlerini önceden belirlemesini gerektirebilir; bu, yapay zeka teknolojisinin hızlı evrimi göz önüne alındığında zorlu bir görevdir. Onay tabanlı sistemler, özellikle riskli sistemlerin dağıtımını önleyebilir, ancak sistemler onaylandıktan sonra güvenlik yatırımı için sınırlı sürekli teşvikler sağlarlar. Yalnızca sorumluluk sistemleri, operatörlerin sistemlerinin yaşam döngüsü boyunca maliyet açısından etkili güvenlik önlemlerini belirlemeleri ve uygulamaları için sürekli teşvikler yaratır.
Ayrıca, sorumluluk sistemleri, şirketlere belirli düzenleyici gerekliliklere uyumun ötesine uzanan güvenlik uzmanlığı geliştirmeleri için teşvikler yaratır. Reçeteli düzenleme kapsamında, şirketler belirtilen gereklilikleri karşılamak için teşviklere sahiptir ancak bunları aşmak için çok az nedenleri vardır. Sorumluluk sistemleri kapsamında, şirketler düzenleyiciler tarafından açıkça öngörülmese bile riskleri belirleme ve ele alma konusunda teşviklere sahiptir. Bu, güvenlik yönetimine daha sağlam ve uyarlanabilir bir yaklaşım yaratır.
Eyalet Düzeyinde Sorumluluk
Frazier’in eyalet düzeyindeki yapay zeka düzenlemelerinin bir karmaşası hakkındaki endişeleri ciddi bir incelemeyi hak ediyor, ancak analizi bu tür tutarsızlıkların hem olasılığını hem de sorunlu sonuçlarını abartıyor. Eleştirisi, sorumluluk sistemlerinin içsel uyumlu özelliklerini görmezden gelirken farklı düzenleyici gereklilik türlerini birbirine karıştırıyor.
Öncelikle, sorumluluk kuralları yargı bölgeleri arasında diğer düzenleme biçimlerine göre daha büyük doğal tutarlılık sergiler. Frazier, “belirsiz sorumluluk gereklilikleri” ve şirketlerin “düzinelerce eyalet düzeyindeki yasayı idare etmesi” gerektiği konusunda endişelidir. Ancak, haksız fiil hukukunun altında yatan genel hukuk geleneği, reçeteli düzenlemelerin sahip olmadığı uyumlaştırma yönünde baskılar yaratır. Temel ihmal ilkeleri – görev, ihlal, nedensellik ve zararlar – federal bir zorunluluk olmamasına rağmen eyaletler arasında dikkate değer bir şekilde tutarlı kalır.
Daha da önemlisi, katı sorumluluk rejimleri patchwork sorunlarından tamamen kaçınır. Katı sorumluluk altında, şirketler ihtiyati çabalarından veya karşıladıkları belirli gerekliliklerden bağımsız olarak, neden oldukları zarardan sorumludur. Bu yaklaşım, eyaletler arasında değişebilecek hiçbir uyumluluk bileşeni oluşturmaz. Katı sorumluluk rejimi altında YZ sistemleri geliştiren bir şirket her yerde aynı temel teşvikle karşı karşıyadır: Sistemlerinizi, yarattıkları sorumluluk riskini haklı çıkaracak kadar güvenli hale getirin.
Frazier’in , tasarlamamda yardımcı olduğum Rhode Island Senato Tasarısı 358’e yönelik eleştirisi , hükümlerinin bazı yanlış nitelendirmelerini yansıtıyor. Tasarı, yapay zeka sistemlerinin haksız davranışlarda bulunabileceği ancak kimsenin sorumlu tutulamayacağı mevcut yasadaki boşluğu kapatmak için tasarlanmıştır.
Bir kullanıcının kârlı bir internet işi başlatması için talimat verdiği bir aracı YZ sistemini düşünün. YZ sistemi, bunu yapmanın en kolay yolunun kimlik avı e-postaları göndermek ve masum insanların kimliklerini çalmak olduğunu belirler. Ayrıca izlerini örter, bu nedenle kullanıcının makul özeni bu etkinliği ne önler ne de tespit eder. Böyle bir durumda, mevcut Rhode Island yasası masum üçüncü taraf davacıların, geliştiricilerin yaralanmayı önleyecek belirli bir önlem almadığını kanıtlamasını gerektirir ki bu mümkün olmayabilir.
SB 358 uyarınca, davacının, bir insanın bu sisteme dahil olması durumunda YZ sisteminin davranışının haksız fiil olacağını ve ne kullanıcının ne de modeli ince ayarlayan veya destekleyen bir aracının sistemin haksız fiil davranışını amaçlamadığını veya makul bir şekilde öngöremeyeceğini kanıtlaması yeterli olacaktır. Yani, yasa tasarısı, YZ sistemleri masum insanlara haksız yere zarar verdiğinde, birinin sorumlu olması gerektiğini savunmaktadır. Kullanıcı ve sistemi değiştiren herhangi bir aracı masumsa, sorumluluk model geliştiricisinde kalmalıdır.
Bu yaklaşımla ilgili bir endişe, bazı haksız fiillerin unsurlarının davalının zihinsel durumlarını etkilemesidir ve birçok kişi YZ sistemlerinin herhangi bir zihinsel duruma sahip olarak anlaşılabileceğinden şüphe duymaktadır. Bu nedenle, SB 358, yargıcın veya jürinin, bir insanın YZ sistemininkine benzer bir davranışta bulunursa ilgili zihinsel duruma sahip olduğu sonucuna varacağı durumlarda, aynı çıkarımın YZ zihinsel durumları için de geçerli olması gerektiği yönünde çürütülebilir bir varsayım yaratır.
Yapay Zeka Federalizmi
Eyalet düzeyindeki YZ sorumluluğu, mevcut düzenleyici boşluğa kıyasla önemli bir iyileştirmeyi temsil etse de, YZ sorumluluk kurallarının federalleştirilmesi için bir argüman olduğunu düşünüyorum. Alternatif olarak, daha fazla eyalet, mevcut YZ hesap verebilirlik açığını kapatmaya yardımcı olacak dar, katı sorumluluk mevzuatı (Rhode Island SB 358 gibi) benimseyebilir.
Federal bir yaklaşım daha fazla tutarlılık sağlayabilir ve YZ sistemi dağıtımının ulusal kapsamını yansıtabilir. Federal mevzuat ayrıca sorumluluk kurallarını sorumluluk sigortası gereklilikleri, güvenlik testi gereklilikleri, açıklama yükümlülükleri ve hükümet tedarik standartları gibi YZ yönetiminin diğer yönleriyle daha kolay koordine edebilir.
Ancak, federalleştirme davası, bir politika aracı olarak sorumluluğa karşı bir argüman değildir. Eyalet düzeyinde veya federal düzeyde uygulansın, sorumluluk sistemleri, diğer düzenleyici yaklaşımların eşleşemeyeceği YZ risklerini yönetmek için benzersiz avantajlar sunar. Temel içgörü, sorumluluğun etkili olması için federal olması gerektiği değil, sorumluluğun -hangi düzeyde olursa olsun- YZ yönetimine yönelik, hem reçeteli düzenlemeden hem de onay tabanlı sistemlerden daha üstün bir yaklaşımı temsil ettiğidir.
Frazier’in analizi, eyalet düzeyindeki yapay zeka sorumluluğunun federal öncelemesi için destekle sonuçlanıyor ve ABD Temsilciler Meclisi uzlaştırma tasarısının “geniş bir yelpazedeki eyalet yapay zeka düzenlemeleri için 10 yıllık bir moratoryum” içerdiğini belirtiyor. Ancak bu moratoryum, hiçbir hesap verebilirlik olmaksızın ortaya çıkan eyalet düzeyindeki hesap verebilirlik mekanizmalarının yerini alacak.
Önerilen 10 yıllık moratoryum, yapay zeka risklerine yanıt vermek için iki yol bırakacaktır. Bir yol, Kongre’nin federal mevzuatı geçirmesi olacaktır. Kongre’nin teknoloji düzenlemesi konusundaki geçmiş performansı göz önüne alındığında, böyle bir gelişmeye duyulan güven yersiz olacaktır.
İkinci yol, YZ risklerinin yasal hesap verebilirlik mekanizmaları aracılığıyla tamamen ele alınmadığı bir düzenleyici boşluğu kabul etmek olacaktır. Bazı yorumcular (Frazier’in onlardan biri olup olmadığından emin değilim) bu serbest piyasa senaryosunu, sorumluluk temelli bir yönetim çerçevesine aktif olarak tercih ediyor ve bunun YZ’nın faydalarını ortaya çıkarmak için inovasyonu en iyi şekilde teşvik ettiğini iddia ediyor. Bu görüş son derece hatalı. Sorumluluğun inovasyonu soğutacağı endişeleri abartılıyor. YZ, Frazier’in ve benim düşündüğümüz gibi vaat ediyorsa, geliştiriciler teknolojinin risklerini tamamen içselleştirdikten sonra bile, buna yatırım yapmak için hala çok güçlü teşvikler olacaktır.
Teşvik etmek istediğimiz şey, zarardan çok fayda sağlayan, toplumsal olarak faydalı bir yeniliktir. Yapay zeka geliştiricilerinin sistemleri zarar verdiğinde ödeme yapmasını sağlamak, teşviklerini dengeler ve bu daha büyük hedefi ilerletir. (Benzer şekilde, şirketlerin kirliliğin zararları için ödeme yapmasını zorunlu kılmak, bu kirlilik elektrik, çelik veya ulaşım gibi yararlı mal veya hizmetlerin üretiminin bir yan ürünü olsa bile mantıklıdır.)
Yapay zekanın riskleri ve faydaları konusunda derin bir anlaşmazlık olan bir dünyada, ortaya çıkan sorumluluk mekanizmalarını terk etmek tehlikeli bir düzenleyici boşluk yaratma riski taşır. Sorumluluğun benzersiz yetenekleri – dinamik olarak uyum sağlama, optimum güvenlik yatırımlarını teşvik etme ve üçüncü taraf zararlarını ele alma – onu vazgeçilmez kılar. İster eyalet düzeyinde ister federal düzeyde olsun, sorumluluk çerçeveleri herhangi bir etkili yapay zeka yönetim stratejisinin omurgasını oluşturmalıdır.
https://YZ-frontiers.org/articles/case-for-YZ-liability