SB 1047 Sayılı Yasa, eyaletin en büyük yapay zeka şirketlerine halkı zarardan korumak için tasarlanmış güvenlik önlemleri uygulamasını getirecekti.
10’uncu sayımızda Kaliforniya YZ yasası ile ilgili olarak özetle şu açıklamayı yapmıştık. “Kaliforniya Valisi Gavin Newsom, eyalet meclisinde son aşamayı geçen, teknoloji şirketlerine sıkı düzenlemeler getirmeyi öneren tartışmalı yapay zeka tasarısını yasalaştırmak mı yoksa veto etmek mi gerektiğini değerlendirecek.
Demokrat Newsom, Silikon Vadisi’ni bölen yasa tasarısıyla ilgili kararını 30 Eylül’e kadar açıklayacak.
Yasa tasarısı, eyalette yapay zeka modelleri geliştiren teknoloji gruplarını ve yeni kurulan şirketleri sıkı bir güvenlik çerçevesine uymaya zorlayacak. OpenAI, Anthropic ve Cohere gibi en büyük yapay zeka girişimlerinin yanı sıra yapay zeka modellerine sahip Big Tech şirketleri de bu yasa tasarısının yetki alanına girecek.
Google, Meta ve OpenAI dahil olmak üzere eyaletteki en büyük teknoloji ve AI şirketlerinden bazıları son haftalarda yasa tasarısıyla ilgili endişelerini dile getirirken, Amazon destekli Anthropic ve AI girişimi xAI’nin sahibi Elon Musk gibi diğerleri desteklerini dile getirdi.
SB 1047 olarak bilinen Sınır Yapay Zeka Sistemleri için Güvenli ve Emniyetli Yenilik yasası, eyalette faaliyet gösteren ve geliştirilmesi 100 milyon dolardan fazla maliyet gerektiren veya yüksek düzeyde bilgi işlem gücü gerektiren gelişmiş AI modelleri için güvenlik testi yapılmasını zorunlu kılıyor”
Ancak Kaliforniya Valisi (SB 1047) sayılı yasayı veto etti.
Bu konudaki gelişmeler şöyle:
Kaliforniya Valisi Gavin Newsom 29 Eylül 2024 tarihinde “Güvenli ve Emniyetli Yenilik Sınır Yapay Zeka Modelleri Yasası’nı (SB 1047 )” veto etti. Vali Newsom veto mesajında , yasa tasarısının yapay zeka şirketlerine yükleyeceği yük, Kaliforniya’nın bu alandaki liderliği ve yasa tasarısının çok kapsamlı olabileceği eleştirisi de dahil olmak üzere kararında birden fazla faktöre atıfta bulundu.
“İyi niyetli olsa da, SB 1047 bir AI sisteminin yüksek riskli ortamlarda konuşlandırılıp konuşlandırılmadığını, kritik karar alma süreçlerini veya hassas verilerin kullanımını hesaba katmıyor. Bunun yerine, yasa tasarısı en temel işlevlere bile katı standartlar uyguluyor; büyük bir sistem konuşlandırdığı sürece. Bunun, kamuoyunu teknolojinin oluşturduğu gerçek tehditlerden korumak için en iyi yaklaşım olduğuna inanmıyorum.”
Newsom, yasa tasarısının “halka bu hızla ilerleyen teknolojinin kontrolü konusunda yanlış bir güvenlik hissi verebileceğini” yazıyor.
“SB 1047’nin hedef aldığı modellerden daha küçük, uzmanlaşmış modeller, en az onlar kadar hatta daha tehlikeli olarak ortaya çıkabilir; bu da kamu yararına ilerlemeyi besleyen yeniliğin kısıtlanması pahasına olabilir.”
Vali, güvenlik protokolleri ve bariyerlerin olması gerektiği ve kötü aktörler için “açık ve uygulanabilir” sonuçlar olması gerektiği konusunda hemfikir olduğunu söylüyor. Ancak, devletin “AI sistemleri ve yeteneklerinin deneysel bir yörünge analiziyle bilgilendirilmeyen bir çözümle yetinmesi” gerektiğine inanmadığını belirtiyor.
İşte veto mesajının tamamı:
Yasa tasarısının baş yazarı Senatör Scott Wiener, X sitesinde yaptığı paylaşımda , vetoyu “kamu güvenliği ve refahı ile “gezegenin geleceğini” etkileyen kritik kararlar alan büyük şirketlerin denetimine inanan herkes için bir aksilik” olarak nitelendirdi.
“Bu veto bizi, son derece güçlü bir teknoloji yaratmayı amaçlayan şirketlerin, özellikle Kongre’nin teknoloji sektörünü anlamlı bir şekilde düzenleme konusunda devam eden felci göz önüne alındığında, ABD’li politikacıların bağlayıcı kısıtlamalarıyla karşılaşmayacağı gibi rahatsız edici bir gerçekle karşı karşıya bırakıyor.”
Ağustos ayı sonlarında Vali Newsom’un masasına gelen SB 1047, ABD’de yapay zeka konusunda en katı yasal düzenleme olma yolunda ilerliyordu ve 30 Eylül itibarıyla yasanın imzalanması veya veto edilmesi için son tarih belirlenmişti.
Kaliforniya’da iş yapan kapsam dahilindeki AI şirketlerine, eğitmek için 100 milyon dolardan fazla veya ince ayar yapmak için 10 milyon dolardan fazla maliyeti olan bir modelle uygulanabilirdi ve geliştiricilerin “kill switch” gibi güvenlik önlemlerini uygulaması ve siber saldırı veya pandemi gibi felaketli olayların olasılığını azaltmak için test protokolleri düzenlemesi gerekliliklerini eklerdi. Metin ayrıca ihbarcıların ihlalleri bildirmeleri için korumalar oluşturur ve Başsavcının güvenlik olaylarından kaynaklanan zararlar için dava açmasına olanak tanır.
İlgili
- Hollywood, Kaliforniya’nın yapay zeka güvenliği yasası için güçlü bir şekilde ortaya çıkıyor
- Kaliforniya yapay zeka sektörünü altüst edecek mi?
Girişinden bu yana yapılan değişiklikler arasında yeni bir düzenleyici kurum için tekliflerin kaldırılması ve eyalet başsavcısına, potansiyel olaylar meydana gelmeden önce geliştiricileri dava etme yetkisi verilmesi yer aldı. Yasanın kapsadığı şirketlerin çoğu, bu değişikliklerden sonra eleştirilerini sustursa da, yasaya karşı çıktı.
Yasa tasarısı yazarı Senatör Wiener’a yazdığı mektupta, OpenAI baş strateji görevlisi Jason Kwon, SB 1047’nin ilerlemeyi yavaşlatacağını ve bunun yerine federal hükümetin AI düzenlemesini ele alması gerektiğini söyledi. Bu arada, Anthropic CEO’su Dario Amodei, yasa tasarısı değiştirildikten sonra valiye yazdığı mektupta , algılanan artılarını ve eksilerini sıraladı ve “…yeni SB 1047, faydalarının maliyetlerinden muhtemelen daha ağır bastığı noktaya kadar önemli ölçüde iyileştirildi.” dedi.
Amazon, Meta ve Google’ı temsil eden bir koalisyon olan İlerleme Odası da benzer şekilde, yasanın “inovasyonu engelleyeceği” konusunda uyardı.
Google sözcüsü Jenn Crider, The Verge’e gönderdiği e-postada şunları söyledi :
“Kaliforniya’nın, ülkemizin ve dünyanın yararına olan sorumlu AI araçlarının oluşturulmasında Kaliforniya’nın liderliğini sürdürmesine yardımcı olduğu için Vali Newsom’a teşekkür eden birçok küçük ve büyük geliştiriciye katılıyoruz. Valinin sorumlu AI girişimi ve federal hükümetle birlikte uygun güvenlik önlemleri oluşturmak ve herkese yardımcı olan araçlar geliştirmek için çalışmayı dört gözle bekliyoruz.”
Meta’nın halkla ilişkiler müdürü Jamie Radice, Meta’nın veto hakkındaki açıklamasını The Verge’e e-postayla gönderdi :
“Vali Newsom’un SB1047’yi veto etmesinden memnunuz. Bu yasa tasarısı yapay zeka inovasyonunu engelleyecek, iş büyümesini ve iş yaratmayı olumsuz etkileyecek ve eyaletin açık kaynaklı geliştirmeyi destekleme konusundaki uzun geleneğini bozacaktı. Sorumlu yapay zeka düzenlemelerini destekliyoruz ve daha iyi yaklaşımları teşvik etmek için yasa koyucularla ortaklık kurmaya kararlıyız.”
Yasa tasarısının muhalifleri arasında eski Temsilciler Meclisi Başkanı Nancy Pelosi, San Francisco Belediye Başkanı London Breed ve Kaliforniya’dan sekiz kongre Demokratı yer aldı. Öte yandan, vetoyu yüksek sesle destekleyenler arasında Elon Musk , Mark Hamill, Alyssa Milano, Shonda Rhimes ve JJ Abrams gibi önemli Hollywood isimleri ve SAG-AFTRA ve SEIU gibi sendikalar yer aldı.
Federal hükümet ayrıca AI’yı düzenlemenin yollarını da araştırıyor. Mayıs ayında Senato, seçimler, ulusal güvenlik, telif hakkıyla korunan içerik ve daha fazlası üzerindeki AI’nın etkisi de dahil olmak üzere yasa koyucuların incelemesi gereken birkaç alanı ele alan 32 milyar dolarlık bir yol haritası önerdi.
https://www.theverge.com/2024/9/29/24232172/california-ai-safety-bill-1047-vetoed-gavin-newsom