Kaliforniya Valisi Gavin Newsom, eyalet meclisinde son aşamayı geçen, teknoloji şirketlerine sıkı düzenlemeler getirmeyi öneren tartışmalı yapay zeka tasarısını yasalaştırmak mı yoksa veto etmek mi gerektiğini değerlendirecek.
Demokrat Newsom, Silikon Vadisi’ni bölen yasa tasarısıyla ilgili kararını 30 Eylül’e kadar açıklayacak.
Yasa tasarısı, eyalette yapay zeka modelleri geliştiren teknoloji gruplarını ve yeni kurulan şirketleri sıkı bir güvenlik çerçevesine uymaya zorlayacak. OpenAI, Anthropic ve Cohere gibi en büyük yapay zeka girişimlerinin yanı sıra yapay zeka modellerine sahip Big Tech şirketleri de bu yasa tasarısının yetki alanına girecek.
Google, Meta ve OpenAI dahil olmak üzere eyaletteki en büyük teknoloji ve AI şirketlerinden bazıları son haftalarda yasa tasarısıyla ilgili endişelerini dile getirirken, Amazon destekli Anthropic ve AI girişimi xAI’nin sahibi Elon Musk gibi diğerleri desteklerini dile getirdi.
SB 1047 olarak bilinen Sınır Yapay Zeka Sistemleri için Güvenli ve Emniyetli Yenilik yasası, eyalette faaliyet gösteren ve geliştirilmesi 100 milyon dolardan fazla maliyet gerektiren veya yüksek düzeyde bilgi işlem gücü gerektiren gelişmiş AI modelleri için güvenlik testi yapılmasını zorunlu kılıyor.
ABD Kongresi henüz AI düzenlemesi için federal bir çerçeve oluşturmadı ve bu da teknoloji inovasyonu merkezi olan Kaliforniya’nın kendi planlarını ortaya koyması için bir fırsat bıraktı. Tasarıya göre, geliştiricilerin, modelleri ters gittiğinde onları kapatacak bir “kapatma düğmesi” oluşturmaları gerekecek ve uyumlu olmazlarsa ve modelleri kamu güvenliğini tehdit etmek için kullanılırsa eyalet başsavcılığı tarafından yasal işlemle karşı karşıya kalacaklar.
Ayrıca biyolojik veya nükleer silahlar yaratmak veya siber güvenlik saldırılarına yardımcı olmak gibi “tehlikeli bir kabiliyete” sahip modeller geliştirmeyeceklerini garanti etmeleri gerekecektir. Geliştiriciler, güvenlik uygulamalarını değerlendirmek ve olası AI suistimalleri konusunda ihbarcıları korumak için üçüncü taraf denetçiler işe almak zorunda kalacaklardır.
Aralarında Silikon Vadisi’ndeki bazı teknoloji grupları ve yatırımcıların da bulunduğu muhalifler, bunun yenilikçiliği engelleyeceğini ve yapay zeka şirketlerini eyaletten ayrılmaya zorlayacağını iddia ediyor. Meta’nın baş yapay zeka bilimcisi Yann LeCun, temmuz ayında X’te yazdığı yazıda, yasa tasarısının yapay zeka araştırma çabalarına zarar vereceğini belirtmiş, OpenAI ise yasa tasarısının yapay zeka şirketleri için belirsiz bir yasal ortam yaratacağı ve girişimciler ile mühendislerin Kaliforniya’yı terk etmesine yol açabileceği uyarısında bulunmuştu.
Ancak eleştirmenler, yasa tasarısının hala yeni kurulan şirketleri ağır ve bazen gerçekçi olmayan gerekliliklerle yüklediğini savunuyor. Destekçiler, hızla gelişen teknolojinin net bir düzenleyici çerçeveye ihtiyaç duyduğunu söylüyor. Tasarıyı destekleyen Google’ın eski AI başkanı Geoffrey Hinton bir açıklamada şunları söyledi: “Güçlü AI sistemleri inanılmaz bir vaat getiriyor, ancak riskler de çok gerçek ve son derece ciddiye alınmalı. “SB 1047, bu endişeleri dengelemek için çok mantıklı bir yaklaşım benimsiyor. Yapay zekanın bilim ve tıptaki gelişmeler yoluyla hayat kurtarma potansiyeli konusunda hâlâ tutkuluyum, ancak riskleri ele almak için gerçek güce sahip mevzuatlara sahip olmamız kritik önem taşıyor.”
Bu yılın başlarında yasa tasarısını sunan Demokrat Kaliforniya eyalet senatörü Scott Wiener, yasa tasarısı eyalet senatosundan geçtikten sonra şunları söyledi: “Yenilik ve güvenlik el ele gidebilir ve Kaliforniya bu yolda öncülük ediyor. Yasama organı, heyecan verici yeni bir teknolojinin ilerledikçe kamu çıkarını korumasını sağlamak için proaktif bir şekilde çalışarak gerçekten tarihi bir adım attı.”
https://www.ft.com/content/352b9cdb-9ed9-4dc9-94f3-115cab988c21