New York’un yeni Yapay Zeka Yoldaş Güvenliği Yasası artık yürürlükte ve bu, duygusal odaklı yapay zeka için bugüne kadarki en katı ABD düzenlemesi. Şirketler, kullanıcıların bir makineyle konuştuğunu defalarca ifşa etmek, uzun oturumları kesmek ve kendine zarar verme belirtilerini tespit edip bunlara tepki vermek zorunda. Vali Hochul bunu bir teknoloji politikası değil, bir kamu güvenliği müdahalesi olarak nitelendiriyor ve ofisi, yapay zeka şirketlerini sıraya girmeleri konusunda uyaran açık bir mektup gönderdi.
Yasa koyucular, yapay zekalı refakatçileri, yalnızca sohbet robotları olarak değil, duygusal bağ kurmak, hisleri şekillendirmek ve kişisel geçmişi değerlendirmek için tasarlanmış yüksek riskli davranışsal teknolojiler olarak ele alıyor. New York’un cevabı ise, ürününüz yakınlığı simüle ediyorsa, artık teknoloji firmalarıyla değil, terapistlerle ilişkilendirilen yükümlülükler taşıdığı yönünde. Yasa, sağlayıcıları duygusal ipuçlarını, kriz risklerini ve kullanıcı bağımlılığını yönetmeye zorluyor; bu da eyaletin ilişkisel yapay zekayı doğası gereği manipülasyona açık olarak gördüğünün açık bir işareti.
Önemli olan:
Bu, yapay zekayı söylediklerine göre değil, psikolojik olarak yaptıklarına göre düzenleyen ilk ABD yasası. New York, duygusal yapay zekayı fiilen bir risk kategorisi ilan ederek , tasarım teşviklerinin, etkileşim kalıplarının ve bağımlılık yaratan özelliklerin daha derinlemesine incelenmesine kapı açtı. Ayrıca, duygusal zararın düzenlenemeyecek kadar “öznel ” olduğu yönündeki yıllardır süregelen sektör söylemlerini de çürütüyor.
Bizim düşüncemiz:
Bu yasa, sohbet robotu etkileşimleriyle bağlantılı intiharlar da dahil olmak üzere çok sayıda olayın ardından yürürlüğe girdi ve düzenleyiciler, sektörün kendi kendini düzenlemesini bekleyemeyeceklerine açıkça karar verdiler. Çarpıcı olan nokta, gerekliliklerin ne kadar spesifik olduğu ; açıklamalar için kesin ifadeler, katı üç saatlik kesinti döngüleri ve tanımlanmış kriz müdahale beklentileri. Bu düzeydeki kuralcılık , hukukçuların artık duygusal yapay zeka şirketlerinin kendi sınırlarını belirlemelerine güvenmediklerini gösteriyor.
Yasa dar kapsamlı ve duygusal yapay zeka etrafındaki güvenlik ekosistemi henüz olgunlaşmamış olsa da, New York nihayet yapay zeka arkadaşlığını olduğu gibi ele aldı; bir tasarım harikası değil, bir halk sağlığı ve kullanıcı koruma meselesi . Bu, bir sonraki düzenleme dalgasının temelini oluşturuyor ve diğerlerinin de izlemesi muhtemel bir temel oluşturuyor.
https://www.nysenate.gov/legislation/laws/GBS/1700