Mektup, OpenAI’nin güvenli ve sorumlu yapay zeka geliştirme hedeflerine olan bağlılığını sorgulayan son raporlardan güç alıyor.
24 Tem 2024,
OpenAI CEO’su Sam Altman, şirketin AI güvenliği ve istihdam uygulamaları konusunda netlik talep eden Senato Demokratlarından bir mektup aldı. Dört senato Demokratı Brian Schatz, Ben Ray Luján, Peter Welch ve Mark R. Warner ve Junior Senatör Angus S. King tarafından imzalanan mektup, OpenAI’nin güvenli ve sorumlu AI geliştirme hedeflerine olan bağlılığını sorgulayan son raporlarla destekleniyor.
Senatörler, “OpenAI’nin önde gelen bir AI şirketi olarak konumu göz önüne alındığında, halkın sistemlerinin güvenliğine ve emniyetine güvenebilmesi önemlidir,” diye yazdı. “Buna şirketin yönetim yapısının bütünlüğü ve güvenlik testleri, istihdam uygulamaları, kamuya açık vaatlerine ve misyonuna olan sadakati ve siber güvenlik politikaları dahildir.”
Kanun koyucular, OpenAI’dan 13 Ağustos 2024 tarihine kadar aşağıdaki temel alanlar hakkında ayrıntılı bilgi sunmasını istedi:
- OpenAI’nin bilişim kaynaklarının %20’sini yapay zeka güvenliği araştırmalarına ayırma taahhüdü.
- Şirketin mevcut ve eski çalışanlar için karalama karşıtı anlaşmalara ilişkin tutumu.
- Çalışanların siber güvenlik ve emniyet endişelerini dile getirmelerine yönelik prosedürler.
- Yapay zeka modellerinin, araştırmaların veya fikri mülkiyetin çalınmasını önlemek için güvenlik protokolleri.
- OpenAI’nin misilleme yapmama politikaları ve ihbarcı kanalları ile ilgili kendi Tedarikçi Davranış Kurallarına uyması.
- OpenAI sistemlerinin ön sürümü için bağımsız uzman testleri ve değerlendirmeleri yapılması planlanıyor.
- Gelecekteki temel modellerinin dağıtım öncesi test için ABD hükümet kurumlarının kullanımına sunulması taahhüdü.
- Sürüm sonrası izleme uygulamaları ve dağıtılan modellerden öğrenilenler.
- Dağıtılan modeller üzerindeki geriye dönük etki değerlendirmelerinin kamuoyuna açıklanması planları.
- Biden-Harris yönetimine gönüllü güvenlik ve emniyet taahhütlerinin yerine getirilmesine ilişkin belgeler.
Mektupta, “Ulusal ve ekonomik güvenlik, ABD hükümetinin en önemli sorumlulukları arasındadır ve güvenli olmayan veya başka şekillerde savunmasız yapay zeka sistemleri kabul edilemez” ifadeleri yer alıyor.
Apple’ın Beyaz Saray’a verdiği gönüllü taahhütlerin ne kadar etkili olduğu tartışmaya açık, ancak bu bir başlangıç. Beyaz Saray bunu, Apple ve diğer 15 yapay zeka şirketinin güvenli, emniyetli ve güvenilir AI geliştirmesi yönünde atılmış “ilk adım” olarak nitelendiriyor. İkinci adım ise Ekim ayında Başkan Biden’ın yapay zeka ile ilgili yürütme emri oldu ve şu anda federal ve eyalet meclislerinde YZ modellerini daha iyi düzenlemek için çeşitli yasalar gündemde.
Bu taahhüt kapsamında,YZ şirketleri, halka açılmadan önce modellerini stres testine tabi tutacaklarını ve bu bilgileri kamuoyuyla paylaşacaklarını vaat ediyor. Ayrıca, Beyaz Saray’ın gönüllü taahhüdü, YZ şirketlerinden yayınlanmamış model ağırlıklarını gizli tutmalarını ve bu ağırlıklar üzerinde güvenli ortamlarda çalışmalarını istiyor. Model ağırlıklarına erişimi mümkün olduğunca az çalışanla sınırlamak da bu taahhüdün bir parçası. Son olarak, YZ şirketleri, kullanıcıların neyin yapay zeka tarafından oluşturulup oluşturulmadığını ayırt edebilmesi için içerik etiketleme sistemlerini geliştirmeyi kabul ediyor. (Tech Inside/27 Temmuz 2024)
Not: Bu yazının yazılmasından sonra Apple’nin Beyaz Saray’ın güvenli, emniyetli ve güvenilir yapay Zeka geliştirme taahhütünü imzaladığını öğrenildi.