28. Haziran. 2024, Responsible AI Enstitute
Yazarlar: Credo – AI Lucia Gamboa ve Evi Fuelle, RAI Enstitüsü – Patrick McAndrew ve Hadassah Drukarch.
Standartlar, yeni ve ortaya çıkan teknolojilerin geliştirilmesinde ve benimsenmesinde önemli bir rol oynar. Standartlar şu anda çok popüler. “Güvenilirlik”, “performans”, “sağlamlık” ve “doğruluk” gibi terimlerin, işletmelerin ve tüketicilerin hangi AI modellerine güveneceklerine karar vermelerine yardımcı olan yeni parametreler. YZ üst düzey uygulayıcıları üst düzey ilkeleri ve politikaları nasıl uygulayacakları konusunda rehberlik etmesi için zorunlu olarak standart ekosistemine bakıyorlar. Standartlar, risk yönetimi gibi YZ yönetişim uygulamaları için ortak tanımlar oluşturmaya ve AI sistemleri için “insan denetimi” tanımı oluşturmak için YZ düzenleyici gereklilikleri hızla gündeme geliyor.
Çeşitli standartlar, YZ risklerini yönetmek ve önerilen eylemleri gerçekleştirebilmek için temel oluşturabilirler. YZ standart belirleme kuruluşlarından bazıları Uluslararası Standartlar Örgütü (ISO), Kanada Standartlar Konseyi (SCC), Elektrik ve Elektronik Mühendisleri Enstitüsü (IEEE) ve İngiliz Standartları Enstitüsü (BSI) Grubu olarak sayılabilir.
Bu yazının incelediği temel bakış açısı, kuruluş düzeyinde rehberlik sağlayan standartlar ile ürün düzeyinde gereksinimler veya kontroller içeren standartlar arasındaki farktır. Bu ayrım, kuruluşların standart geliştirme süreçlerinin küresel olarak nasıl farklılaştığını ve ISO/IEC 23894 Risk Yönetimi Rehberi, ISO/IEC 42001 YZ Yönetim Sistemi standardı veya IEEE’nin 7000 serisi gibi mevcut standartlar ile AB YZ Yasası’nın yakında çıkacak uyumlu standartları arasındaki farkı anlamalarına yardımcı olacaktır.
Yapay zeka standartlarının farklı türleri nelerdir?
Yapay zeka standartları genel olarak organizasyonel ve ürün seviyesi standartları olarak kategorize edilebilir. Her kategori, yapay zekanın yönetimi ve düzenlenmesinde farklı ancak birbiriyle bağlantılı amaçlara hizmet eder.
Kurumsal Düzeyde Yapay Zeka Standartları
Bu standartlar, kuruluşların YZ teknolojilerinin geliştirilmesini, dağıtımını ve kullanımını yönetmek için uyguladığı genel süreçlere, politikalara ve uygulamalara odaklanır. Kuruluş düzeyindeki standartlar, aşağıdakiler de dahil olmak üzere çok çeşitli alanları kapsayabilir:
- Sorumlu Yapay Zeka Politikaları: Bir organizasyon içerisinde yapay zekanın geliştirilmesi ve dağıtımı için politikalar ve yönergeler oluşturmak.
- Risk Yönetimi: Yapay zeka sistemleriyle ilişkili potansiyel zararları ele almak için risk değerlendirmesi ve riski azaltma stratejilerinin uygulanması.
- Şeffaflık ve Hesap Verebilirlik: Veri kullanımı, algoritmik şeffaflık ve açıklanabilirlik dahil olmak üzere yapay zeka karar alma süreçlerinde şeffaflık ve hesap verebilirliğin sağlanması.
- Veri Yönetimi: Yapay zeka yaşam döngüsü boyunca veri kalitesini, gizliliğini, güvenliğini ve erişimini yönetmek için veri yönetimi çerçeveleri oluşturma.
- Eğitim ve Öğretim: Çalışanlara sorumlu yapay zeka ilkeleri, sorumlu veri uygulamaları ve yapay zeka ile ilgili düzenlemeler konusunda eğitim ve öğretim sağlanması.
Ürün Düzeyinde AI Standartları
Buna karşılık, ürün düzeyindeki AI standartları özellikle bireysel YZ sistemlerinin geliştirilmesine, test edilmesine ve sertifikalandırılmasına odaklanır. Bu standartlar şunlarla ilgili gereksinimleri içerebilir:
- Performans ve Doğruluk: Yapay zeka sistemlerinin, amaçlanan kullanım durumları için belirtilen performans ölçütlerini ve doğruluk eşiklerini karşılamasını sağlamak.
- Güvenlik ve Güvenilirlik: Kullanıcılara veya çevreye zarar gelmesini önlemek için güvenlik önlemlerinin uygulanması ve çeşitli koşullar altında Yapay Zeka sistemlerinin güvenilirliğinin sağlanması.
- Çalışabilirlik: Farklı yapay zeka sistemleri arasındaki çalışabilirliğin kolaylaştırılması ve mevcut teknolojiler ve standartlarla uyumluluğun sağlanması.
- Güvenlik ve Gizlilik: Yetkisiz erişime, veri ihlallerine ve gizlilik ihlallerine karşı koruma sağlamak için güvenlik önlemlerinin alınması.
Yapay zeka ürün düzeyindeki standartlar genellikle daha spesifik ve teknik niteliktedir; yapay zeka sistemlerinin tasarım ve mühendislik yönlerine ve bunların güvenliğini, kalitesini ve düzenleyici gerekliliklerle uyumunu sağlamak için kullanım durumlarına odaklanır.
Standart geliştirme süreçleri dünya genelinde nasıl farklılık gösteriyor?
Amerika Birleşik Devletleri (ABD), Avrupa Birliği (AB) ve Birleşik Krallık (BK) uzun zamandır hem ürün hem de organizasyon düzeyindeki standartlar için standartlara dayalı bir yaklaşım benimsemiş ve birlikte çalışabilirliği sağlamak için iş birliği mekanizmaları kurmuştur. Özellikle YZ standartları için BK, ISO tarafından BSI Group aracılığıyla geliştirilen uluslararası standartlara daha fazla odaklanırken AB, standartlar üzerindeki ana çalışma gövdesini Avrupa standardizasyon kuruluşları CEN ve CENELEC (Avrupa Standardizasyon Komitesi ve Avrupa Elektroteknik Standardizasyon Komitesi) ve Avrupa Telekomünikasyon Standartları Enstitüsü (ETSI) aracılığıyla sürdürmektedir.
ABD’de NIST (Ulusal Standartlar ve Teknoloji Enstitüsü) kesinlikle bir standart belirleme kuruluşu değildir, ancak standart geliştirme topluluğuyla güçlü bağları vardır. Amerikan Ulusal Standartlar Enstitüsü’nün (ANSI) yanı sıra, uluslararası standart geliştirmeye katkıda bulunan çerçeveler ve rehberlik geliştirmek için özel ve kamu sektörü paydaşlarını koordine eder ve bir araya getirir.
Yaklaşımlar biraz farklılık gösterse de, farklı standart belirleme kuruluşlarının güvenliği, birlikte çalışabilirliği ve rekabeti kolaylaştırmak için ortak hedefleri vardır. Ayrıca standartların yararlı ve uygulanabilir olması gerektiği ortak hedefini de paylaşırlar.
AB standartları küresel standartlar ekosistemine nasıl uyum sağlıyor?
Güvenilir ve emniyetli yapay zeka geliştirmenin temelini oluşturabilecek yapay zeka standartları halihazırda mevcut olsa da, önümüzdeki AB Yapay Zeka Yasası uyumlu standartlarının şu şekilde olması bekleniyor:
- Ürünün düzeyi odaklı;
- Yapay zeka ürün yaşam döngüsüyle daha yakından bütünleşmiş;
- YZ Yasası’nda belirtilen risk tanımına özgü ve uyarlanmış; ve
- Yeterince açıklayıcı ve net gerekliliklere sahip.
AB YZ Yasası yatay, ürün odaklı bir düzenleme olarak geliştirildi ve AB YZ Yasası içindeki uyumlu standartlar talebi, standartlara uyumun Düzenlemeye uygunluğun bir unsuru olduğu benzersiz bir yaklaşımı işaret ediyor. AB uyumlu standartları gönüllü olsa da, zorunlu yasal gerekliliklerle uyumlu standartların geliştirilmesi, tanımlar ve yorumlarla ilgili belirsizliklerin azaltılmasına yardımcı olabilir. Tarihsel olarak, bu belirsizlikler yasal işlemler yoluyla açıklığa kavuşturulmayı gerektirmiştir.
AB YZ Yasası standardizasyon talebinin bir parçası olarak CEN-CENELEC tarafından Avrupa Telekomünikasyon Standartları Enstitüsü (ETSI) ile işbirliği içinde on uyumlu standart geliştirilmektedir. Bunlar şunları içerir:
- Yapay zeka sistemleri için risk yönetimi
- Yapay zeka sistemleri oluşturmak için kullanılan veri kümelerinin yönetimi ve kalitesi
- Yapay zeka sistemleri tarafından kayıt tutma yetenekleri sayesinde kayıt tutma
- Yapay zeka sistemleri kullanıcıları için şeffaflık ve bilgilendirme hükümleri
- Yapay zeka sistemlerinin insan gözetimi
- Yapay zeka sistemleri için doğruluk özellikleri
- Yapay zeka sistemleri için sağlamlık özellikleri
- Yapay zeka sistemleri için siber güvenlik özellikleri
- Yapay zeka sistemleri sağlayıcıları için pazara sunulma sonrası izleme süreçleri de dahil olmak üzere kalite yönetim sistemleri
- Yapay zeka sistemleri için uygunluk değerlendirmesiCEN-CENELEC’in çalışmaları, temel AB mevzuatını, politikalarını, ilkelerini ve değerlerini ele alan standardizasyon çıktıları üretmeye odaklanacakken, ISO’nun iki küresel standart yayınlaması bekleniyor: ISO/IEC 42001 için denetim gereksinimlerini özetleyen ISO/IEC 42006 ve YZ sistemi etki değerlendirmeleri üzerine ISO/IEC 42005.CEN-CENELEC, Aralık 2024’e kadar nihai hale getirilmesi ve kamuoyunun yorumuna hazır olması gereken AB YZ Yasası uyumlu standartlarının ilk versiyonunu yayınlamak için paralel olarak çalışmaktadır. 30 Nisan 2025’e kadar CEN-CENELEC’in Avrupa Komisyonu’na bir Son Rapor sunması ve AB standartlarının ve standardizasyon çıktılarının temel haklar ve veri koruma konusundaki AB yasasıyla uyumlu olmasını sağlaması gerekmektedir. Son olarak, Aralık 2025’e kadar, AB YZ Yasası standartlarının, yüksek riskli geliştiriciler veya dağıtıcılar olarak sınıflandırılmalarına ve genel amaçlıYZ kullanımlarına bağlı olarak işletmelerin uyum sağlaması için kabul edilebilir olması gerekmektedir.Çözüm
Organizasyon düzeyindeki YZ standartları -örneğin ISO 42001- genellikle kapsam olarak geniştir ve bir organizasyon içindeki genel YZ yönetim çerçevesini yönlendirmek, düzenleyici gerekliliklerle ve sorumlu YZ hususlarıyla uyumu sağlamak için tasarlanmıştır. Mantığı ve yapısı tıbbi cihaz risk yönetimi için ISO 14971 gibi standartlara daha yakın olan ürün düzeyindeki YZ standartları, özellikle bireysel YZ sistemlerinin geliştirilmesine, test edilmesine ve sertifikasyonuna odaklanır.
AB YZ Yasası için uyumluluğun çeşitli organizasyonel bileşenleri, IEEE 7000 ve ISO 42001 gibi uluslararası standartlarda bulunanları yansıtmaktadır. Bunlar arasında bir risk yönetim sisteminin kurulması, kapsamlı teknik dokümantasyonun sürdürülmesi ve insan denetiminin entegrasyonu yer almaktadır. Ancak, bu ortak noktalara rağmen, risk ölçümü, test ve değerlendirme metodolojileri, YZ yaşam döngüsü boyunca bilgi paylaşımı ve sektöre özgü uygulamalar gibi alanları özel olarak ele alan ek standartlar oluşturma gerekliliği devam etmektedir.
İşletmeler, kapsamlı YZ risk yönetimini sağlamak ve YZ risklerini etkili bir şekilde belirlemek ve azaltmak için hem kurumsal hem de ürün düzeylerinde YZ standartlarını benimsemelidir. Yaklaşan ürün düzeyindeki YZ standartları, AB YZ Yasası gibi belirli düzenlemelere uyum sağlanmasına yardımcı olacaktır. Gelişen standartlar ekosistemi, kuruluşların YZ’yı kuruluş genelinde güvenli ve emniyetli bir şekilde geliştirmek ve dağıtmak için değişen düzenleyici gereklilikler hakkında bilgi sahibi olmaları ihtiyacını vurgulamaktadır.
Not: Sorumlu YZEnstitüsü Hakkında
2016 yılında kurulan Responsible AI Institute (RAI Institute), kuruluşlarda başarılı sorumlu AI çabalarını etkinleştirmeye adanmış küresel ve üye odaklı bir kar amacı gütmeyen kuruluştur. Üyelerimize küresel standartlar ve ortaya çıkan düzenlemelerle yakından uyumlu YZ uygunluk değerlendirmeleri, kıyaslamaları ve sertifikaları sağlayarak sorumlu YZ benimsenmesini hızlandırıyor ve basitleştiriyoruz.
Üyeler arasında Amazon Web Services, Boston Consulting Group, KPMG, ATB Financial ve sorumlu yapay zekayı tüm sektörlere getirmeyi amaçlayan diğer birçok lider şirket yer alıyor.
Bu yazı DeepL tercüme algoritması ile tercüme edilmiş ve revize edilmiştir.