Yapay zekâ konusunda dünyanın ilk kapsamlı düzenlemesi olan Avrupa Yapay Zekâ Yasası (1 Ağustos 2024 günü) yürürlüğe giriyor.
YZ Yasası, AB’de geliştirilen ve kullanılan YZ’nin güvenilir olmasını ve insanların temel haklarını koruyacak güvencelere sahip olmasını sağlamak üzere tasarlanmıştır.
Düzenleme, AB’de yapay zeka için uyumlaştırılmış bir iç pazar oluşturmayı, bu teknolojinin benimsenmesini teşvik etmeyi ve yenilik ve yatırım için destekleyici bir ortam yaratmayı amaçlıyor.
YZ Yasası, AB’de ürün güvenliği ve risk temelli bir yaklaşıma dayanan ileriye dönük bir YZ tanımı getirmektedir:
Minimal risk: YZ destekli tavsiye sistemleri ve spam filtreleri gibi çoğu YZ sistemi bu kategoriye girmektedir. Bu sistemler, vatandaşların haklarına ve güvenliğine yönelik asgari riskleri nedeniyle YZ Yasası kapsamında herhangi bir yükümlülükle karşı karşıya değildir. Şirketler gönüllü olarak ek davranış kuralları benimseyebilir.
Spesifik şeffaflık riski: Sohbet robotları gibi YZ sistemleri, kullanıcılara bir makine ile etkileşimde bulunduklarını açıkça belirtmelidir. Derin sahtecilikler de dahil olmak üzere, YZ tarafından oluşturulan belirli içerikler bu şekilde etiketlenmeli ve biyometrik kategorizasyon veya duygu tanıma sistemleri kullanıldığında kullanıcılar bilgilendirilmelidir. Buna ek olarak, sağlayıcıların sistemleri, sentetik ses, video, metin ve görüntü içeriğinin makine tarafından okunabilir bir formatta işaretleneceği ve yapay olarak üretildiği veya manipüle edildiği tespit edilebilecek şekilde tasarlamaları gerekecektir.
Yüksek risk: Yüksek riskli olarak tanımlanan YZ sistemlerinin, risk azaltma sistemleri, yüksek kaliteli veri setleri, faaliyet kaydı, ayrıntılı dokümantasyon, açık kullanıcı bilgileri, insan gözetimi ve yüksek düzeyde sağlamlık, doğruluk ve siber güvenlik dahil olmak üzere katı gerekliliklere uyması gerekecektir. Düzenleyici kum havuzları, sorumlu inovasyonu ve uyumlu YZ sistemlerinin geliştirilmesini kolaylaştıracaktır. Bu tür yüksek riskli YZ sistemleri, örneğin işe alım için veya birinin kredi almaya hakkı olup olmadığını değerlendirmek veya otonom robotları çalıştırmak için kullanılan YZ sistemlerini içerir.
Kabul edilemez risk: İnsanların temel haklarına açık bir tehdit olarak görülen YZ sistemleri yasaklanacaktır. Bu, küçüklerin tehlikeli davranışlarını teşvik eden sesli yardım kullanan oyuncaklar, hükümetler veya şirketler tarafından ‘sosyal puanlamaya’ izin veren sistemler ve öngörücü polisliğin belirli uygulamaları gibi kullanıcıların özgür iradesini atlatmak için insan davranışını manipüle eden YZ sistemlerini veya uygulamalarını içerir. Buna ek olarak, biyometrik sistemlerin bazı kullanımları yasaklanacaktır, örneğin işyerinde kullanılan duygu tanıma sistemleri ve insanları kategorize etmek için bazı sistemler veya kamuya açık alanlarda kolluk kuvvetleri amacıyla gerçek zamanlı uzaktan biyometrik tanımlama (dar istisnalar dışında).
Bu sistemi tamamlamak için YZ Yasası, insan benzeri metin oluşturmak gibi çok çeşitli görevleri yerine getirmek için tasarlanmış yüksek yetenekli YZ modelleri olan genel amaçlı YZ modelleri için de kurallar getirmektedir.
Genel amaçlı YZ modelleri, YZ uygulamalarının bileşenleri olarak giderek daha fazla kullanılmaktadır. YZ Yasası, değer zinciri boyunca şeffaflığı sağlayacak ve en yetenekli modellerin olası sistemik risklerini ele alacaktır.
YZ kurallarının uygulanması ve yürütülmesi
Üye Devletlerin, YZ sistemleri için kuralların uygulanmasını denetleyecek ve piyasa gözetim faaliyetlerini yürütecek ulusal yetkili makamları belirlemek için 2 Ağustos 2025 tarihine kadar süreleri vardır. Komisyon’un YZ Ofisi, AB düzeyinde YZ Yasası için temel uygulama organı ve genel amaçlı YZ modelleri için kuralların uygulayıcısı olacaktır.
Üç danışma organı kuralların uygulanmasını destekleyecektir. Avrupa Yapay Zeka Kurulu, YZ Yasasının AB Üye Devletleri arasında tek tip bir şekilde uygulanmasını sağlayacak ve Komisyon ile Üye Devletler arasındaki işbirliği için ana organ olarak hareket edecektir. Bağımsız uzmanlardan oluşan bilimsel bir panel, uygulama konusunda teknik tavsiye ve girdi sunacaktır. Özellikle bu panel, YZ Ofisine genel amaçlı YZ modelleriyle ilişkili riskler hakkında uyarılar yayınlayabilir. YZ Ofisi ayrıca, çeşitli uzmanlardan oluşan bir danışma forumundan da rehberlik alabilir.
Paydaşlar
Kurallara uymayan şirketler para cezasına çarptırılacaktır. Cezalar, yasaklanmış yapay zeka uygulamalarının ihlali için küresel yıllık cironun %7’sine, diğer yükümlülüklerin ihlali için %3’üne ve yanlış bilgi sağlanması için %1,5’ine kadar çıkabilir.
Sonraki Adımlar
YZ Yasasının kurallarının çoğu 2 Ağustos 2026 tarihinde uygulanmaya başlayacaktır. Bununla birlikte, kabul edilemez bir risk oluşturduğu düşünülen YZ sistemlerinin yasaklanması altı ay sonra, Genel Amaçlı YZ modelleri için kurallar ise 12 ay sonra uygulanacaktır.
Komisyon, tam uygulamadan önceki geçiş dönemini köprülemek için AI Pact’ı başlattı. Bu girişim, YZ geliştiricilerini, yasal son tarihlerden önce YZ Yasası’nın temel yükümlülüklerini gönüllü olarak benimsemeye davet etmektedir.
Komisyon ayrıca aşağıdaki hususları tanımlamak ve detaylandırmak için kılavuzlar geliştirmektedir
Arka plan
9 Aralık 2023 tarihinde Komisyon, YZ Yasası üzerindeki siyasi anlaşmayı memnuniyetle karşılamıştır. 24 Ocak 2024 tarihinde Komisyon, güvenilir YZ’nin geliştirilmesinde Avrupalı girişimleri ve KOBİ’leri desteklemek için bir önlem paketi başlattı. 29 Mayıs 2024 tarihinde Komisyon, YZ Ofisini tanıttı. 9 Temmuz 2024 tarihinde değiştirilen EuroHPC JU Yönetmeliği yürürlüğe girmiş ve böylece YZ fabrikalarının kurulmasına izin verilmiştir. Bu, Genel Amaçlı YZ (GPAI) modellerinin eğitimi için özel YZ-süper bilgisayarlarının kullanılmasına olanak tanır.
Ortak Araştırma Merkezi (JRC) tarafından üretilen bağımsız, kanıta dayalı araştırmaların sürdürülmesi, AB’nin YZ politikalarının şekillendirilmesinde ve etkili bir şekilde uygulanmasının sağlanmasında temel olmuştur.
Avrupa Yapay Zeka Yasası
Yapay Zeka için yeni kurallar – Sorular ve Cevaplar Avrupa Yapay Zeka Ofisi | Avrupa’nın dijital geleceğini şekillendiriyor
Alıntılar
IP/24/4123 “Yapay zeka, çalışma ve yaşama şeklimizi değiştirme potansiyeline sahiptir ve vatandaşlar, toplumumuz ve Avrupa ekonomisi için muazzam faydalar vaat etmektedir. Avrupa’nın teknolojiye yaklaşımı insanları ön planda tutmakta ve herkesin haklarının korunmasını sağlamaktadır. Yapay Zeka Yasası ile AB, yapay zeka teknolojisinin Avrupa’da AB kurallarına uygun olarak kullanılmasını sağlamak için önemli bir adım atmıştır.” Margrethe Vestager, Dijital Çağa Uygun bir Avrupa için Başkan Yardımcısı –
01/08/2024 “Bugün, Avrupa’nın güvenilir yapay zekâ konusundaki liderliğinde önemli bir dönüm noktasıdır. YZ Yasasının yürürlüğe girmesiyle birlikte Avrupa demokrasisi, risklerle mücadele eden ve Avrupalı YZ girişimleri için bir fırlatma rampası görevi gören YZ için etkili, orantılı ve dünyada bir ilk olan bir çerçeve sunmuştur.”Thierry Breton, İç Pazardan Sorumlu Komisyon Üyesi – 01/08/2024
Not: Bu yazıda DeepL tercüme algoritması kullanılmış ve daha sonra revize edilmiştir.
Daha fazla bilgi için aşağıdaki linklere ulaşılabilir.
European Artificial Intelligence Act
New rules for Artificial Intelligence – Questions and Answers European AI Office | Shaping Europe’s digital future