Yapay Zeka kaynaklı vakalar için ortak raporlama

 

Nilgün Ercan

 

Yapay Zekâ (YZ), bilim, teknoloji, ekonominin yanı sıra toplumsal alanda ve günlük yaşantımızda giderek daha fazla rol oynamaya ve kullanılmaya başladı. Bu durum, YZ alanının düzenlenmesine yönelik girişimlerin hızlanmasını da beraberinde getiriyor. Bunlardan biri OECD tarafından Şubat 2025’te yayımlanan “YZ Kaynaklı Vakalar için Ortak bir Raporlama Çerçevesine Doğru” (Towards a Common Reporting Framework for AI Incidents) başlıklı politika belgesi. Belge, YZ kullanımından kaynaklanan olumsuz hadiselerin sınıflandırılması ve kayda geçirilmesinde uyum sağlanması için ortak bir çerçeve sunmayı hedefliyor.

Raporda kısaca şu hususlara yer veriliyor:

• YZ çok sayıda yarar sağlamakla birlikte, riskler söz konusu ve zararlar meydana geliyor. Risklerin bir bölümü gerçekleşiyor ve insanlara, kuruluşlara ve çevreye zarar vermekle sonuçlanıyor. Bunlar arasında ayrımcılık, özel alan ihlalleri, güvenlik ve güvenilirlik gibi hususları saymak mümkün. Bu zararlar “AI incidents” terimi altında ifade ediliyor. YZ’ nin kullanımı arttıkça bu tür vakaların yaygınlaşması da kaçınılmaz olacak.
• YZ vakalarının raporlanmasında küresel olarak tutarlılık ve işlerlikte uyum sağlayabilmek için ülkelerin ortak bir raporlama çerçevesine ihtiyacı var; yoksa bugün yapıldığı gibi sonradan raporlamak daha maliyetli ve verimsiz olacaktır. YZ’ dan kaynaklanan olumsuz vaka ve tehlikelerin raporlanması için ortak ve tutarlı bir çerçevenin oluşturulması, dünyanın herhangi bir yerinde meydana gelen olumsuz durum hakkında politika yapıcılar ile kuruluşlara zamanında bilgi ulaştırılmasını ve olayın yeniden tekrarlanmamasını sağlayacaktır. Konuyla ilgili otoriteler arasında raporlama konusunda uyum olmasını sağlayacak; ayrıca, geçmiş olayları sonradan ele alan yöntemler hem etkisiz hem de maliyetli olduğu için bu durumu da önleyecektir.
• YZ vakalarının raporlanması için en uygun ve ilgili kriterlerin belirlenmesi, mevcut raporlama sistemi üzerinde ortak bir anlayışın paylaşılmasıyla başlayacaktır. Bu konuda dört kaynak mevcuttur: YZ sistem sınıflandırması için OECD Çerçevesi; YZ Vaka Veri Tabanı (AID); Ürün Geri çağırma için OECD Küresel Portalı ve YZ Vaka Monitörü (AIM). Bu kaynaklardan, vakaları değerlendirebilme ve hatalı ürünlerle ilgili geri çağırma için 88 kriter belirlenmiştir.
• Ortak raporlamanın çerçevesi özlü ve kapsayıcı olacak şekilde tasarlanacaktır. Yukarıda belirtilen dört kaynaktan ortak raporlama için 29 kriter tanımlanmıştır. Belirlenen kriterler, ki bunlar aynı zamanda tekrarlayan kriterler olarak adlandırılmaktadır, dört kaynaktan en az üçünde yer almakta veya tekrarlayan kriterler arasında bulunmasa da gerekli ayrıntıları sağlayan tamamlayıcı kriterlerden oluşmaktadır.
• Mevcut politikaları tamamlamak amacıyla oluşturulacak çerçeve, uyumlu ve ortak işlerliği olan bir raporlama vasıtasıyla gerçekleşen YZ kaynaklı riskler konusunda politika yapıcılara bilgi sağlayacaktır. Çerçeve, yedi adet zorunlu kriteri aracılığıyla YZ vakalarının raporlanması ve izlenmesi için esnek bir yapılanma oluşturacaktır. İç politika ve düzenleme önlemlerini tamamlayıcı bir işlev görürken YZ vaka raporlamasının uyumlu olarak işler hale gelmesini de sağlayacaktır.

Raporlama, politika yapıcılara farklı bağlamlardaki yüksek risk sistemlerinin belirlenmesi, mevcut ve gelecekteki risklerin anlaşılması ve bunların paydaşlar üzerindeki etkilerinin değerlendirilmesi konularında yardımcı olacaktır. Ayı zamanda, özel alan, fikri mülkiyet ve güvenlik ile ilgili düzenlemelere ilişkin önyargılar olmaksızın, YZ vakalarının konuyla ilgili yetkililer düzeyinde nasıl ele alınacağına ilişkin bilgilerin paylaşılmasını da kolaylaştıracaktır.

• YZ Vaka Monitörü (AIM)’ ne bildirimin açık olması ortak raporlama çerçevesinin test edilmesi ve değerlendirilmesine olanak sağlayacaktır. Bu şekilde, hem olaylar konusunda daha fazla veri sağlanacak hem de AIM ( oecd.ai/incidents) ortak raporlama çerçevesinin test edilmesi ve değerlendirilmesi için gerçek-dünya ortamı temin edilmiş olacaktır. Bu da YZ’ nin güvenli ve güvenilir olarak kullanılması ve geliştirilmesine katkı sağlayacaktır.

Yapay Zekâ Vakası ve Yapay Zekâ Tehlikesi

OECD bünyesinde Ocak 2023’te oluşturulan gayri resmi bir uzmanlar grubunun görev konuları, ilk olarak YZ kaynaklı vakaların sınıflandırılmasına ilişkin kavramsal düzeyde bir raporlama çerçevesi oluşturma; ikinci olarak da gerçek yaşamdaki vakaların izlenmesi için bu kavramların uygulamaya geçirilmesine ilişkin idi. Bu doğrultuda YZ vakası, YZ tehlikesi ve konuyla ilgili diğer terminoloji için bir çalışma da yapıldı.

Yapay zekâ vakası, bir veya birden fazla YZ sisteminin geliştirilmesi, kullanılması veya hatalı olması sonucunda doğrudan veya dolaylı olarak aşağıda belirtilen zararlardan herhangi birinin meydana geldiği olay, olaylar dizisi veya durumu ifade etmektedir:

1. Bir kişinin veya bir grubun sağlığına verilen zarar veya yaralanmasına/sakatlanmasına neden olmak
2. Kritik bir altyapı sisteminin yönetim veya işletmesini kesintiye uğratmak/ bozmak
3. İnsan haklarına zarar vermek veya temel haklar, emek ile ilgili haklar ve fikri mülkiyet haklarını koruyan yasalar kapsamındaki yükümlülükleri ihlal etmek
4. Mülk, topluluklar ve çevreye zarar vermek. (OECD, 2024-2)

Yapay zekâ tehlikesi ise, bir veya birden fazla YZ sisteminin geliştirilmesi, kullanılması veya hatalı olması sonucunda, mantıken YZ vakasına yol açabilecek nitelikte olup, yukarıda belirtilen zararlara veya onlardan birine neden olabilecek olay, olaylar dizisi veya durumu ifade etmektedir:

Vakaların Sınıflandırılması

Rapor, içeriğinde de vurgulandığına göre, YZ vaka ve tehlikelerinin raporlanmasına ilişkin olup, bu tür hadiseler için önleyici veya düzeltici eylemlerin nasıl alınacağına ilişkin olarak veya geliştiriciler, kullanıcılar, işletmeciler ile politika yapıcılara yönelik özel kılavuzlar oluşturmak amacıyla hazırlanmamıştır. Ayrıca Rapor’ da genel hatlarıyla çizilmeye çalışılan çerçevenin, ülkelerin ulusal raporlama sisteminin ve yasal düzenlemelerinin yerine geçmesi amacıyla hazırlanmadığı, tamamlayıcı ve kolaylaştırıcı nitelikte olduğu vurgulanmaktadır.  Rapor’ un ekinde YZ’ nin neden olacağı muhtemel vakalar ve bunların sınıflandırılmasına ilişkin bir tablo da yukarda yer almaktadır. Gerçek yaşamda karşılaşılan vaka, Tablo’ da sıralanan kategorilerle sınırlı olmayabilir veya vaka birden fazla kategorinin kapsamına da girebilir.; ayrıca kategorilerin sayısı altı ile sınırlı olmayabilir.

  

Kaynaklar:

-OECD (2025), Towards a Common Reporting Framework for AI Incidents, OECD Artificial Intelligence Papers  No 34 Towards a common reporting framework for AI incidents | OECD

OECD (2024), “Defining AI incidents and related terms”, OECD Artificial Intelligence Papers, No. 16, OECD Publishing, Paris, https://doi.org/10.1787/d1a8d965-en.