1. Yapay zeka sistemlerini sorumlu yapay zeka kriterleriyle değerlendirmek henüz yaygın olmasa da yeni kıstaslar ortaya çıkmaya başlıyor.
Geçtiğimiz yılki YZ Endeksi, LLM’ler için standartlaştırılmış SYZ (Sorumlu Yapay Zeka) kıyaslamalarının eksikliğini vurguladı. Bu sorun devam ederken, HELM Safety ve YZR-Bench gibi yeni kıyaslamalar bu boşluğu doldurmaya yardımcı oluyor.
2. Yapay zeka olay (kaza) bildirimlerinin sayısı artmaya devam ediyor.
Yapay Zeka Olayları Veritabanı’na göre, bildirilen yapay zeka ile ilgili olayların sayısı 2024 yılında 233’e yükseldi; bu rekor seviye ve 2023’e göre %56,4’lük bir artış anlamına geliyor.
3. Kuruluşlar SYZ risklerini kabul ediyor ancak risk azaltma çabaları geride kalıyor.
McKinsey’nin kuruluşların SYZ katılımına ilişkin yaptığı bir anket, birçoğunun temel SYZ risklerini belirlemesine rağmen, hepsinin bunları ele almak için aktif adımlar atmadığını gösteriyor. Liderler için en önemli riskler, sırasıyla yalnızca %64, %63 ve %60’ının endişe olarak belirttiği yanlışlık, düzenleyici uyumluluk ve siber güvenlikti.
4. Dünya genelinde, politikacılar SYZ’ye önemli bir ilgi göstermektedir.
2024’te, sorumlu YZ için mutabık kalınan ilkelerin dile getirilmesine odaklanılarak YZ yönetişimi konusunda küresel iş birliği yoğunlaştı. OECD, Avrupa Birliği, Birleşmiş Milletler ve Afrika Birliği dahil olmak üzere birçok büyük kuruluş, şeffaflık ve açıklanabilirlik ve güvenilirlik gibi temel SYZ endişelerini dile getirmek için çerçeveler yayınladı.
5. Veri ortakları hızla küçülüyor.
Yapay zeka modelleri, eğitim için büyük miktarda kamuya açık web verilerine güvenir. Son zamanlarda yapılan bir araştırma, birçok web sitesinin yapay zeka eğitimi için veriye ulaşmayı engellemek amacıyla yeni protokoller uygulamasıyla veri kullanım kısıtlamalarının 2023’ten 2024’e önemli ölçüde arttığını buldu. C4 ortak tarama veri kümesindeki aktif olarak sürdürülen alanlarda, kısıtlanmış belirteçlerin oranı %5-7’den %20-33’e sıçradı. Bu düşüşün veri çeşitliliği, model uyumu ve ölçeklenebilirlik üzerinde sonuçları vardır ve ayrıca veri kısıtlamalarıyla öğrenmeye yönelik yeni yaklaşımlara yol açabilir
6. Temel model araştırma şeffaflığı artıyor, ancak daha yapılacak çok iş var.
Temel model ekosistemindeki şeffaflığı izleyen bir proje olan güncellenen Temel Model Şeffaflık Endeksi, büyük model geliştiricileri arasındaki ortalama şeffaflık puanının Ekim 2023’te %37’den Mayıs 2024’te %58’e yükseldiğini ortaya koydu. Bu kazanımlar umut verici olsa da, hala önemli iyileştirme alanları var.
7. Gerçekçilik ve doğruluk için daha iyi kıstaslar.
YZ modellerinin gerçekliğini ve doğruluğunu değerlendirmeyi amaçlayan HaluEval ve TruthfulQA gibi daha önceki ölçütler, YZ topluluğunda yaygın bir kabul görmeyi başaramadı. Buna karşılık, güncellenmiş Hughes Halüsinasyon Değerlendirme Modeli liderlik tablosu, FACTS ve SimpleQA gibi daha yeni ve daha kapsamlı değerlendirmeler ortaya çıktı.
8. Yapay zeka kaynaklı seçim yanlış bilgilendirmesi dünya çapında yayılıyor, ancak etkisi henüz belirsizliğini koruyor.
2024’te, ABD başkanlık seçimleri de dahil olmak üzere bir düzineden fazla ülkede ve 10’dan fazla sosyal medya platformunda YZ ile ilgili seçim yanlış bilgilendirmesinin sayısız örneği ortaya çıktı. Ancak, birçok kişi yanlış bilgilendirme kampanyalarının seçimleri olduğundan daha derinden etkileyeceğini beklediğinden, bu sorunun ölçülebilir etkileri hakkında sorular devam ediyor.
9. Açıkça tarafsız olmak üzere eğitilen Hukuk (LLM) öğrencileri bile örtük önyargı göstermeye devam ediyor.
GPT-4 ve Claude 3 Sonnet dahil olmak üzere birçok ileri LLM, açık önyargıları azaltmak için önlemlerle tasarlanmıştır, ancak örtük önyargılar sergilemeye devam etmektedir. Modeller, olumsuz terimleri orantısız bir şekilde Siyah bireylerle ilişkilendirir, kadınları STEM alanları yerine beşeri bilimlerle ilişkilendirir ve liderlik rolleri için erkekleri tercih ederek karar alma sürecinde ırksal ve cinsiyete dayalı önyargıları pekiştirir. Önyargı ölçümleri standart ölçütlere göre iyileşmiş olsa da, YZ model önyargısı yaygın bir sorun olmaya devam etmektedir.
10. SYZ akademik araştırmacıların dikkatini çekiyor.
Önde gelen yapay zeka konferanslarında kabul edilen SYZ bildirilerinin sayısı, 2023’te 992’den 2024’te 1.278’e çıkarak %28,8 arttı ve 2019’dan bu yana istikrarlı bir yıllık artış gösterdi. Bu artan eğilim, SYZ’nin yapay zeka araştırma topluluğu içindeki artan önemini vurguluyor.
