Yapay Zeka Üzerine İki Makale: – Yapay Zeka Renkleri

1. MAKALE: “HARNESSING-INTELLIGENT-SYSTEMS-FOR-REAL-WORLD-INTEGRATION-AND-ETHICAL-DECISION-MAKING-IN-ARTIFICIAL-INTELLIGENCE ” başlıklı makalenin özeti.

Yayın Bilgileri: International Journal of Information Technology Research and Development (IJITRD), Cilt 6, Sayı 2, Mart – Nisan (2025), Sayfalar 15-18.

Yazar: Farouk El-Baz Jhon

Özet:

Bu makale Farouk El-Baz Jhon tarafından kaleme alınan ve Mart-Nisan 2025 sayısında yayınlanan “Akıllı Sistemlerin Gerçek Dünya Entegrasyonu ve Yapay Zekada Etik Karar Alma” başlıklı makalenin temel tema ve önemli fikirlerini özetlemektedir. Makale, yapay zeka (YZ)’nın çeşitli gerçek dünya uygulamalarına hızla entegre olmasının beraberinde getirdiği önemli etik zorlukları incelemektedir.

Bu zorluklar arasında önyargı, şeffaflık, hesap verebilirlik ve istenmeyen sonuçlar potansiyeli bulunmaktadır. Çalışma, akıllı sistemler ve etik karar alma arasındaki kesişimi kapsamlı bir şekilde anlamayı ve YZ’nin gerçek dünya bağlamlarında sorumlu bir şekilde nasıl kullanılabileceğine dair stratejiler önermeyi amaçlamaktadır.

Temel Temalar ve Önemli Fikirler:

YZ’nin Gerçek Dünya Entegrasyonunun Artan Önemi ve Etik İhtiyaç: Makale, YZ’nin teorik bir kavram olmaktan çıkıp otonom araçlardan sağlıkta tanı araçlarına kadar günlük yaşamın çeşitli alanlarına nüfuz eden pratik araçlara dönüştüğünü vurgulamaktadır. Bu değişim, bu sistemlerin gerçek dünya ortamlarına nasıl entegre edildiğinin ve dağıtımlarından kaynaklanan etik sonuçların kritik bir şekilde incelenmesini gerektirmektedir. Yazar, “Zeki sistemler giderek insan alanında olan kararları aldıkça, bu sistemlerin gerçek dünya ortamlarına nasıl entegre edildiğinin ve dağıtımlarından kaynaklanan etik sonuçların kritik bir şekilde incelenmesi gerekmektedir.” ifadesiyle bu noktayı açıkça belirtmektedir.
YZ Entegrasyonunun Fırsatları ve Zorlukları: YZ’nin topluma entegrasyonunun hem fırsatlar hem de zorluklar sunduğu belirtilmektedir. Bir yandan, YZ verimliliği, doğruluğu ve erişilebilirliği artırma potansiyeline sahipken, diğer yandan algoritmik önyargı, şeffaflık eksikliği ve hesap verebilirlik konularındaki endişeler YZ’nin etik kullanımı hakkında tartışmalara yol açmaktadır. Makalede, “AI’nın topluma entegrasyonu hem fırsatlar hem de zorluklar sunmaktadır. Bir yandan AI, çok sayıda sektörde verimliliği, doğruluğu ve erişilebilirliği artırma potansiyeline sahiptir. Öte yandan, algoritmik önyargı, şeffaflık eksikliği ve hesap verebilirlik hakkındaki endişeler, AI’nın etik kullanımı hakkında tartışmalara yol açmıştır.” denilmektedir.
YZ Etiği Üzerine Yapılan Literatür Taraması: Makale, YZ etiği konusundaki kapsamlı araştırmalara değinmektedir. Önyargı, şeffaflık, hesap verebilirlik ve yönetişim gibi YZ etiğinin çeşitli boyutlarını ele alan önemli çalışmalar incelenmiştir. Giarmoleo ve diğerlerinin (2022) YZ’deki yaygın etik endişelerini araştıran sistematik literatür taraması ve Hagendorff’un (2024) üretken YZ modellerinin etik zorluklarını vurgulayan incelemesi gibi çalışmalar örnek olarak verilmiştir. Bu çalışmalar, YZ sistemlerinin geliştirilmesi ve uygulanmasını yönlendirmek için kapsamlı etik çerçevelere duyulan ihtiyacı vurgulamaktadır.
Gerçek Dünya Uygulamalarında Akıllı Sistemlerin Entegrasyonu: Makale, sağlık, eğitim ve ulaşım gibi çeşitli sektörlerdeki akıllı sistemlerin kullanımına dair örnekler sunmaktadır. Sağlıkta YZ destekli tanı araçlarının hasta sonuçlarını iyileştirdiği ancak veri gizliliği ve YZ kararlarının yorumlanabilirliği konusunda endişeler yarattığı belirtilmektedir. Eğitimde YZ destekli platformlar öğrenme deneyimlerini kişiselleştirirken, eşitlik ve erişim sorunları devam etmektedir. Otonom araçlar ulaşım sektöründe güvenliği ve verimliliği artırma potansiyeli sunarken, kritik durumlarda karar alma konusunda etik ikilemler ortaya çıkmaktadır. Bu örnekler, YZ entegrasyonunun çok yönlü doğasını ve her bağlamda etik hususların ele alınmasının önemini göstermektedir.
YZ’de Etik Karar Alma Çerçeveleri: Etik YZ için çerçeveler geliştirmenin, akıllı sistemlerin tasarımı, uygulanması ve yönetişimini yönlendiren ilkeler oluşturmayı içerdiği ifade edilmektedir. Şeffaflık, hesap verebilirlik, adalet ve insan haklarına saygı gibi temel ilkeler vurgulanmaktadır. AI for IMPACTS modeli gibi çerçevelerin, YZ sistemlerini teknik metriklerin ötesinde, sosyal ve organizasyonel boyutları da dikkate alarak değerlendirmenin önemini vurguladığı belirtilmektedir. Ayrıca, YZ etik denetiminin ortaya çıkışı, etik ilkeleri işlevsel hale getirmek ve etik olmayan YZ uygulamalarını önlemek için bir mekanizma sağladığı ifade edilmektedir.
Etik YZ Uygulamasındaki Zorluklar: Etik çerçevelerin geliştirilmesine rağmen, YZ sistemlerinin etik bir şekilde uygulanmasında çeşitli zorlukların devam ettiği belirtilmektedir. En önemli zorluklardan biri, genellikle “kara kutu” problemi olarak adlandırılan YZ algoritmalarındaki şeffaflık eksikliğidir. Bu durum, YZ kararlarını anlamayı ve açıklamayı zorlaştırmaktadır. Ek olarak, eğitim verilerindeki önyargılar ayrımcı sonuçlara yol açabilir ve bu da adalet ve eşitlik konusunda endişeler yaratır. YZ geliştirme hızının düzenleyici çerçevelerin oluşturulmasını geride bırakması da yönetişim ve gözetimde boşluklar yaratmaktadır. Bu zorlukların üstesinden gelmek, YZ için etik standartlar geliştirmek ve uygulamak üzere sektörler arası paydaşların ortak çabasını gerektirmektedir. Yazar, “Önemli bir zorluk, genellikle ‘kara kutu’ problemi olarak adlandırılan YZ algoritmalarındaki şeffaflık eksikliğidir; bu durum, YZ kararlarını anlamayı ve açıklamayı zorlaştırmaktadır.” ifadesiyle bu konuya dikkat çekmektedir.
Sonuç ve Gelecek Yönelimleri: Makale, akıllı sistemlerin gerçek dünya uygulamalarına entegrasyonunun dönüştürücü fırsatlar ve önemli etik zorluklar sunduğu sonucuna varmaktadır. YZ sistemlerinin sorumlu bir şekilde geliştirilmesini ve uygulanmasını sağlamak için sağlam etik çerçevelerin, şeffaf karar alma süreçlerinin ve kapsayıcı yönetişim yapılarının oluşturulmasının gerekliliği vurgulanmaktadır. Önyargı, hesap verebilirlik ve şeffaflık gibi sorunları ele alarak, paydaşların potansiyel zararları azaltırken YZ’nin faydalarından yararlanabileceği belirtilmektedir. Karmaşık etik YZ manzarasında yol almak ve toplumsal değerlerle uyumlu akıllı sistemlerin gelişimini teşvik etmek için sürekli disiplinlerarası araştırma ve işbirliğinin önemi vurgulanmaktadır.

Alıntılar:

“Zeki sistemler giderek insan alanında olan kararları aldıkça, bu sistemlerin gerçek dünya ortamlarına nasıl entegre edildiğinin ve dağıtımlarından kaynaklanan etik sonuçların kritik bir şekilde incelenmesi gerekmektedir.”
“AI’nın topluma entegrasyonu hem fırsatlar hem de zorluklar sunmaktadır. Bir yandan AI, çok sayıda sektörde verimliliği, doğruluğu ve erişilebilirliği artırma potansiyeline sahiptir. Öte yandan, algoritmik önyargı, şeffaflık eksikliği ve hesap verebilirlik hakkındaki endişeler, AI’nın etik kullanımı hakkında tartışmalara yol açmıştır.”
“Önemli bir zorluk, genellikle ‘kara kutu’ problemi olarak adlandırılan YZ algoritmalarındaki şeffaflık eksikliğidir; bu durum, YZ kararlarını anlamayı ve açıklamayı zorlaştırmaktadır.”

Sonuç:

Farouk El-Baz Jhon’un bu makalesi, yapay zekanın gerçek dünya uygulamalarına entegrasyonunun getirdiği etik zorlukları kapsamlı bir şekilde ele almaktadır. Makale, bu alandaki mevcut literatürü özetlemekte, çeşitli sektörlerdeki uygulamalara dair örnekler sunmakta ve etik karar alma çerçevelerinin önemini vurgulamaktadır. Aynı zamanda, etik YZ uygulamasındaki temel zorluklara dikkat çekerek, bu alanda sürekli araştırma, işbirliği ve sağlam etik ile yönetişim yapılarının gerekliliğini ortaya koymaktadır.

2. Makale : “Yapay Zekanın Yeme Bozuklukları Alanındaki Rolü Üzerine Bir Değerlendirme” başlıklı makalenin özeti.

Yayın Bilgileri: “Intl J Eating Disorders – 2025 – Burger – All in the Name of Artificial Intelligence A Commentary on Linardon 2025”, Tarih: 16 Mayıs 2024 Yazar: Pia Burger ve Sreejita Ghosh

Giriş:

Bu makale Pia Burger ve Sreejita Ghosh tarafından kaleme alınan ve International Journal of Eating Disorders dergisinde yayınlanan “All in the Name of Artificial Intelligence: A Commentary on Linardon (2025)” başlıklı makalenin ana temalarını, en önemli fikirlerini ve bulgularını özetlemektedir.

Makale, yapay zekanın (YZ) sağlık hizmetlerine, özellikle de yeme bozuklukları (YB) alanına hızla entegre olmasına odaklanmaktadır. Yazarlar, Linardon ve diğerlerinin (2025) çalışmasına atıfta bulunarak, YZ’nin gerçek yetenekleri ile hastaların ve klinisyenlerin bu teknolojiye dair algıları arasındaki önemli boşluğa dikkat çekmektedir. Özellikle, YZ’nin büyük dil modelleri (LLM’ler) ile eş anlamlı olarak görülmesinin potansiyel riskleri ve klinik karar alma süreçlerinde nicel modellerin LLM’lerden daha üstün olduğu vurgulanmaktadır.

Ana Temalar ve Önemli Fikirler:

YZ Algısındaki Boşluk ve Yanılgılar:

Makale, YZ’nin ne olduğu ve gerçekte neler yapabileceği ile hem hastaların hem de klinisyenlerin beklentileri arasında önemli bir uçurum olduğunu belirtmektedir. Linardon ve diğerlerinin (2025) çalışması, bu grupların YZ’yi büyük ölçüde ChatGPT ve Google Bard gibi büyük dil modelleriyle sınırlı gördüğünü ortaya koymaktadır.
Yazarlar, “Bu varsayım sadece bir basitleştirme değil, özellikle YZ’ye klinik bağlamlarda karar alma yetkisi verildiğinde potansiyel olarak tehlikeli bir varsayımdır.” ifadesiyle bu yanılgının riskini vurgulamaktadır.
Çalışmaya katılanların teknolojiye olan aşinalık düzeylerinin, YZ hakkındaki görüş ayrılıklarında önemli bir rol oynadığı belirtilmektedir.
YZ’nin tanımının muğlaklığı ve Linardon ve diğerlerinin (2025) çalışmasındaki tanımların bu muğlaklığı gidermekte yetersiz kalması, bu yanılgıyı pekiştirmiştir.

YZ’nin Doğru Tanımı ve Çeşitleri:

Yazarlar, Linardon ve diğerlerinin (2025) “YZ, insan zekası gerektiren görevleri yerine getirebilen sistemler yaratmaya odaklanır…” şeklindeki YZ tanımının eksik olduğunu savunmaktadır. Özellikle, bu tanımın ölçeklenebilirlik boyutunu göz ardı ettiği ve tüm YZ’yi üretken YZ (GenAI) ile sınırladığı belirtilmektedir.
Google’ın “Yapay zeka, normalde insan zekası gerektiren veya insanların analiz edebileceği ölçeği aşan verileri içeren bir şekilde akıl yürütebilen, öğrenebilen ve hareket edebilen bilgisayarlar ve makineler inşa etmekle ilgili bir bilim alanıdır.” şeklindeki tanımının daha kapsayıcı olduğu ifade edilmektedir.
Makale, makine öğrenimi (ML) modellerinin YZ’nin bir alt kümesi olduğunu ve derin öğrenme ile “geleneksel” veya sığ ML olarak ayrıldığını açıklamaktadır. Büyük dil modellerinin ise gelişmiş doğal dil işleme ve GenAI’nin kesişiminde yer aldığı belirtilmektedir.
Klinik karar destek süreçlerinde, metin tabanlı olmayan makine öğrenimi ve derin öğrenme modelleri gibi nicel hesaplama modellerinin daha etkili olduğu vurgulanmaktadır.

Hasta bakım yolu, dil veya nicel modellerin idari görevleri, klinik karar vermeyi veya doğrudan hastalarla etkileşimleri nasıl geliştirebileceğini gösteren kapsamlı olmayan bir örnek listesiyle birlikte. Kısaltmalar: LLMs, Büyük dil modelleri; ML, Makine öğrenimi; NLP, Doğal dil işleme; GPT, Üretken ön eğitim dönüştürücü; NN, Sinir ağı; RNN, Tekrarlayan NN; CNN, Evrişimli NN; CF, İşbirlikçi filtreleme; ViT, Görme Dönüştürücü.

Çalışma Gruplarının YZ’ye Bakış Açısı ve Endişeler:

Klinisyenlerin %59’unun ve hastaların yalnızca %18’inin YZ ile önceden deneyimi olduğu ve bu deneyimin çoğunlukla GPT-4 destekli büyük dil modelleriyle sınırlı olduğu belirtilmektedir.
Her iki grubun da “gerçek” nicel YZ modellerine aşina olmadığına dikkat çekilmektedir.
Klinisyenlerin %28’i ve hastaların %11’i YZ’nin (metin tabanlı modellerin) doğruluğu artırabileceği görüşüne katılmamaktadır.
Klinisyenlerin %18’i ve hastaların %24’ü YZ’nin sağlık hizmetlerindeki eşitsizlikleri sihirli bir şekilde ortadan kaldırabileceği fikrine karşı çıkmaktadır.
Klinisyenlerin %25’i ve hastaların %16’sı YZ’nin anonimliği ve gizliliği garanti edebileceği konusunda şüphelerini dile getirirken, önemli bir kesim bu sistemlere güvenmektedir. Ancak, genel amaçlı büyük dil modellerinin HIPAA veya GDPR gibi düzenlemelere uymak zorunda olmadığına dikkat çekilmektedir.
YZ modellerinin “kara kutu” doğası hakkındaki endişeler (%61 klinisyen ve %71 hasta orta ila güçlü düzeyde endişe bildirmektedir) vurgulanmakta ve bu durumun önyargıları artırma potansiyeli taşıdığı belirtilmektedir. Yazarlar, “modelin iç işleyişi kapalı kaldığı sürece, bu önyargıların eşitsizlikleri azaltmaktan çok artırma olasılığı yüksek kalır” ifadesiyle bu konuya dikkat çekmektedir.
Büyük ve karmaşık YZ modellerinin geçmiş veriler üzerinde eğitilmesi nedeniyle, bu verilerdeki zararlı önyargıları öğrenme ve sürdürme olasılıkları bulunmaktadır. Hatta bazı gelişmiş modellerin “halüsinasyon” (yanıltıcı bilgi üretme) gibi insan hatalarını dahi benimsediği örneklerle açıklanmaktadır.

YZ’nin Yeme Bozukluğu Bakımında Potansiyeli ve Farklı Uygulama Alanları:

Yazarlar, YZ’nin erken risk tespiti, nüksü daha doğru tahmin etme ve tedavi yaklaşımlarını kişiselleştirme gibi alanlarda YB bakımında umut vaat ettiğini kabul etmektedirler.
YZ’nin YB hasta bakım sürecine entegrasyonunda farklı rollerin (idari görevler, klinik karar alma ve doğrudan hastaya yönelik YZ) etik, yasal ve pratik açılardan farklı değerlendirilmesi gerektiği vurgulanmaktadır.
Herhangi bir YZ kaynaklı girdinin hastanın davranışını (yeme alışkanlıkları, öz farkındalık, fiziksel aktivite vb.) etkileyebilecek olması durumunda, bunun bir müdahale olarak kabul edilmesi gerektiği belirtilmektedir.

YZ’nin Farklı Uygulama Alanlarına Yönelik Değerlendirmeler:

İdari Görevler İçin YZ: Randevu planlama, sigorta doğrulama, bekleme listesi yönetimi, hasta takibi, personel ve kaynak yönetimi gibi zaman alıcı süreçleri otomatikleştirerek klinisyen yükünü azaltma ve verimliliği artırma potansiyeli vurgulanmaktadır. Büyük dil modellerinin hasta-klinisyen konuşmalarını özetleyebileceği belirtilmekle birlikte, dil sınırlamalarına dikkat çekilmektedir. Şaşırtıcı bir şekilde, bu düşük riskli idari görevler için YZ kullanımına yönelik düşük bir heves olduğu gözlemlenmektedir.
Klinik Karar Alma İçin YZ: YB bakımında umut vadeden potansiyelinin olduğu belirtilmekle birlikte, bu tür sistemlerin yapılandırılmış karar destek süreçlerine entegre edilmesi gerektiği vurgulanmaktadır. Sadece risk skorları sunmak yerine, bu skorlara güven aralıklarının eklenmesi ve otomatik olarak ek değerlendirmeleri tetiklemesi önerilmektedir. YZ araçlarının YB’ye özgü popülasyonlarda (genel “ruh sağlığı” kohortlarında değil) doğrulanmasının kritik önemi vurgulanmaktadır. Ayrıca, açıklanabilir YZ (XAI) yaklaşımlarının, modellerin karar alma süreçlerini şeffaflaştırarak önyargıların ve adaletsizliklerin tespit edilmesine yardımcı olabileceği belirtilmektedir. Outcome prediction modellerinin tedavi seçimi için kullanımında dikkatli olunması gerektiği, bu modellerin nedensel olarak bilgilendirilmediği ve kendi kendini gerçekleştiren dinamikler yaratabileceği uyarısı yapılmaktadır.
Doğrudan Hastaya Yönelik YZ: Sohbet robotları, öz izleme uygulamaları ve rehberli modüller gibi araçların YB hastaları için 7/24 kaynaklara erişimi genişletme potansiyeli bulunmaktadır. Ancak, bu tür araçlar birer müdahale olarak kabul edildiğinden, önerilerinin titizlikle doğrulanması gerektiği vurgulanmaktadır. 2023 yılında, YB konusunda zararlı tavsiyeler veren bir sohbet robotunun askıya alınması örneği verilmektedir. Sadece kalori sayımına dayalı geri bildirim sağlayan YZ destekli araçların riskleri özellikle vurgulanmaktadır. Bu tür platformların adım adım talimatlar, şeffaf semptom takibi ve klinisyenle ne zaman iletişime geçileceğine dair otomatik uyarılar sunması gerektiği belirtilmektedir. YZ’nin klinik bakımın bir uzantısı olarak işlemesi ve denetimsiz bir ikame olmaması gerektiği vurgulanmaktadır.

İleriye Dönük Adımlar:

YZ’nin sağlık hizmetlerindeki sorunlara bir çare olarak görülmeden önce, algoritmaların performans, adalet, güvenilirlik, gerçek dünya etkisi (klinisyen ve hasta memnuniyeti, maliyetler, erişim, sonuçlar vb.) açısından doğrulanması gerektiği vurgulanmaktadır.
Klinik bağlamdan yoksun, kötü zamanlanmış veya katı YZ uyarılarının klinisyenlerin bunları göz ardı etme eğilimini artırdığı belirtilmektedir.
YZ’nin iş akışlarına düşünceli bir şekilde entegre edilmesi, kullanıcı dostu arayüzlere ve net mesleki yönergelere sahip olması gerektiği ifade edilmektedir.
Hastaya yönelik YZ araçlarının gizlilik endişeleri ve tüketici uygulamalarının tutarsız kalitesi gibi ek zorluklar getirdiği belirtilmektedir.
Hem klinisyenlerin hem de hastaların sorumlu YZ kullanımı konusunda eğitilmesi gerektiği vurgulanmaktadır. YZ sistemlerindeki hataların da tıpkı insan klinisyenlerde olduğu gibi bildirilmesi gerektiği ifade edilmektedir.
Büyük dil modellerinin etkileşimli arayüz olarak kullanılabileceği, ancak gerçek önerilerin açıklanabilir ve güvenilir makine öğrenimi modellerinden gelmesi gerektiği önerisi desteklenmektedir.
Temel sorunun YZ’nin YB sağlık hizmetlerini değiştirip değiştirmeyeceği değil, bunu nasıl ve iş akışlarının hangi noktalarında sorumlu bir şekilde yapabileceği olduğu vurgulanmaktadır.
Şekil 1’de, YZ’nin (dil modelleri veya nicel modeller aracılığıyla) idari görevleri, klinik karar almayı ve doğrudan hasta etkileşimlerini nasıl geliştirebileceğine dair örnekler sunulmaktadır.
Düşünceli bir şekilde uygulandığı takdirde YZ’nin iş akışlarını kolaylaştırabileceği, klinik karar almayı geliştirebileceği, klinik bilgi keşfine olanak tanıyabileceği ve hatta hastaları güçlendirebileceği sonucuna varılmaktadır. Aksi takdirde, en azından evrak işlerinin dijital bir asistan tarafından yapılacağı umulmaktadır.

Sonuç:

Makale, yapay zekanın yeme bozuklukları alanında önemli bir potansiyele sahip olduğunu kabul etmekle birlikte, bu teknolojinin sorumlu ve etik bir şekilde entegre edilmesi gerektiğinin altını çizmektedir. YZ’nin gerçek yetenekleri ile kullanıcıların beklentileri arasındaki boşluğun giderilmesi, YZ’nin doğru tanımlanması ve farklı uygulama alanlarının özelliklerinin anlaşılması büyük önem taşımaktadır. Özellikle, büyük dil modellerinin tek başına klinik karar alma süreçlerinde yeterli olmadığı ve nicel modellerin bu alanda daha güvenilir sonuçlar verdiği vurgulanmaktadır. YZ’nin hasta bakımına entegrasyonunda, hasta güvenliği, gizlilik, önyargıların önlenmesi ve algoritmaların şeffaflığı gibi kritik faktörlere dikkat edilmesi gerekmektedir. YZ’nin klinik iş akışlarına düşünceli bir şekilde entegre edilmesi ve insan klinisyenlerin yerini almaktan ziyade onları desteklemesi gerektiği temel mesaj olarak öne çıkmaktadır.

Makale ile ilgili linkler:

Her iki makalede yer alan kaynaklara, ilgili linklerden ulaşılabilir.