Damien Lacroux / Bilim Felsefecisi ve UNESCO Yaşayan ve Yapay Etik Kürsüsü’nde araştırmacı
Önemli çıkarımlar:
- Yapay zeka giderek öngörücü ve kişiselleştirilmiş tıbbın ayrılmaz bir parçası haline geliyor ve tıp uzmanlarının tedavi kararları almasına yardımcı oluyor.
- MIRACLE projesinin amacı, tıbbi karar almaya yardımcı olacak bir algoritma kullanarak akciğer kanseri hastalarında tekrarlama riskini belirlemektir.
- Bunu başarmak için algoritmaya çok miktarda hasta verisi besleniyor; veri ne kadar fazlaysa algoritmanın hata payı da o kadar dar oluyor.
- Ancak yapay zeka ne kadar güçlüyse uygulayıcılar için o kadar belirsiz hale geliyor ve yapay zekanın önerdiği tekrarlama olasılığına hangi verilerin yol açtığını anlamalarının bir yolu olmuyor.
- Yapay zeka bu nedenle tıpta şeffaflık konusunda etik sorunları gündeme getiriyor. Hastaların temel korkusu, makinenin insan müdahalesi olmadan teşhis koyması.
Yapay zeka meme kanserini tespit etmek için 1 veya prostat kanserini tespit etmek için 2, yaşlanmayı tahmin etmek için fizyolojik yaşımızı hesaplayan algoritmalar zihinsel sağlığımızı izlemek için konuşma Yapay zeka araçları giderek tıbbi uygulamanın bir parçası haline geliyor. Odak noktası, tıbbi meslek tarafından öngörücü ve kişiselleştirilmiş tıp ve terapötik karar almadır. Ancak hastalar doktorlar ve yapay zeka arasındaki bu ilişkiyi nasıl algılıyor? Uygulayıcılar teknolojiyle gerçekten nasıl etkileşim kuruyor?
Bunlar, bilim felsefecisi ve UNESCO Yaşayan ve Yapay Etik Kürsüsü’nde araştırmacı olan Damien Lacroux’nun sorduğu sorulardır. Kanserolojide algoritmaların entegrasyonu konusunda uzmanlaşmış araştırmacı, “Görüşmelerim sırasında hastaların doktorlar ve yapay zeka arasında belirli bir ilişki hayal ettiğini fark ettim,” diye açıklıyor. “Onkolojideki insan uzmanlarının bir karar vermeden önce vakamız üzerinde düşündüklerine ve teknolojinin daha sonraki bir aşamada bu düşünceyi doğrulamak için müdahale ettiğine inanma eğilimindeyiz,” diye açıklıyor. Ama durum gerçekten böyle mi?
Akciğer kanserinin tekrarlama riskini önlemek için yapay zeka
Bunu öğrenmek için Damien Lacroux, MIRACLE 5 projesinden bilim insanlarıyla konuştu. İddialı bir şekilde adlandırılan bu Avrupa çalışması 2021’de başlatıldı ve İtalya, İspanya, Almanya ve Fransa’daki laboratuvarları bir araya getiriyor. Amaç, tıbbi karar almaya yardımcı olmak için bir algoritma kullanarak akciğer kanseri hastalarında tekrarlama riskini belirlemektir. Bunu başarmak için araştırmacılar, gözetimli bir şekilde yapay zekayı (makine öğrenimi) eğitiyorlar. Algoritma, tekrarlamanın varlığı veya yokluğu bilinen bir hasta kohortundan alınan verilerle “besleniyor”. Yutulan veriler üç türdedir: klinikopatolojik veriler (hastanın cinsiyeti, hastalıklarının geçmişi veya geçirmiş olabilecekleri tedaviler gibi); tıbbi görüntüleme verileri; ve son olarak omik verileri, yani moleküler biyolojiyle ilgili bir bilgi yığını (tümörlerden DNA veya RNA).
Bilim insanları, 220 hastadan oluşan bir kohort kullanarak, toplanan tüm verileri ve bir tekrarlamanın olup olmadığına ve ne kadar süre sonra tekrarlanacağına dair bilgileri algoritmaya veriyor. Damien Lacroux, “Daha sonra algoritmanın işini yapmasına izin veriyoruz! Bu, insanların kendi başlarına işlemesinin imkansız olduğu, hayal edilemeyecek miktarda veri içeriyor,” diye açıklıyor. “Bugün, proje programın gerisinde ve ilk kohorttan veri toplamayı yeni bitirdik. Algoritmayı bu verilerle eğitmeye başlamamız ve ardından eğitimini doğrulamak için ikinci bir kohort toplamamız gerekiyor.” Yani, MIRACLE projesini eylem halinde görmeden önce biraz daha beklememiz gerekecek.
Yapay Zeka: Tıbbi karar alma sürecinde kara kutu
Ancak çalışma şekli, Damien Lacroux’nun görüştüğü araştırmacılar tarafından da işaret edildiği gibi, hemen etik bir sorun ortaya çıkarıyor. “Eğitimin başında, biyoenformatikçiler veri kümelerini dilimlemeyi ve AI sonuçlarını şu veya bu girdi faktörüyle ilişkilendirmeyi başarıyorlar. Ancak yavaş yavaş, veri artıyor ve kara bir kutu haline geliyor.” Bu artan veri hacmi, tahminleri iyileştirmek için kullanılan modelleri daha karmaşık hale getiriyor. Ve paradoks burada yatıyor: veri miktarı arttıkça, algoritmanın hata payı azalıyor. Bu nedenle AI daha verimli, ancak çalışma şekli uygulayıcılar için daha az açık. Kendileri AI’nın iç işleyişine aşina değillerse, AI tarafından alınan kararları hastalara nasıl açıklayabilirler veya önyargının olmadığını nasıl garanti edebilirler?
Onkoloji alanında, karar ağaçları genellikle doktorların klinik akıl yürütmelerini haklı çıkarmalarına yardımcı olmak için kullanılır. Ancak, algoritmik puanların bu süreçlere entegre edilmesi, bazen yapay zekanın tekrarlama olasılığını tahmin etmesine yol açan girdi verilerinin ne olduğunu anlamakta zorlanan doktorların şeffaflık ihtiyacıyla çelişebilir. Damien Lacroux’nun yaklaşan çalışmasında röportaj yaptığı MIRACLE projesi üzerinde çalışan bir Alman biyoenformatikçi, “Algoritmadaki her dahili hesaplamayı çözmeyi başarsak bile, sonuç o kadar matematiksel olarak karmaşık olurdu ki doktorlar bunu yorumlayamaz veya klinik uygulamalarında kullanamazlardı” diye açıklıyor .
Bu, bilgilendirilmiş hasta onayı kavramını da etkiler. Filozof, “Doktor, hastanın tedaviyi kabul etmesini veya reddetmesini sağlayacak yeterli bilgiyi sağlamakla yükümlüdür. Ancak, uygulayıcı tam olarak bilgilendirilmemişse, bu etik bir sorun teşkil eder,” diye ekler. Yine de, Damien Lacroux’nun çalışmasında belirttiği gibi: “Moleküler biyoloji, onkolojide ilerleme kaydetmenin temel bir yolu olarak binlerce hasta omik verisini hesaba katma ihtiyacını belirlemiştir.” Bu nedenle yapay zeka, önerilen tedavileri iyileştirerek hastalığın potansiyel evriminin daha iyi yönetilmesini sağlayacaktır… doktorlar ve hastalar arasındaki güven pahasına.
Sürücü koltuğunda insanların olmasının önemi
Yapay zekanın tıbbi müzakere sürecine entegre edilip edilmediği (Damien Lacroux’nun makalesinde “analitik müzakere” olarak adlandırdığı şey) veya karar alma sürecinin tamamen dışında olup yalnızca son bir danışma olarak müdahale edip etmediği (“sentetik müzakere”), hastalar söz konusu olduğunda tam bir şeffaflık olmalıdır. Araştırmacının 7 hastalarla yaptığı grup görüşmeleri sırasında dile getirdiği temel korku , “makinenin” insan müdahalesi olmadan tanı koyacağıdır. “Ancak bugün durum hiç de böyle değil,” diye güvence veriyor Damien Lacroux.
Hasta verilerine dayalı olarak kanser tekrarlama olasılığını öneren bu algoritmik puanlar, öngörücü tıbba özgü başka soruları da gündeme getiriyor: Gerçekten ne zaman iyileşeceğiz? Belirsizlik devam ederken ve olası bir tekrarlamanın sürekli beklentisi içinde yaşarken hastalıktan gerçekten kurtulabilir miyiz? Bu sorular, diğer pek çok soru gibi, henüz cevaplanmadı.
Sophie Podevin
1 Institut Curie makalesi, Aralık 2022 ( https://curie.fr/actualit/publication/diagnostik-i-du-canc-e-du-s-eiin-liint-elll-ig-e-nc-e-arit-i-f-i …
2 Institut Curie makalesi, Kasım 2024 ( https://curie.fr/actualite/echerche/intelligence-artificielle-linstitut-curie-implemente-les-outils-dibex-medical ) ↑
3 Inserm basın bülteni, Haziran 2023 (https://presse.inserm.fr/une-intelligence-artificielle-pour-predire-le-vieillissement/67138/ ) ↑
4 Aralık 2024 tarihli Info.gouv makalesi, Kanopee uygulamasını örnek olarak kullanıyor ( https://www.info.gouv.fr/actualite/lintelligence-artificielle-au-service-de-la-sante-mentale ) ↑
5 Proje kodu ERP-2021–23680708 – ERP-2021-ERAPERMED2021-MIRACLE. ↑
7 Bu görüşmeler MIRACLE projesi dışındaki hasta dernekleriyle gerçekleştirildi. ↑