4 Haziran 2024
Yazarlar : Nadia Daneshvar , JD, MPH , Deepti Pandita , MD htt2738, Shari Erickson , MPH , Lois Snyder Sulmasy , JD ve Matthew DeCamp , MD, PhD, ACP Tıp Bilişimi Komitesi ve Etik, Profesyonellik ve İnsan Hakları Komitesi.
Özet
Dahili tıp hekimleri, yapay zeka (AI) ve makine öğrenimi (ML) teknolojilerini uygulayan sistemlerle giderek daha fazla etkileşime giriyor. Hatta bazı doktorlar ve sağlık sistemleri, elektronik sağlık kayıt sistemlerinin hem içinde hem de dışında kendi yapay zeka modellerini bile geliştiriyor. Bu teknolojilerin sağlık hizmetlerinin sağlanmasında klinik dokümantasyon, tanısal görüntü işleme ve klinik karar desteği gibi çeşitli uygulamaları vardır. Çok miktarda hasta verisinin giderek yaygınlaşması ve klinisyenlerin eşi benzeri görülmemiş düzeylerde tükenmesi nedeniyle, bu teknolojilerin çoğalması bazı doktorlar tarafından ihtiyatlı bir şekilde karşılanıyor. Bu durumun hasta-hekim ilişkisine ve hekimlerin mesleki dürüstlüğüne zorluklar getirdiğini düşündürüyor. Spesifikasyonların ve geliştirme yöntemlerinin yakından korunabileceği veya tescilli olabildiği bazı yapay zeka modellerinin “kara kutu” doğası ve uygun düzenleyici inceleme ve doğrulamanın göreceli gecikmesi veya yokluğu göz önüne alındığında, bu eğilimler anlaşılabilir. Bu American College of Physicians (ACP) pozisyon belgesi, College’in sağlık hizmetlerinin sağlanmasında YZ ve MÖ destekli araç ve sistemlerin kullanımına ilişkin temel pozisyonlarını ve önerilerini açıklamaktadır. Hasta odaklılık, mahremiyet ve şeffaflıkla ilgili olanlar gibi Kolej’in pek çok pozisyonu ve tavsiyesi ACP Etik Kılavuzundaki ilkelere dayanmaktadır. Bunlar aynı zamanda araçların klinik güvenliği ve etkinliğinin yanı sıra sağlık eşitsizliklerine ilişkin potansiyel sonuçlarına ilişkin değerlendirmelerden de kaynaklanmaktadır.
Üniversite, bu teknolojilerin klinik ve etik sonuçları ile bunların hasta sağlığı ve refahı üzerindeki etkileri konusunda daha fazla araştırma yapılması çağrısında bulunuyor.
Yapay zeka (YZ) ve makine öğreniminin (MÖ) tıptaki uygulamaları 1970’lerden bu yana istikrarlı bir şekilde genişlliyor ve hızla büyümeye devam ediyor. Ocak 2020’den Ekim 2023’e kadar ABD Gıda ve İlaç İdaresi (FDA), önceki 25 yılda olduğundan daha fazla YZve MÖ özellikli aracı inceledi, onayladı, yetkilendirdi. Kasım 2022’den bu yana, OpenAI’nin ChatGPT’si gibi üretken yapay zeka araçlarının yükselişiyle ve buna bağlı olarak ana akım medyada yer alan haberlerin artmasıyla birlikte yapay zekaya olan ilgi önemli ölçüde arttı.
Sağlık sektörü, yapay zeka teknolojisi ve bunun tıp ve sağlık hizmeti sunumunun geleceği açısından ne anlama gelebileceği konusunda özellikle heyecan duyuyor. Tüketiciye ve hastaya yönelik çeşitli dijital sağlık uygulamaları aracılığıyla kişiler hakkında derlenmeye devam eden veri miktarının, bırakın klinik kararlara başvurmayı, en akıllı doktorların bile inceleyip işlemesi bile imkansızdır.
Ulusal düzeyde klinisyen eksikliğinin kötüleşmesi ve hekim tükenmişliğinin rekor düzeylere ulaşmasıyla birlikte, sağlık hizmeti uygulayıcılarına klinik karar vermede rehberlik eden ve ortak idari yük kaynaklarına yardımcı olan görünüşte her şeyi bilen araçların genişletilmesine yönelik ilgi artıyor. Ayrıca, tıbbi kararları bilgilendirmek için çeşitli kaynaklardan çok miktarda hasta verisini işleyebilen yapay zeka teknolojilerinin, daha kişiselleştirilmiş, veri odaklı hasta bakımına olanak sağlaması bekleniyor. Hasta merkezli bakım ve karar verme konusunda beklenen faydalar, yapay zeka destekli araç ve sistemlerin tıp ve sağlık hizmetlerinin geleceğinde sadece beklenmekle kalmayıp gerekli olmasının da nedenleri arasındadır.
Her ne kadar veriye dayalı bakım modern tıbbın temel taşı olsa da, veriye dayalı karar verme karmaşık olabilir ve hatalarla dolu olabilir . Benzer şekilde, yapay zeka araçları tıp uygulamalarını pek çok faydalı şekilde dönüştürebilse de, yapay zeka teknolojisine dair temel bir anlayış olmadan yapay zeka çıktısına dayalı klinik karar desteği, hastalar için ciddi, hatta ölümcül sonuçlara yol açabilir. Bu nedenle, klinik karar vermede kullanıldığında daha uygun terimin “artırılmış” zeka olduğunu, yani insan zekasını birleştirmeye devam ettiğini ve klinisyenlere yardımcı olacak bir araç olarak kullanıldığını belirtmek önemlidir. Yapay zekanın klinik kullanımının bakım kalitesi, sağlık eşitsizlikleri, hasta güvenliği, sağlık bakım maliyetleri, idari yük ve hekimin refahı ve tükenmişliği üzerindeki kısa ve uzun vadeli risklerini ve etkilerini değerlendirmek için kapsamlı araştırmalar gereklidir. Riskleri azaltmak için alınabilecek önlemler de dahil olmak üzere, yapay zeka kullanımının klinik riskleri ve etik sonuçları hakkında genel farkındalığın arttırılması kritik öneme sahiptir.
Klinisyenlerin hem pratikte hem de eğitimde, teknolojinin halihazırda kullandıkları sistemlere nereye entegre edilebileceğine dair kolektif anlayışlarını geliştirmek ve bunun sonuçlarını tanımak da dahil olmak üzere, hızla gelişen bu teknoloji alanında gezinmelerine yardımcı olmak için kapsamlı eğitim kaynakları gereklidir.
Bu teknolojilerin güvenli, etkili ve etik kullanımını sağlamak için en iyi uygulamaların yanı sıra araştırmalara, düzenleyici rehberliğe ve gözetime ihtiyaç vardır. Bu yönetici özeti, Amerikan Hekimler Koleji’nin (ACP) sağlık hizmetlerinin sağlanmasında yapay zekanın kullanımına ilişkin politika pozisyonlarının bir özetini sunmaktadır.
Bununla birlikte, üretken yapay zekanın hem doktorlara hem de hastalara fayda sağlayan büyük potansiyelini görmemize rağmen, yapay zeka teknolojisinin bu alt kümesinin manzarası hâlâ gelişmekte olduğundan, bunun tam kapsamı ve sonuçları hakkında yorum yapmak için henüz çok erken. ACP, gelişen bu teknolojiyi olgunlaştıkça değerlendirmeye devam edecektir. Ayrıca ACP, yapay zeka teknolojisinin dinamik ve gelişen doğası nedeniyle bu önerilerden bazılarının uygulanmasında zorluklar olabileceğinin farkındadır.
Yöntemler
Tıbbi bilişim ve sağlık bilgi teknolojisi (BT) ile ilgili konuları ele alan ACP Tıbbi Bilişim Komitesi ve ACP Etik, Profesyonellik ve İnsan Hakları Komitesi, bu görüş belgesini yasa ve yönetmeliklerin, etik ilkelerin ve Yapay Zekanın tıp ve sağlık hizmetlerinde kullanımına ilişkin ampirik çalışmalar ve literatürün geniş bir incelemesi sonucunda elde edilmiştir.
Veritabanları Google’ın yanı sıra Google Akademik’i de içeriyordu ve kullanılan arama terimleri arasında yapay zeka , dahiliye ve birinci basamak sağlık hizmetleri yer alıyordu . Yazarlar ayrıca tavsiyelerinin geliştirilmesinde ACP Yönetim Kurulu, Mütevelli Heyeti, Erken Kariyer Hekimleri Konseyi, Asistan/Arkadaş Üyeler Konseyi, Öğrenci Üyeleri Konseyi ve Yan Uzmanlık Toplulukları Konseyi’nden gelen girdileri de dikkate aldılar.
Bu pozisyon belgesi ve ilgili öneriler Ocak 2024’te ACP Tıbbi Bilişim Komitesi, Ocak 2024’te ACP Etik, Profesyonellik ve İnsan Hakları Komitesi ve Şubat 2024’te Mütevelli Heyeti tarafından incelendi ve onaylandı.
Öneriler/Pozisyon Açıklamaları
- ACP, yapay zeka destekli teknolojilerin doktorların ve diğer klinisyenlerin mantığını ve karar verme sürecini tamamlaması ve onun yerine geçmemesi gerektiğine kesinlikle inanmaktadır.
- ACP, yapay zekanın sağlık hizmetlerinde geliştirilmesi, test edilmesi ve kullanılmasının tıbbi etik ilkeleriyle uyumlu olması, hasta bakımını, klinik karar almayı, hasta-hekim ilişkisini ve sağlık hizmetlerinde eşitlik ve adaleti geliştirmeye hizmet etmesi gerektiğine inanmaktadır.
- ACP, hasta-hekim ilişkisinde güveni artırmak amacıyla hasta bakımında yapay zekanın geliştirilmesi, test edilmesi ve kullanılmasında şeffaflık çağrısını yeniden teyit eder. ACP, hastaların, doktorların ve diğer klinisyenlerin, mümkün olduğunda, tıbbi tedavi ve karar vermede yapay zeka araçlarının büyük olasılıkla kullanıldığı konusunda bilgilendirilmelerini önermektedir.
- ACP, AI geliştiricilerinin, uygulayıcılarının ve araştırmacılarının, AI modeli geliştirme ve dağıtımı için toplanan ve kullanılan hasta ve klinisyen verilerinin mahremiyetine ve gizliliğine öncelik vermesi gerektiğini yeniden doğrular.
- ACP, klinik güvenlik ve etkililiğin yanı sıra sağlık eşitliğinin de yapay zeka destekli tıbbi teknolojinin geliştiricileri, uygulayıcıları, araştırmacıları ve düzenleyicileri için en önemli öncelik olması gerektiğini ve yapay zekanın sağlık hizmetlerinin sağlanmasında kullanılmasının zorunlu hale getirilmesini önermektedir. Geri bildirim mekanizmasını içeren sürekli iyileştirme süreci kullanılarak yaklaşılır. Bu, mutlaka, gerçek hasta demografik bilgileri ve hakemli araştırmaların kullanıldığı, çeşitli gerçek dünya klinik bağlamlarında son kullanıcı testlerini içerir. Yapay zekanın tıpta kullanımıyla ilişkili bilinen ve gelişen risklere özel dikkat gösterilmelidir.
- ACP, yapay zeka ve diğer gelişen teknolojilerin sağlık hizmetlerinde kullanımının sağlık ve sağlık hizmetlerindeki eşitsizlikleri artırmak yerine azaltması gerektiğini yeniden doğrulamaktadır. Bu çabayı kolaylaştırmak için:
A.
ACP, ortaya çıkan modellerin kullanılabileceği farklı popülasyonlardan gelen verileri içerecek şekilde yapay zeka modeli geliştirme verilerinin kullanılmasını talep ediyor.
B.
ACP, Kongre, HHS ve diğer önemli kuruluşlara, farklı veya ayrımcı etkileri belirlemek amacıyla yapay zeka sistemlerindeki verilerin araştırılmasını ve analizini desteklemeye ve yatırım yapmaya çağrıda bulunuyor.
C.
ACP, federal hükümet, endüstri, kar amacı gütmeyen kuruluşlar, akademi ve yerleşik veya gelecekteki herhangi bir algoritmik teknolojideki önyargıları azaltma yollarının araştırılmasına ve geliştirilmesine öncelik veren diğerleri arasında çok sektörlü işbirliklerinin gerçekleşmesini tavsiye etmektedir.
7. ACP, yapay zeka geliştiricilerinin modellerinin performansından sorumlu olmalarını tavsiye ediyor. Birleşik bir yönetişim çerçevesi üzerine inşa edilmiş, koordineli bir federal yapay zeka stratejisi olmalıdır. Bu strateji, aşağıdakileri sağlamak için resmi ve resmi olmayan düzenleyici kurumları içermelidir:
A.
Yapay zeka destekli tıbbi araçların geliştirilmesinin, konuşlandırılmasının ve kullanımının gözetimi;
B.
Mevcut ve gelecekteki yapay zeka ile ilgili politikaların ve rehberliğin uygulanması; Ve
C.
YZ kullanımından kaynaklanan olumsuz olayların raporlanmasını etkinleştirecek ve sağlayacak mekanizmalar.
- ACP, geliştirme ve kullanımın tüm aşamalarında yapay zeka araçlarının, hasta bakımını desteklemek amacıyla doktor ve diğer klinisyenlerin yükünü azaltacak şekilde tasarlanmasını tavsiye etmektedir.
- ACP, hekimlerin yapay zeka destekli sağlık sistemlerinde uygulama yapmak için gerekli bilgi ve anlayışa sahip olmalarını sağlamak amacıyla tıp eğitiminin her düzeyinde eğitim verilmesini tavsiye etmektedir.
- ACP, yapay zekanın çevresel etkilerinin ve bunların azaltılmasının, yapay zeka döngüsü boyunca incelenmesini ve dikkate alınmasını tavsiye etmektedir.
Çözüm
Yapay zeka ve makine öğrenimi teknolojilerinin sağlık sistemlerinde yaygınlaşması, doktorların daha önce farkında olmadıkları veya henüz tam olarak anlamadıkları yeni araçlarla karşılaşmaları anlamına geliyor. Bu yeni teknolojilerden hastalara maksimum fayda ve minimum zarar sağlamak ve bunların hekimlerin ve tıp mesleğinin etik sorumluluklarına uygun şekilde kullanılmasını sağlamak için hekimler ve diğer kişiler için daha fazla rehberliğe, düzenleyici denetime, araştırmaya ve eğitime ihtiyaç vardır. Klinisyenler ve sağlık sistemleri, ACP, bu pozisyon belgesindeki tavsiyelerin bu kritik alanındaki politikaların geliştirilmesine bilgi sağlayacağını umuyor.