PYMNTS tarafından/Ekim 2024
JAMA’da yayınlanan yeni bir FDA perspektifine göre , Gıda ve İlaç Dairesi sağlık hizmetlerinde kullanılan yapay zeka araçlarının sürekli izlenmesi için baskı yapıyor. Daire, izlenmeyen yapay zeka sistemlerinin hasta güvenliği için risk oluşturabileceği konusunda uyarıyor.
Bugüne kadar 1.000’e yakın yapay zeka destekli tıbbi cihazı onaylayan kurum, çeşitli sağlık ortamlarında farklı şekilde gelişebilen ve performans gösterebilen yapay zeka sistemleri için geleneksel tek seferlik onaylardan daha fazlasına ihtiyaç duyulabileceğini vurguluyor.
“‘Kilidi açılmış’ modellerin evrimleşme kapasitesi ve AI’nın bağlamsal değişikliklere duyarlılığı göz önüne alındığında, AI performansının kullanıldığı ortamda izlenmesi gerektiği giderek daha belirgin hale geliyor,” diye yazdı FDA’dan Dr. Haider J. Warraich ve meslektaşları. “AI’nın pazar sonrası performans izlemesine duyulan bu ihtiyaç, sağlık sistemleri ve klinik uygulamalar tarafından bilgi yönetimi açısından derin etkilere sahiptir.”
Makale, finansal optimizasyonu hasta sonuçlarıyla dengelemek ve klinik ortamlarda büyük dil modellerini değerlendirmek gibi çeşitli zorlukları ana hatlarıyla açıklıyor. FDA ayrıca, giderek karmaşıklaşan AI uygulamalarını incelemek için işgücü uzmanlığını sürdürmenin önemini vurguladı.
Kurum, yoğun bakım ünitelerindeki hastaların izlenmesine benzer şekilde, dağıtımdan sonra yapay zeka araçlarının güvenliği ve etkinliğinin sürekli değerlendirilmesini gerektiren “toplam ürün yaşam döngüsü” yaklaşımını savunuyor.
https://jamanetwork.com/journals/jama/fullarticle/2825146#google_vignette