Ángela Bernardo , María Álvarez del Vayo , Carmen Torrecillas , Adrián Maqueda ve Lucas Laursen / Temmuz 2025
Bask Bölgesi, 1,6 milyon avroluk yatırımın ardından sağlık kliniklerinde Quantus Skin’i uygulamaya koyuyor. Uzmanlar, Asisa iştiraki tarafından geliştirilen yapay zekayı “zayıf” ve “tehlikeli” sonuçlar nedeniyle eleştiriyor. Algoritma yalnızca beyaz hastalardan alınan verilerle eğitildi.
Zaman paradır. Özellikle en tehlikeli cilt kanseri olan melanom için: Bu tümörün mümkün olan en kısa sürede teşhis edilmesi, hayat kurtarmada diğer tüm kanser türlerine göre daha belirleyicidir . İspanya’da, 2025 yılında yaklaşık 9.400 melanom vakası görüleceği tahmin ediliyor . Bu, hızla yayılıp sadece birkaç ay içinde metastaz yapabilen oldukça agresif bir kanser türüdür. Bu durumda prognoz genellikle kötüdür, bu nedenle tespit hataları ölümcül olabilir.
Bask Bölgesi’ni yapay zekâya yönelten de tam olarak bu aciliyettir . 2025 yılında Bask sağlık sistemi Osakidetza, birinci basamak sağlık kliniklerinde ve hastanelerinde melanom da dahil olmak üzere cilt kanseri riskini teşhis etmek üzere tasarlanmış bir algoritma olan Quantus Skin’i entegre etmek için çalışıyor . Teoride, süreci hızlandırma vaadinde bulunuyor: Aile hekimleri, şüpheli lezyonların görüntülerini, algoritmanın kötü huylu olduklarına dair tahminiyle birlikte hastanenin dermatoloji servisine gönderebilecekler. Bask hükümetinin fikri, şu anda test aşamasında olan Quantus Skin’in, hastaların tedavi önceliklerini belirlemesine yardımcı olacağı yönünde.
Ancak veriler endişe verici. Quantus Skin’i pazarlayan şirket olan Transmural Biotech , ümit verici sonuçlar veren bir ilk çalışma yürüttü ; ancak önemli sınırlamaları vardı: tamamen çevrimiçi olarak yürütüldü ve herhangi bir akademik dergide yayınlanmadı; bu da bilimde gerekli olan olağan kalite kontrolünden geçmediği anlamına geliyor.
Daha sonra, Ramón y Cajal Hastanesi’nden dermatologlar ve Madrid’deki Complutense Üniversitesi’nden profesörler, Quantus Skin’in gerçek klinik etkinliğini değerlendirmek üzere yayınlanan ikinci bir çalışma yürüttüler. Transmural Biotech’ten fon ve teknik destek alan bu çalışma daha kötü sonuçlar gösterdi: algoritma her üç melanomdan birini atlıyor . Duyarlılığı %69,1, yani bu potansiyel olarak ölümcül kanser vakalarının %31’ini atlıyor.
Civio, Transmural Biotech CEO’su David Fernández Rodríguez ile iletişime geçtiğinde , Rodríguez kaçamak bir e-postayla yanıt verdi: “Şu anda ne olduğunu bilmiyorum.” Telefonda ısrar ettikten sonra, açıklamasını değiştirdi: “Yaptığımız şey, olası uygulama sorunlarını tespit etmek için test etmekti.” Ve görüşmenin sonunda Fernández Rodríguez, Quantus Skin’in “çalışmaya devam etmediğini, sadece çok daha kötü çalıştığını, ancak nedenini bulmamız gerektiğini” kabul etti.
Fernández Rodríguez, bu düşük sonuçların, Quantus Skin talimatlarına uyulmaması nedeniyle oluşan görüntü yakalama eksikliklerine bağlı olduğunu belirtiyor. Bu, Bask Bölgesi’ndeki denemelerde de gözlemledikleri bir şey: “Birinci basamak sağlık hizmeti doktorları görüntü almak için iyi eğitilmemiş,” diyor ve bu da “doktorların eğitilmesi” gerektiğini gösteriyor. Ancak ikinci çalışma, şüpheli lezyonların daha sonraki teşhis için fotoğraflanmasında uzmanlaşmış dermatologları içeriyordu. Fernández Rodríguez’e göre, “talimatlara tam olarak uyulmadığı” için “görüntüler düzgün bir şekilde kırpıldıktan” sonra güvenilirlik arttı.
Bağımsız kaynaklar tanı aracını eleştiriyor
“Cilt kanseri için %70 hassasiyete sahip olmak çok kötü. Çok kötü. Bunu birine verip fotoğrafını çekip melanom olup olmadığını sorarsanız ve üçte birinde yanılıyorlarsa, birincil ortamda cilt kanseri taraması için uygunsuzdur. Daha fazlasını talep etmelisiniz,” diye açıklıyor Barselona’daki Hospital Clínic’in Cilt Kanseri Birimi direktörü Dr. Josep Malvehy Guilera . “%31’lik yanlış negatif oranı en hafif tabirle tehlikeli geliyor,” diyor Mallorca’daki Son Llàtzer Hastanesi’nde dermatolog ve Dermapixel kitabının yazarı Dr. Rosa Taberner Ferrer : “Tarama testi olarak berbat.”
Ancak Fernández Rodríguez, yalnızca ürününü destekleyen verilere odaklanarak ve Quantus Skin’in düşük duyarlılığından bahsetmekten kaçınarak sorunu küçümsemeye çalışıyor. Quantus Skin iki açıdan başarısız: Aynı araştırmaya göre , özgüllüğü %19,8’lik bir yanlış pozitif oranına işaret ediyor, yani beş iyi huylu benden birini melanomla karıştırıyor . Bu durum, taranan hastaların yaklaşık %20’sinin gereksiz yere başka bir yere sevk edilmesine yol açabilir.
Çalışmada , yazarlar – Madrid’deki Ramón y Cajal Hastanesi’nde dermatologlar ve Madrid Complutense Üniversitesi’nde optik profesörleri – Quantus Skin’in kesin tanı için kullanılmadığı için daha düşük duyarlılık (daha fazla yanlış negatif) pahasına bile daha yüksek bir özgüllüğe (daha az yanlış pozitif) sahip olmasının tercih edilebilir olduğunu savunuyorlar. Quantus Skin, sadece birinci basamak sağlık hizmetlerinden vakaları sevk etmek için kullanılan bir tarama aracı. Bunun, uzman konsültasyonlarının aşırı kalabalıklaşmasını önleyerek bekleme sürelerini ve tıbbi maliyetleri azaltabileceği hipotezini öne sürüyorlar.
“Hızla büyüme ve hatta hastanın ölümüne yol açma potansiyeli olan lezyonlarda melanomu yanlış teşhis ediyorsa, çok tahammülsüz olmalıyım. En az %92, %93, %94 oranında hassasiyet talep etmeliyim.”
Dr. Josep Malvehy Guilera, Hospital Clínic de Barcelona Cilt Kanseri Birimi Direktörü
Civio’nun danıştığı uzmanlar aynı fikirde değil. Kanser teşhisi için ideal bir standart olmasa da – kısmen her tümörün agresifliğine bağlı olduğu için – Quantus Skin’in elde ettiği başarı kabul edilebilir olmaktan çok uzak . Barselona’daki Hospital Clínic’ten dermatolog Malvehy Guilera, “Hızla büyüme ve hatta hastanın ölümüne yol açma potansiyeli olan lezyonlarda melanomu yanlış teşhis ederse, çok tahammülsüz olmalıyım. En az %92, %93, %94 oranında hassasiyet bekliyorum,” diyor.
Taberner Ferrer, “Eğer bunu tarama amaçlı kullanmayı planlıyorlarsa, sistemin biraz daha düşük bir özgüllük pahasına çok yüksek bir hassasiyete sahip olması gerekir,” diye açıklıyor. Başka bir deyişle, böyle bir algoritmanın aşırı temkinli olması tercih edilir: Sağlıklı kişilerde yanlış alarmlar üreterek biraz hata yapmak, gerçek bir kanser vakasını kaçırmaktan daha iyidir .
Koyu ten, belirsiz tanı
Quantus Skin’in sorunları düşük hassasiyetinin ötesine geçiyor. Makalede yalnızca melanom teşhisindeki etkinliği değerlendirilmiş, bazal hücreli karsinom ve skuamöz hücreli karsinom gibi Quantus Skin’in de uygulanabileceği daha yaygın ancak daha az agresif cilt kanserleri incelenmemiş. Yazarlar ayrıca, cilt renginin algoritmanın performansını nasıl etkilediğini incelememiş, ancak bunun araştırmalarının temel sınırlamalarından biri olduğunu kabul etmişler .
Quantus Skin’in ihmal ettiği çeşitlilik
Ikuspegi Bask Göçmenlik Gözlemevi verilerine göre, 2025 yılı başında Bask Bölgesi’nde 316.942 yabancı kökenli insan bulunuyordu . 60.000’den fazlası Mağrip ve Sahra Altı Afrika’dan, yaklaşık 164.000’i ise cilt tonlarında büyük bir değişkenliğin yaşandığı Latin Amerika’dan geliyordu. Bu sayıya, İspanya doğumlu olup yabancı kökenli olup Bask Bölgesi’nde yaşayan ünlü futbolcular Iñaki ve Nico Williams gibi kişiler dahil değil .
Yapay sinir ağlarına dayanan Quantus Skin, cilt kanserini neredeyse yalnızca beyaz tenli kişilerde tespit etmeyi öğrendi. Algoritmaya ilk olarak , hastaların çoğunluğunun açık tenli olduğu Batılı hastaneler tarafından toplanan tıbbi fotoğrafların kamuya açık bir arşivi olan Uluslararası Cilt Görüntüleme İşbirliği’nden (ISIC) alınan 56.000’den fazla görüntü eklendi . Ardından Quantus Skin, tamamı beyaz tenli olan Madrid’deki Ramón y Cajal Hastanesi’nden 513 hastanın görüntüleri kullanılarak yeniden eğitildi .
Quantus Skin’i eğitmek için kullanılan veri kümesinin “Kafkasyalı erkek ve kadınların” görüntülerini içerdiğini söylüyor Fernández Rodríguez. “Etnik azınlıklar ve benzeri konulara girmek istemiyorum çünkü araç Bask Bölgesi’nde, Osakidetza tarafından kullanılıyor. Benim sağladığım şey, sınırlamaları olan bir araç,” diyor Fernández Rodríguez. Koyu tenli insanlar üzerinde eğitim eksikliğine rağmen Bask hükümeti, Bask Bölgesi’nin algoritmalar ve yapay zeka sistemleri kataloğunda yer alan Quantus Skin dosyasında belirtildiği gibi “eşitlik ve ayrımcılık yapmamayı teşvik etmek için” herhangi bir önlem “uygulamanın” gerekli olmadığını söylüyor. Ancak, sinir ağları neredeyse yalnızca beyaz insanların görüntüleri üzerinde eğitildiği için, Roman etnik kökenli bireyler veya Latin Amerika ve Afrika’dan gelen göçmenler gibi koyu tenli insanlarda daha da başarısız olma olasılıkları yüksektir.
“Algoritmalar çok kolay kandırılabiliyor. “Teksas Üniversitesi Dermatoloji Profesörü Adewole Adamson
Teksas Üniversitesi’nde dermatoloji profesörü olan ve 2018’de yapay zekanın kapsayıcı ve çeşitli bir şekilde geliştirilmediği takdirde yol açabileceği ayrımcılık konusunda uyarıda bulunan Adewole Adamson , “Algoritmalar çok kolay kandırılabiliyor” diyor.
Tahminleri doğrulandı. Dermatolojide, algoritmalar ağırlıklı olarak beyaz tenli hastaların görüntüleriyle beslendiğinde, Taberner Ferrer’in ifadesiyle “koyu tenli kişilerde tanısal güvenilirlik azalıyor”. İsveçli First Derm şirketinin geliştirdiği ve ağırlıklı olarak beyaz tenli kişilerin fotoğrafları üzerinde test edilen Cilt Görüntüsü Arama algoritmasının hassasiyeti, koyu tenli kişilerde test edildiğinde %70’ten %17’ye düştü . Daha yeni araştırmalar, bu tür algoritmaların siyahi kişilerde daha kötü performans gösterdiğini doğruladı ; bu durum teknik sorunlardan değil, eğitim
verilerindeki çeşitlilik eksikliğinden kaynaklanıyor .
Melanom beyaz tenli insanlarda çok daha yaygın bir kanser türü olmasına rağmen, koyu tenli kişilerin genel sağkalım oranları önemli ölçüde daha düşüktür . Amerikalı mühendis Avery Smith bu rakamları iyi biliyor. Eşi Latoya Smith’e evlendikten sadece bir buçuk yıl sonra melanom teşhisi kondu. “Eşimle aynı teşhise sahip kişiler için listelenen sağkalım oranları ve ırka ne kadar bağımlı oldukları beni çok şaşırttı. Eşim ve ben siyah Amerikalıyız ve sağkalım oranının en alt sıralarındaydık. Bir otobüs gibi üzerime çökene kadar bilmiyordum. Bu cehennem kadar korkutucu,” diyor Civio’ya. Teşhis konulduktan bir süre sonra, 2011’in sonlarında Latoya öldü.
O zamandan beri Smith, dermatolojiyi daha kapsayıcı hale getirmek ve algoritmaların eşitsizlikleri artırmamasını sağlamak için çalışıyor . Özellikle savunmasız gruplar üzerinde yaratabilecekleri etkiyi hatırlatmak için Smith, yapay zekadan basit bir makasmış gibi bir “araç” olarak bahsetmeyi reddediyor: “Bu bir pazarlama terimi. Teknoloji uzmanı olmayan insanların anlamasını sağlamanın bir yolu. Ama sadece bir araçtan çok daha fazlası.”
Tüketiciler ve Kullanıcılar Federasyonu ( CECU ) sözcüsü hukuk uzmanı Anabel K. Arias da bu etkilerden bahsediyor: “Erken teşhis için kullanmayı düşündüğünüzde, nüfusun yeterince temsil edilmeyen bir kesimi olabilir ve bu durumda yanlış olabilir ve kişinin sağlığı üzerinde olumsuz bir etkisi olabilir. Hatta buna zarar bile diyebilirsiniz.”
Bir algoritmanın gözünde görünmez hastalar
Deusto Üniversitesi’nde deneysel psikoloji profesörü olan Helena Matute Greño , “İnsanlar yapay zekaya çok fazla güvenme eğiliminde, ona gerçek olmayan nesnellik nitelikleri atfediyoruz,” diyor . Herhangi bir yapay zeka, aldığı bilgileri kararlar almak için kullanır. Bu girdi verileri kötü veya eksikse, başarısız olma olasılığı yüksektir. Sistematik olarak yanlış olduğunda, algoritma önyargı dediğimiz hatalar yapar . Kökenleri, ten renkleri, cinsiyetleri veya yaşları nedeniyle belirli bir grup insanı diğerlerinden daha fazla etkiliyorlarsa, bunlara ayrımcı önyargılar diyoruz .
Journal of Clinical Epidemiology dergisinde yayınlanan bir inceleme , tıpta yapay zeka üzerine yapılan araştırmaların yalnızca %12’sinin önyargı aradığını gösterdi. Ve araştırdıklarında, en sık görülen önyargı ırksal önyargıydı, bunu cinsiyet ve yaş takip ediyordu ve büyük çoğunluğu tarihsel olarak ayrımcılığa maruz kalmış grupları etkiliyordu . Eğitim verileri yeterince çeşitli ve dengeli değilse bu hatalar ortaya çıkabilir : algoritmalar nüfusun yalnızca bir kısmından öğreniyorsa, farklı veya azınlık gruplarında daha kötü performans gösterirler.
Hatalar sadece ten rengiyle sınırlı değil. Ticari yüz tanıma teknolojileri, siyah kadınları sınıflandırmada daha sık başarısız oluyor çünkü tarihsel olarak beyaz erkeklerin görüntüleri üzerinde eğitilmişlerdi. Benzer şekilde, göğüs röntgenlerini analiz eden veya kardiyovasküler hastalığı tahmin eden algoritmalar, eğitim verileri dengesizse kadınlarda daha kötü performans gösteriyor . Bu arada, karaciğer hastalığını tahmin etmek için en yaygın kullanılan veri kümelerinden biri o kadar önyargılı ki – eğitim kümesinin %75’i erkek – onu kullanan algoritmalar kadınlarda çok daha kötü başarısız oluyor . İngiltere’de, organ nakillerini önceliklendiren algoritma genç insanlara karşı ayrımcılık yapıyordu . Sebep? Sınırlı verilerle eğitilmişti ve bu veriler yalnızca önümüzdeki beş yıl içindeki sağkalımı hesaba katıyordu ve yeni bir organ alan hastaların kazanabileceği potansiyel olarak çok daha uzun ömrü hesaba katmıyordu.
İspanyol Tıbbi Onkoloji Derneği ( SEOM ) sözcüsü ve Malaga’daki Virgen de la Victoria Üniversitesi Hastanesi onkoloğu Nuria Ribelles Entrena , “Eğitim için kullanılacak veriler, kullanılacağı tüm nüfusu temsil etmelidir” diyor : “Eğer eğitimi sadece belirli bir hasta grubuyla yaparsam, o grupta çok etkili olur, ancak diğerlerinde olmaz.”
Yaş önyargısı özellikle pediatri alanında sorunludur. Bir dergi makalesinin yazarları, “Çocuklar küçük yetişkinler değildir. Tamamen farklı fizyoloji ve patolojik süreçlere sahiptirler,” diye uyarıyor. İspanyol Tıbbi Radyoloji Derneği ( SERAM ) sözcüsü ve Barselona’daki Bellvitge Üniversitesi Hastanesi radyoloğu Antonio López Rueda’ya göre, çocuklar normalde klinik araştırmalara katılmadıkları için durum “tam bir dram” .
İspanyol Pediatrik Radyoloji Derneği ( SERPE ) sözcüsü ve Sant Joan de Déu Hastanesi’nde pediatrik radyoloji bölüm başkanı Ignasi Barber Martínez de la Torre , bunu kişisel bir deneyimle açıklıyor. Ekibi, pediatrik popülasyondaki yetişkinler üzerinde eğitilmiş bir göğüs röntgeni modelini doğrulamaya çalıştı. “Kısa sürede çok daha fazla hata yaptığını fark ettik. Duyarlılık ve özgüllük tamamen farklıydı,” diyor. Hatalardan biri, küçük çocuklarda yetişkinlikte kaybolan çok büyük bir bez olan timüsün şüpheli olarak tanımlanmasıydı. Aynı şey, küçük çocuklarda kırıklarla karıştırılabilecek “kemikleşmemiş kısımlara” sahip olan iskelet için de geçerli.
Önyargı engel parkurunda gezinme
Önyargıyı önlemenin çözümü mevcut: López Rueda, “Eğitim seti mümkün olduğunca büyük olmalı” diye açıklıyor. Ancak veriler her zaman bağımsız analiz için mevcut olmuyor. Şimdiye kadar, İspanya’da uygulanan ve tıbbi görüntüler kullanan yapay zeka sistemlerinin çoğu eğitim verilerini yayınlamıyor . Bu, isimleri bile kamuoyuna açıklanmayan iki dermatoloji sistemi için geçerli; bu sistemler ilk önce kuyruk sokumu sağlık alanında test edilecek ve ardından tüm Asturias Prensliği’ne genişletilecek. Barselona yakınlarındaki Vic Üniversitesi Hastanesi’nde diyabetik ayak ülserlerini tespit etmek için kullanılan ticari uygulama ClinicGram ; ve Madrid Topluluğu, Asturias Prensliği ve Valensiya Topluluğu’nda faaliyet gösteren Gleamer BoneView ve ChestView ve Lunit gibi birkaç özel radyoloji sistemi de eğitim verilerini yayınlamıyor.Eğitim veri kümelerine erişimin mümkün olduğu durumlarda karşılaşılan bir diğer engel ise köken, cinsiyet, yaş veya cilt tipi gibi meta verileri toplamamalarıdır; bu da veri kümelerinin kapsayıcı ve dengeli olup olmadığını kontrol etmemizi sağlar. Dermatolojide , çoğu kamuya açık veri kümesi genellikle hastaların kökenini veya cilt tonlarını etiketlemez . Bu bilgiler dahil edildiğinde, çalışmalar siyahi nüfusun ciddi şekilde yetersiz temsil edildiğini tutarlı bir şekilde göstermektedir . Adamson, “Sorunun farkındalığı giderek artıyor ve algoritma geliştiricileri bu eksiklikleri gidermeye çalıştı. Ancak, algoritmalar için temsili eğitim verileri oluşturmak için hâlâ yapılması gereken işler var,” diyor.
Mevcut verilerin kalitesi ve niceliği, algoritmaların ne kadar iyi çalıştığını da belirler. Sevilla’daki Virgen del Rocío Üniversitesi Hastanesi’nde dermatoloji profesörü ve bölüm başkanı olan Julián Conejo-Mir , “Teşhis verimliliğimizi artırmamızı sağlayan şey, kendi görüntüleme kaynaklarımızı kullanmamızdı” diyor. Conejo-Mir ve meslektaşları, cilt kanseri teşhisi ve bu tümörlerin agresifliğiyle ilişkili bir parametre olan melanom derinliğini belirlemek için bir yapay zeka algoritması geliştirdiler .
Sevilla’daki hastaneden yaklaşık bin hastanın görüntülerini ve diğer veri tabanlarından fotoğrafları içeren veritabanı , şu anda araştırma aşamasında olan ve %90 doğruluk oranına sahip bir algoritma tasarlamak için kullanıldı . Ancak bunun gibi görünüşte başarılı sistemlerde bile, algoritmaları daha az sıklıkta görülen vakaları tanıyacak şekilde eğitmek zordur. Siyahi nüfusta en sık görülen cilt kanseri olan ve Bob Marley’nin henüz 36 yaşındayken öldüğü akral lentiginöz melanomda olan tam olarak budur . Bu tümör özellikle tehlikelidir çünkü insanların nadiren şüpheli lezyonlara baktığı bölgelerde, örneğin el ve ayak avuç içlerinde veya Marley’nin başına geldiği gibi tırnak altlarında ortaya çıkar.
Sevilla’daki Virgen del Rocío Üniversitesi Hastanesi’nin dermatoloji servisi her yıl yaklaşık 150 melanom vakası teşhis ediyor ve bunların sadece 2-3’ü akral lezyonlar. Sevilla’daki Virgen del Rocío Üniversitesi Hastanesi bölüm başkanı José Juan Pereyra Rodríguez , “Eğitimden çıkarmak zorunda kaldık çünkü çok az vakamız vardı ve diğerlerine eklediğimizde başarısız oluyordu; ayırdığımızda ise yeterli sayıda görüntü elde edemiyorduk,” diyor.
Klinik tarama için değil, araştırma amacıyla kullanılan bu yapay zekâ, akral lentijinöz melanom vakalarına uygulanamaz çünkü algoritmayı güvenilir bir şekilde eğitmek için bu kanser türü hakkında yeterli veriye sahip değillerdi . Pereyra Rodriguez, bunu başarmak için yaklaşık 50 yıllık yerel veriye ihtiyaç duyacaklarını tahmin ediyor. “Bizim durumumuzda, ‘Algoritmayı genel olarak akral lezyonlar için kullanmayın, çünkü onu bunun için eğitmedim’ demek kadar basit. Hepsi bu; bu bir sınırlama,” diyor.
“Teori, nüfusumun %90’ının beyaz tenlilerden oluşması durumunda, bu türlerle “eğitim almam gerektiğini” söylüyor. “Çünkü karar vermede yaygınlık da önemli. Kendi ortamımda eğitim almalıyım.” diyor Pereyra Rodríguez. Yurt dışında geliştirilen sistemler söz konusu olduğunda, hastaneler ideal olarak algoritmaların performansını kendi hasta grupları üzerinde değerlendirmelidir . López-Rueda ayrıca herhangi bir yapay zeka uygulamadan önce “yerel verilerle yeniden eğitim” çağrısında bulunuyor: “Hem şirket hem de hastane için çok pahalı, ancak gerçekten işe yarayacak olan bu.”
“Önyargılı algoritmalar, hastaların bu devrim niteliğindeki teknolojinin potansiyel faydalarından mahrum kalmasına neden oluyor.”
Adewole Adamson, Teksas Üniversitesi Dermatoloji Profesörü
İspanya’da bile nüfusun özellikleri posta koduna göre değişiyor . López-Rueda, “Barselona’nın merkezindeki Hospital Clínic’te bir yazılım geliştirip, banliyölerdeki Bellvitge’de uygularsam, bu benim için işe yaramaz. Tersini yaparsam da işe yaramaz,” diyor. Algoritmik önyargıların sonuçları gerçekten feci olabilir: hastalar yanlış teşhis nedeniyle zarar görebilir. “Önyargılı algoritmalar, hastaları bu devrim niteliğindeki teknolojinin potansiyel faydalarından mahrum bırakıyor,” diyor Adamson ve sorunun kökenine işaret ediyor: “Sorun algoritmada değil, algoritmaları tasarlama ve geliştirme sürecine harcanan düşünce ve özende.”