Studiile arată că hărțile termice de proeminentă ar putea să nu fie încă pregătite pentru orele de primă audiență

Studiile arată că hărțile termice de proeminentă ar putea să nu fie încă pregătite pentru orele de primă audiență

Modelele de inteligență artificială care interpretează imaginile medicale promit să îmbunătățească capacitatea clinicienilor de a face diagnostice precise și în timp util, reducând în același timp volumul de muncă, permițând medicilor ocupați să se concentreze asupra cazurilor critice și să delege sarcini de rutină AI.

Dar modelele de inteligență artificială care nu au transparență în ceea ce privește modul și de ce se face un diagnostic pot fi problematice. Acest argument opac -; cunoscut și sub numele de AI „Black Box” -; poate reduce încrederea medicului în fiabilitatea instrumentului AI și, astfel, poate descuraja utilizarea acestuia. Această lipsă de transparență ar putea determina, de asemenea, clinicienii să aibă încredere în interpretarea instrumentului.

În domeniul imagisticii medicale, evaluările de proeminență au reprezentat o modalitate de a crea modele AI mai ușor de înțeles și de a demistifica luarea deciziilor AI -; O abordare care utilizează hărți termice pentru a determina dacă instrumentul se concentrează corect doar pe părțile relevante ale unei imagini date sau țintește părți irelevante ale acesteia.

Hărțile termice funcționează prin evidențierea zonelor dintr-o imagine care au influențat interpretarea modelului AI. Acest lucru ar putea ajuta medicii umani să detecteze dacă modelul AI se concentrează pe aceleași zone ca și ei sau se concentrează incorect pe locuri irelevante dintr-o imagine.

Dar un nou studiu publicat pe 10 octombrie în Nature Machine Intelligence arată că, cu toate promisiunile lor, hărțile termice de proeminență nu sunt încă pregătite pentru prime time.

Analiza, condusă de investigatorul de la Harvard Medical School Pranav Rajpurkar, de Matthew Lungren de la Stanford și de Adriel Saporta de la Universitatea New York, a cuantificat validitatea a șapte metode de evidențiere utilizate pe scară largă pentru a determina cât de fiabil și precis pot identifica patologiile asociate cu 10 afecțiuni diagnosticate frecvent, imaginea cu raze X, cum ar fi leziuni pulmonare, revărsări pleurale sau structură cardiacă mărită. Pentru a determina performanța, cercetătorii au comparat performanța instrumentelor cu judecata expertului uman.

În cele din urmă, instrumentele care au folosit hărți termice bazate pe hărți de căldură proeminente au avut în mod constant performanțe slabe în comparație cu radiologii umani în evaluarea imaginilor și a capacității lor de a detecta leziuni patologice.

Lucrarea reprezintă prima analiză comparativă între hărțile de proeminență și performanța expertului uman în evaluarea patologiilor radiografice multiple. Studiul oferă, de asemenea, o înțelegere detaliată a modului în care anumite caracteristici patologice dintr-o imagine pot afecta performanța instrumentelor AI.

Caracteristica hărții de proeminență este deja utilizată ca instrument de asigurare a calității de către practicile clinice care utilizează AI pentru a interpreta metode de detectare asistată de computer, cum ar fi: B. Citirea radiografiilor toracice. Dar, având în vedere noile descoperiri, această caracteristică ar trebui să fie apreciată cu prudență și o doză sănătoasă de scepticism, potrivit cercetătorilor.

Analiza noastră arată că hărțile de proeminență nu sunt încă suficient de fiabile pentru a valida deciziile clinice individuale luate de un model AI. Am identificat limitări importante care ridică probleme serioase de siguranță pentru utilizarea în practica curentă.”

Pranav Rajpurkar, profesor asistent de informatică biomedicală, HMS

Cercetătorii avertizează că, din cauza limitărilor importante identificate în studiu, hărțile termice bazate pe proeminență ar trebui să fie mai mult perfecționate înainte de a fi utilizate pe scară largă în modelele clinice de inteligență artificială.

Baza de cod, datele și analiza completă a echipei sunt deschise și disponibile pentru oricine este interesat să exploreze acest aspect important al învățării automate clinice în aplicațiile de imagistică medicală.

Sursă:

Facultatea de Medicină din Harvard

Referinţă:

Saporta, A., et al. (2022) Metode de evaluare comparativă a proeminenței pentru interpretarea radiografiei toracice. Inteligența natură-mașină. doi.org/10.1038/s42256-022-00536-x.

.