Suche
Mein Konto
Uuringud näitavad, et silmapaistvuse soojuskaardid ei pruugi veel parimal ajal valmis olla
Tehisintellekti mudelid, mis tõlgendavad meditsiinilisi pilte, lubavad parandada arstide võimet panna täpseid ja õigeaegseid diagnoose, vähendades samal ajal töökoormust, võimaldades hõivatud arstidel keskenduda kriitilistele juhtumitele ja delegeerida rutiinseid ülesandeid tehisintellektile. Kuid AI mudelid, millel puudub läbipaistvus selle kohta, kuidas ja miks diagnoos tehakse, võivad olla problemaatilised. See läbipaistmatu argument -; tuntud ka kui "Black Box" AI -; võib vähendada arsti usaldust tehisintellekti tööriista usaldusväärsuse suhtes ja seega takistada selle kasutamist. See läbipaistvuse puudumine võib ka panna arstid tähelepanuta jätma ...
Uuringud näitavad, et silmapaistvuse soojuskaardid ei pruugi veel parimal ajal valmis olla
Tehisintellekti mudelid, mis tõlgendavad meditsiinilisi pilte, lubavad parandada arstide võimet panna täpseid ja õigeaegseid diagnoose, vähendades samal ajal töökoormust, võimaldades hõivatud arstidel keskenduda kriitilistele juhtumitele ja delegeerida rutiinseid ülesandeid tehisintellektile.
Kuid AI mudelid, millel puudub läbipaistvus selle kohta, kuidas ja miks diagnoos tehakse, võivad olla problemaatilised. See läbipaistmatu argument -; tuntud ka kui "Black Box" AI -; võib vähendada arsti usaldust tehisintellekti tööriista usaldusväärsuse suhtes ja seega takistada selle kasutamist. Läbipaistvuse puudumine võib ka panna arstid usaldama tööriista tõlgendust.
Meditsiinilise pildistamise valdkonnas on silmapaistvuse hindamine olnud viis arusaadavamate AI mudelite loomiseks ja tehisintellekti otsuste tegemise demüstifitseerimiseks; Lähenemisviis, mis kasutab soojuskaarte, et teha kindlaks, kas tööriist teravustab õigesti ainult antud pildi asjakohastele osadele või sihib selle ebaolulisi osi.
Soojuskaardid töötavad, tõstes esile pildil olevad alad, mis mõjutasid AI-mudeli tõlgendust. See võib aidata inimarstidel tuvastada, kas AI-mudel keskendub samadele piirkondadele kui nemad või keskendub valesti pildi ebaolulistele kohtadele.
Kuid uus uuring, mis avaldati 10. oktoobril ajakirjas Nature Machine Intelligence, näitab, et hoolimata nende lubadustest ei ole silmapaistvuse soojuskaardid veel parimaks ajaks valmis.
Harvardi meditsiinikooli uurija Pranav Rajpurkari, Stanfordi Matthew Lungreni ja New Yorgi ülikooli Adriel Saporta juhitud analüüsis kvantifitseeriti seitsme laialdaselt kasutatava esiletõstmismeetodi kehtivus, et teha kindlaks, kui usaldusväärselt ja täpselt on võimalik tuvastada 10 sageli diagnoositud seisundiga seotud patoloogiaid. Jõudluse määramiseks võrdlesid teadlased tööriistade jõudlust inimeste eksperthinnanguga.
Lõppkokkuvõttes olid tööriistad, mis kasutasid silmapaistvaid soojuskaardil põhinevaid soojuskaarte, kujutise hindamisel ja patoloogiliste kahjustuste tuvastamise võimel järjekindlalt inimeste radioloogidega võrreldes kehvemini.
Töö kujutab endast esimest võrdlevat analüüsi silmapaistvuse kaartide ja inimeste ekspertide jõudluse vahel mitme radiograafilise patoloogia hindamisel. Uuring annab ka üksikasjaliku ülevaate sellest, kas ja kuidas võivad pildi teatud patoloogilised tunnused mõjutada tehisintellekti tööriistade toimimist.
Silmapaistvuse kaardi funktsiooni kasutatakse juba kvaliteedi tagamise vahendina kliinilistes praktikates, mis kasutavad tehisintellekti arvutipõhiste tuvastamismeetodite tõlgendamiseks, näiteks: B. Rindkere röntgenipiltide lugemine. Kuid uusi leide silmas pidades tuleks teadlaste sõnul seda funktsiooni nautida ettevaatlikult ja terve annuse skeptitsismiga.
Meie analüüs näitab, et silmapaistvuse kaardid ei ole veel piisavalt usaldusväärsed, et kinnitada AI mudeliga tehtud individuaalseid kliinilisi otsuseid. Oleme tuvastanud olulised piirangud, mis tekitavad praeguses praktikas kasutamisel tõsiseid ohutusprobleeme.
Pranav Rajpurkar, biomeditsiinilise informaatika abiprofessor, HMS
Teadlased hoiatavad, et uuringus tuvastatud oluliste piirangute tõttu tuleks silmapaistvuspõhiseid soojuskaarte enne kliinilistes AI mudelites laialdast kasutamist veelgi täpsustada.
Meeskonna täielik koodibaas, andmed ja analüüs on avatud ja kättesaadavad kõigile, kes on huvitatud kliinilise masinõppe selle olulise aspekti uurimisest meditsiinilise pildistamise rakendustes.
Allikas:
Viide:
Saporta, A. et al. (2022) Rindkere röntgenograafia tõlgendamise silmapaistvuse võrdlusmeetodid. Loodus-masin intelligentsus. doi.org/10.1038/s42256-022-00536-x.
.