Studije pokazuju da toplinske karte istaknutosti možda još nisu spremne za udarno vrijeme

Studije pokazuju da toplinske karte istaknutosti možda još nisu spremne za udarno vrijeme

Modeli umjetne inteligencije koji tumače medicinske slike obećavaju poboljšati sposobnost kliničara da postavljaju točne i pravovremene dijagnoze uz smanjenje radnog opterećenja dopuštajući zaposlenim liječnicima da se usredotoče na kritične slučajeve i delegiraju rutinske zadatke umjetnoj inteligenciji.

Ali modeli umjetne inteligencije kojima nedostaje transparentnost o tome kako i zašto se postavlja dijagnoza mogu biti problematični. Ovaj neproziran argument -; također poznat kao "Crna kutija" AI -; može smanjiti povjerenje liječnika u pouzdanost AI alata i time obeshrabriti njegovu upotrebu. Ovaj nedostatak transparentnosti također bi mogao navesti kliničare da vjeruju tumačenju alata.

U području medicinskog oslikavanja, procjene istaknutosti bile su način za stvaranje razumljivijih AI modela i demistificiranje donošenja odluka AI -; Pristup koji koristi toplinske karte za utvrđivanje fokusira li se alat ispravno samo na relevantne dijelove dane slike ili cilja na nebitne dijelove.

Toplinske karte rade tako što ističu područja na slici koja su utjecala na interpretaciju AI modela. To bi moglo pomoći ljudskim liječnicima da otkriju fokusira li se AI model na ista područja kao i oni ili se pogrešno fokusira na nebitna mjesta na slici.

Ali nova studija objavljena 10. listopada u časopisu Nature Machine Intelligence pokazuje da, unatoč svim obećanjima, toplinske karte istaknutosti još nisu spremne za premijeru.

Analiza, koju su vodili Pranav Rajpurkar s Harvardske medicinske škole, Matthew Lungren sa Stanforda i Adriel Saporta sa Sveučilišta New York, kvantificirala je valjanost sedam široko korištenih metoda isticanja kako bi se utvrdilo koliko pouzdano i točno mogu identificirati patologije povezane s 10 najčešće dijagnosticiranih stanja rendgenskom slikom, kao što su lezije pluća, pleuralni izljevi, edemi ili uvećani srčane strukture. Kako bi odredili učinak, istraživači su usporedili učinak alata s ljudskom stručnom procjenom.

U konačnici, alati koji su koristili istaknute toplinske karte temeljene na toplinskoj karti dosljedno su imali slabije rezultate u usporedbi s ljudskim radiolozima u procjeni slike i njihovoj sposobnosti otkrivanja patoloških lezija.

Rad predstavlja prvu komparativnu analizu između mapa istaknutosti i učinka ljudskih stručnjaka u procjeni višestrukih radiografskih patologija. Studija također pruža detaljno razumijevanje mogu li i kako određene patološke značajke na slici utjecati na performanse AI alata.

Značajka karte istaknutosti već se koristi kao alat za osiguranje kvalitete od strane kliničkih praksi koje koriste AI za tumačenje računalno potpomognutih metoda detekcije, kao što su: B. Očitavanje rendgenskih snimaka prsnog koša. Ali s obzirom na nova otkrića, u ovoj značajci treba uživati ​​s oprezom i zdravom dozom skepse, prema istraživačima.

Naša analiza pokazuje da mape istaknutosti još nisu dovoljno pouzdane za provjeru pojedinačnih kliničkih odluka koje donosi AI model. Identificirali smo važna ograničenja koja izazivaju ozbiljne sigurnosne probleme za korištenje u trenutnoj praksi.”

Pranav Rajpurkar, docent biomedicinske informatike, HMS

Istraživači upozoravaju da bi zbog važnih ograničenja identificiranih u studiji, toplinske karte temeljene na istaknutosti trebale biti dodatno poboljšane prije nego što se široko koriste u kliničkim modelima umjetne inteligencije.

Cijela baza kodova, podaci i analiza tima otvoreni su i dostupni svima koji su zainteresirani za istraživanje ovog važnog aspekta kliničkog strojnog učenja u aplikacijama za medicinsko oslikavanje.

Izvor:

Harvard Medical School

Referenca:

Saporta, A., et al. (2022) Određivanje metoda istaknutosti za interpretaciju radiografije prsnog koša. Priroda-strojna inteligencija. doi.org/10.1038/s42256-022-00536-x.

.