Patoloogia AI mudelid näitavad vähi diagnoosimise demograafilisi eelarvamusi

Patoloogia AI mudelid näitavad vähi diagnoosimise demograafilisi eelarvamusi

Patoloogia on pikka aega olnud vähi diagnoosimise ja ravi nurgakivi. Patoloog uurib hoolikalt mikroskoobi all üliõhukest inimkoe lõiku, et leida vihjeid, mis viitavad vähi olemasolule, tüübile ja staadiumile.

Inimeseeksperdi jaoks on lillade rakkudega täpiline keerleva roosa koeproovi vaatamine nagu eksami hindamine ilma nimeta – slaid näitab haiguse kohta olulist teavet, ilma patsiendi kohta lisateavet andmata.

Sama ei pruugi aga kehtida viimastel aastatel esile kerkinud patoloogia tehisintellekti mudelite kohta. Harvardi meditsiinikooli meeskonna juhitud uus uuring näitab, et need mudelid võivad mingil moel järeldada demograafilist teavet patoloogia slaididest, mis põhjustab vähidiagnoosi kallutatust erinevates populatsioonides.

Analüüsides mitut peamist patoloogia AI mudelit vähi diagnoosimiseks, leidsid teadlased, et vähkkasvajate tuvastamisel ja eristamisel on erinevates populatsioonides patsientide soo, rassi ja vanuse põhjal ebavõrdne tulemus. Nad tuvastasid selle demograafilise eelarvamuse mitu võimalikku selgitust.

Seejärel töötas meeskond välja raamistiku nimega FAIR-Path, mis aitas vähendada mudelite eelarvamusi.

Patoloogiaslaidilt demograafiliste andmete lugemist peetakse inimpatoloogi jaoks võimatuks missiooniks, seega oli patoloogilise tehisintellekti erapoolik meile üllatus.

Kun-Hsing Yu, vanemautor, biomeditsiinilise informaatika dotsent, HMS-i Blavatniku instituut ja HMS-i patoloogia dotsent Brighami ja naistehaiglas

Yu ütles, et tehisintellekti eelarvamuste tuvastamine ja selle vastu võitlemine meditsiinis on kriitilise tähtsusega, kuna see võib mõjutada nii diagnostilist täpsust kui ka patsientide tulemusi. FAIR-Pathi edu näitab, et teadlased saavad minimaalse pingutusega parandada vähipatoloogia ja potentsiaalselt ka teiste AI mudelite õiglust meditsiinis.

Tööd, mida osaliselt toetab föderaalne rahastamine, kirjeldatakse 16. detsembrilRakuaruannete meditsiin.

Kontrollige eelarvamusi

Yu ja tema meeskond uurisid eelarvamusi neljas standardse AI patoloogia mudelis, mis on välja töötatud vähi hindamiseks. Neid süvaõppemudeleid koolitati annoteeritud patoloogiaslaidide komplektide põhjal, millest nad "õppisid" bioloogilisi mustreid, mis võimaldavad neil analüüsida uusi slaide ja teha diagnoose.

Teadlased varustasid tehisintellekti mudeleid suure institutsioonidevahelise arhiiviga 20 vähiliigi patoloogiaslaididest.

Nad leidsid, et kõigil neljal mudelil oli moonutatud jõudlus ja nad andsid teatud rühmade patsientidele vähem täpseid diagnoose, mis põhinesid enda teatatud rassil, sool ja vanusel. Näiteks oli mudelitel raskusi kopsuvähi alatüüpide eristamisel Aafrika-Ameerika ja meespatsientidel ning rinnavähi alatüüpe noorematel patsientidel. Samuti oli mudelitel teatud populatsioonides raskusi rinna-, neeru-, kilpnäärme- ja maovähi tuvastamisega. Need jõudluse erinevused ilmnesid umbes 29 protsendil mudelite sooritatud diagnostikatoimingutest.

Yu ütles, et see diagnostiline ebatäpsus tuleneb sellest, et need mudelid eraldavad slaididelt demograafilist teavet ja tuginevad diagnoosimisel demograafilistele spetsiifilistele mustritele.

Tulemused olid ootamatud, "sest ootasime objektiivset patoloogia hindamist," lisas Yu. "Piltide hindamisel ei pea me diagnoosi panemiseks tingimata teadma patsiendi demograafiat."

Meeskond mõtles: miks ei näidanud patoloogia AI sama objektiivsust?

Seletusi otsides

Teadlased esitasid kolm seletust.

Kuna teatud populatsioonide patsientidel on proove lihtsam hankida, koolitatakse AI-mudeleid ebavõrdsete valimisuuruste järgi. See muudab mudelite jaoks keerulisemaks täpse diagnoosi panemise proovides, mis ei ole koolituskomplektis hästi esindatud, näiteks vähemusrühmadest pärit rassi, vanuse või soo alusel.

Kuid "probleem oli palju sügavam," ütles Yu. Teadlased märkasid, et mudelid toimisid mõnikord populatsioonirühmas halvemini, isegi kui valimi suurus oli võrreldav.

Täiendav analüüs näitas, et see võib olla tingitud erinevustest haiguste levimuses: mõned vähivormid on teatud rühmades levinumad, mis muudab mudelid nendes rühmades diagnoosimise paremaks. Selle tulemusena võib mudelitel olla raskusi vähi diagnoosimisega populatsioonides, kus need ei ole nii levinud.

AI-mudelid kajastavad ka eri demograafiliste rühmade proovide peeneid molekulaarseid erinevusi. Näiteks suudavad mudelid tuvastada mutatsioone vähijuhtivates geenides ja kasutada neid vähitüübi puhverserverina – ning seetõttu on need diagnoosimisel vähem tõhusad populatsioonides, kus need mutatsioonid on vähem levinud.

"Leidsime, et tehisintellekti võimsus võimaldab eristada paljusid ebaselgeid bioloogilisi signaale, mida inimese tavapärane tõlgendus ei suuda tuvastada," ütles Yu.

See võimaldab mudelitel potentsiaalselt õppida signaale, mis on rohkem seotud demograafia kui haigustega. See võib omakorda mõjutada nende diagnostilisi võimeid rühmades.

Yu ütleb, et need selgitused viitavad sellele, et patoloogilise AI eelarvamus ei tulene mitte ainult koolitusandmete muutuvast kvaliteedist, vaid ka sellest, kuidas teadlased mudeleid koolitavad.

Leia lahendus

Pärast eelarvamuse ulatuse ja põhjuste hindamist asusid Yu ja tema meeskond probleemi lahendama.

Teadlased töötasid välja FAIR-Path, lihtsa raamistiku, mis põhineb olemasoleval masinõppe kontseptsioonil, mida nimetatakse kontrastiivseks õppimiseks. Kontrastiivne õppimine lisab tehisintellekti koolitusele elemendi, mis õpetab mudelit rõhutama erinevusi oluliste kategooriate – antud juhul vähkkasvajate – vahel ning vähendama erinevusi vähem oluliste kategooriate – antud juhul demograafiliste rühmade – vahel.

Kui teadlased rakendasid testitud mudelitele FAIR-Pathi raamistikku, vähendas see diagnostilisi erinevusi umbes 88 protsenti.

"Näitame, et selle väikese kohandamise kaudu saavad mudelid õppida tugevaid funktsioone, mis muudavad need erinevates populatsioonides üldistatavamaks ja õiglasemaks, " ütles Yu.

Ta lisas, et tulemus on julgustav, sest see viitab sellele, et eelarvamusi saab vähendada isegi ilma mudelite väljaõppeta täiesti õiglaste ja esinduslike andmete põhjal.

Järgmisena teevad Yu ja tema meeskond koostööd institutsioonidega üle maailma, et uurida patoloogilise tehisintellekti kõrvalekalde ulatust erineva demograafilise olukorra ning erinevate kliiniliste ja patoloogiatega kohtades. Samuti uurivad nad võimalusi FAIR-Pathi laiendamiseks piiratud valimisuurusega seadetele. Lisaks soovivad nad uurida, kuidas AI erapoolik aitab kaasa demograafilistele lahknevustele tervishoius ja patsientide tulemustes.

Lõppkokkuvõttes ütles Yu, et eesmärk on luua õiglased ja erapooletud patoloogia AI mudelid, mis võivad parandada vähiravi, aidates inimese patoloogidel kiiresti ja täpselt diagnoosida.

"Ma arvan, et on lootust, et kui oleme AI-süsteemide arendamisel teadlikumad ja ettevaatlikumad, suudame välja töötada mudeleid, mis töötavad hästi igas populatsioonis," ütles ta.

Allikad: