Rasistickým a iným predsudkom v algoritmoch AI pre zdravotnú starostlivosť možno bojovať s verejnou podporou

Rasistickým a iným predsudkom v algoritmoch AI pre zdravotnú starostlivosť možno bojovať s verejnou podporou

Od verejnosti sa žiada, aby pomohla odstrániť zaujatosť založenú na rase a iných znevýhodnených skupinách v algoritmoch umelej inteligencie pre zdravotníctvo.

Zdravotnícki výskumníci žiadajú o podporu pri riešení otázky, prečo by „minorizované“ skupiny, ktoré sú aktívne znevýhodnené sociálnymi konštruktmi, nemali v budúcnosti prospech z používania AI v zdravotníctve. Tím vedený univerzitou v Birminghame a univerzitnými nemocnicami v Birminghame dnes v Nature Medicine píše o začatí konzultácie o súbore noriem, o ktorých dúfajú, že znížia zaujatosti, o ktorých je známe, že existujú v algoritmoch AI.

Pribúdajú dôkazy o tom, že niektoré algoritmy AI fungujú menej dobre pre určité skupiny ľudí – najmä pre tých z rasových/etnických menšín. Čiastočne je to spôsobené odchýlkami v súboroch údajov používaných na vývoj algoritmov AI. To znamená, že pacienti z černošského a menšinového etnického prostredia môžu dostávať nepresné predpovede, čo môže viesť k nesprávnej diagnóze a nesprávnej liečbe.

STANDING Together je medzinárodná spolupráca, ktorá vyvinie štandardy osvedčených postupov pre súbory údajov o zdraví používané v umelej inteligencii, aby sa zabezpečilo, že budú rôznorodé, inkluzívne a nezanechajú za sebou nedostatočne zastúpené alebo menšinové skupiny. Projekt je financovaný laboratóriom NHS AI Lab a Health Foundation a financovanie spravuje Národný inštitút pre výskum zdravia a starostlivosti, partner NHS pre výskum verejného zdravia a sociálnej starostlivosti, ako súčasť iniciatívy NHS AI Labs AI Ethics Initiative.

Dr. Xiaoxuan Liu z Inštitútu zápalu a starnutia na univerzite v Birminghame a spoluvedúci projektu STANDING Together povedal:

"Tým, že máme správny dátový základ, STANDING Together zaisťuje, že nikto nezostane pozadu, keď sa snažíme odomknúť výhody technológií založených na dátach, ako je AI. Našu štúdiu Delphi sme sprístupnili verejnosti, aby sme mohli maximalizovať náš dosah." komunitám a jednotlivcom. To nám umožňuje zabezpečiť, aby odporúčania STANDING Together skutočne odrážali to, čo je dôležité pre našu rôznorodú komunitu.

Profesor Alastair Denniston, konzultant oftalmológ z univerzitných nemocníc v Birminghame a profesor Inštitútu zápalu a starnutia na univerzite v Birminghame, vedie projekt. Profesor Denniston povedal:

„Ako lekár v NHS vítam zavedenie technológií AI, ktoré nám môžu pomôcť zlepšiť zdravotnú starostlivosť, ktorú poskytujeme – rýchlejšie a presnejšie diagnózy, čoraz personalizovanejšie liečby a rozhrania zdravotnej starostlivosti, ktoré pacientovi poskytujú väčšiu kontrolu.“ Musíme však tiež zabezpečiť, aby tieto technológie boli inkluzívne. Musíme zabezpečiť, aby fungovali efektívne a bezpečne pre každého, kto ich potrebuje.“

Toto je jeden z najvďačnejších projektov, na ktorom som kedy pracoval, pretože odráža nielen môj veľký záujem o používanie presných overených údajov a dobrej dokumentácie na podporu objavovania, ale aj naliehavú potrebu zahrnúť menšinové a nedostatočne obsluhované skupiny do výskumu, ktorý im prináša úžitok. Samozrejme, do druhej skupiny patria aj ženy.“

Jacqui Gath, pacientka, projekt STANDING Together

Projekt STANDING Together je teraz otvorený na verejnú konzultáciu prostredníctvom konsenzuálnej štúdie Delphi. Výskumníci pozývajú členov verejnosti, zdravotníckych pracovníkov, výskumníkov, vývojárov AI, dátových vedcov, tvorcov politík a regulátorov, aby pomohli preskúmať tieto štandardy, aby sa zabezpečilo, že budú fungovať pre vás a všetkých, s ktorými pracujete.

Zdroj:

University of Birmingham

Referencia:

Ganapathi, S., a kol. (2022) Riešenie zaujatosti v súboroch údajov AI prostredníctvom iniciatívy STANDING together. Prírodná medicína. doi.org/10.1038/s41591-022-01987-w.