Rasističke i druge predrasude u algoritmima umjetne inteligencije za zdravstvo mogu se boriti uz podršku javnosti

Rasističke i druge predrasude u algoritmima umjetne inteligencije za zdravstvo mogu se boriti uz podršku javnosti

Od članova javnosti se traži da pomognu u uklanjanju pristranosti na temelju rase i drugih skupina u nepovoljnom položaju u algoritmima umjetne inteligencije za zdravstvenu skrb.

Zdravstveni istraživači pozivaju na podršku u rješavanju pitanja zašto "manjinske" skupine koje su aktivno u nepovoljnom položaju zbog društvenih konstrukcija ne bi imale koristi od upotrebe umjetne inteligencije u zdravstvu u budućnosti. Tim, predvođen Sveučilištem u Birminghamu i Sveučilišnim bolnicama Birmingham, piše danas u časopisu Nature Medicine o pokretanju konzultacija o skupu standarda za koje se nadaju da će smanjiti pristranosti za koje se zna da postoje u algoritmima umjetne inteligencije.

Sve je više dokaza da neki algoritmi umjetne inteligencije rade manje dobro za određene skupine ljudi – osobito one iz rasnih/etničkih manjina. Dijelom je to zbog pristranosti u skupovima podataka koji se koriste za razvoj algoritama umjetne inteligencije. To znači da pacijenti crnačke i manjinske etničke zajednice mogu dobiti netočna predviđanja, što može dovesti do pogrešne dijagnoze i netočnog liječenja.

STANDING Together međunarodna je suradnja koja će razviti standarde najbolje prakse za skupove zdravstvenih podataka koji se koriste u umjetnoj inteligenciji kako bi se osiguralo da su raznoliki, uključivi i da ne zaostaju podzastupljene ili manjinske skupine. Projekt financiraju NHS AI Lab i Health Foundation, a financiranjem upravlja Nacionalni institut za istraživanje zdravlja i skrbi, NHS-ov partner u istraživanju javnog zdravstva i socijalne skrbi, kao dio NHS AI Labs AI Ethics Initiative.

Dr. Xiaoxuan Liu, s Instituta za upalu i starenje na Sveučilištu u Birminghamu i suvoditelj projekta STANDING Together, rekao je:

"Imajući pravu podlogu za podatke, STANDING Together osigurava da nitko ne bude zaostavljen dok nastojimo otključati prednosti tehnologija koje se temelje na podacima poput umjetne inteligencije. Učinili smo našu Delphi studiju dostupnom javnosti kako bismo mogli maksimalno povećati svoj doseg." zajednicama i pojedincima. To nam omogućuje da osiguramo da preporuke STANDING Togethera uistinu odražavaju ono što je važno za našu raznoliku zajednicu.

Profesor Alastair Denniston, konzultant oftalmolog u Sveučilišnim bolnicama u Birminghamu i profesor na Institutu za upalu i starenje na Sveučilištu u Birminghamu, jedan je od voditelja projekta. Profesor Denniston je rekao:

"Kao liječnik u NHS-u, pozdravljam uvođenje AI tehnologija koje nam mogu pomoći da poboljšamo zdravstvenu skrb koju pružamo - brže i preciznije dijagnoze, sve personaliziranije tretmane i zdravstvena sučelja koja pacijentu daju više kontrole." Ali također moramo osigurati da te tehnologije budu uključive. Moramo osigurati da rade učinkovito i sigurno za sve koji ih trebaju.”

Ovo je jedan od najzahvalnijih projekata na kojima sam ikad radio jer odražava ne samo moj veliki interes za korištenje točnih potvrđenih podataka i dobre dokumentacije za potporu otkrića, već i hitnu potrebu za uključivanjem manjinskih i nedovoljno posluženih skupina u istraživanje koje im koristi. Naravno, u ovu drugu skupinu spadaju i žene.”

Jacqui Gath, pacijent partner, projekt STANDING Together

Projekt STANDING Together sada je otvoren za javno savjetovanje putem konsenzusne studije Delphi. Istraživači pozivaju članove javnosti, zdravstvene djelatnike, istraživače, programere umjetne inteligencije, znanstvenike koji se bave podacima, kreatore politike i regulatore da pomognu u pregledu ovih standarda kako bi bili sigurni da rade za vas i sve s kojima radite.

Izvor:

Sveučilište u Birminghamu

Referenca:

Ganapathi, S., et al. (2022.) Rješavanje pristranosti u skupovima podataka AI kroz inicijativu STANDING together. Prirodni lijek. doi.org/10.1038/s41591-022-01987-w.