Ta opp unøyaktige rase- og etnisitetsdata i medisinsk AI

Ta opp unøyaktige rase- og etnisitetsdata i medisinsk AI

Unøyaktigheten av rase- og etnisitetsdata som finnes i elektroniske helsejournaler (EHRS) kan ha en negativ innvirkning på pasientbehandlingen ettersom kunstig intelligens (AI) blir stadig mer integrert i helsevesenet. Fordi sykehus og leverandører samler inn slike data inkonsekvent og sliter med å klassifisere individuelle pasienter nøyaktig, kan AI-systemer som er trent på disse datasettene arve og opprettholde rasemessige skjevheter.

I en ny publikasjon i PLOS Digital Health ber bioetikk og juridiske eksperter om umiddelbar standardisering av metoder for innsamling av rase- og etniske data og for utviklere for å garantere kvaliteten på rase- og etniske data i medisinske AI-systemer. Forskningen syntetiserer bekymringer om hvorfor pasientrasedata i EPJ-er kanskje ikke er nøyaktige, identifiserer beste praksis for helsesystemer og medisinske AI-forskere for å forbedre datanøyaktigheten, og gir en ny mal for medisinske AI-utviklere for transparent å rettferdiggjøre kvaliteten på deres rase- og etniske data

Hovedforfatter Alexandra Tsalidis, MBE, bemerker at "AI-utviklere som følger vår anbefaling om hvordan deres rase- og etniske data ble samlet inn vil ikke bare fremme åpenhet i medisinsk AI, men også hjelpe pasienter og regulatorer med å vurdere sikkerheten til verktøyene."

Raseskjevhet i AI-modeller er et stort problem ettersom teknologien blir stadig mer integrert i helsevesenet. Denne artikkelen gir en konkret metode som kan implementeres for å løse disse bekymringene. "

Francis Shen, JD, PhD, seniorforfatter

Mens mer arbeid må gjøres, gir artikkelen et utgangspunkt, foreslått av medforfatter Lakshmi Bharadwaj, MBE. "En åpen dialog om beste praksis er et viktig skritt, og tilnærmingene vi foreslår kan oppnå betydelige forbedringer."

Forskningen ble støttet av NIH Bridge to Artificial Intelligence-programmet (BRIDG2AI) og av et NIH Brain Neuroethics-stipend (R01MH134144).

Kilder: