Suche
Mein Konto
Riješite netočne podatke o rasi i etničkoj pripadnosti u medicinskoj umjetnoj inteligenciji
Netočnost podataka o rasnoj i etničkoj pripadnosti pronađenih u elektroničkim zdravstvenim kartonima (EHRS) može negativno utjecati na skrb o pacijentima jer se umjetna inteligencija (AI) sve više integrira u zdravstvenu skrb. Budući da bolnice i pružatelji usluga nedosljedno prikupljaju takve podatke i bore se da točno klasificiraju pojedinačne pacijente, sustavi umjetne inteligencije obučeni na tim skupovima podataka mogu naslijediti i produžiti rasne predrasude. U novoj publikaciji u časopisu PLOS Digital Health stručnjaci za bioetiku i pravo pozivaju na trenutnu standardizaciju metoda za prikupljanje rasnih i etničkih podataka te programere da jamče kvalitetu rasnih i etničkih podataka u medicinskim AI sustavima. …
Riješite netočne podatke o rasi i etničkoj pripadnosti u medicinskoj umjetnoj inteligenciji
Netočnost podataka o rasnoj i etničkoj pripadnosti pronađenih u elektroničkim zdravstvenim kartonima (EHRS) može negativno utjecati na skrb o pacijentima jer se umjetna inteligencija (AI) sve više integrira u zdravstvenu skrb. Budući da bolnice i pružatelji usluga nedosljedno prikupljaju takve podatke i bore se da točno klasificiraju pojedinačne pacijente, sustavi umjetne inteligencije obučeni na tim skupovima podataka mogu naslijediti i produžiti rasne predrasude.
U novoj publikaciji u časopisu PLOS Digital Health stručnjaci za bioetiku i pravo pozivaju na trenutnu standardizaciju metoda za prikupljanje rasnih i etničkih podataka te programere da jamče kvalitetu rasnih i etničkih podataka u medicinskim AI sustavima. Istraživanje sintetizira zabrinutost zbog čega podaci o rasi pacijenata u EHR-u možda nisu točni, identificira najbolje prakse za zdravstvene sustave i istraživače medicinske umjetne inteligencije za poboljšanje točnosti podataka i pruža novi predložak za programere medicinske umjetne inteligencije kako bi transparentno opravdali kvalitetu svojih rasnih i etničkih podataka
Vodeća autorica Alexandra Tsalidis, MBE, napominje da će "programeri umjetne inteligencije poslušati našu preporuku o tome kako su prikupljeni njihovi rasni i etnički podaci ne samo unaprijediti transparentnost u medicinskoj umjetnoj inteligenciji, već će također pomoći pacijentima i regulatorima da procijene sigurnost alata."
Rasna predrasuda u modelima umjetne inteligencije veliki je problem jer se tehnologija sve više integrira u zdravstvo. Ovaj članak pruža konkretnu metodu koja se može primijeniti za rješavanje ovih problema. “
Francis Shen, JD, PhD, stariji autor
Iako je još potrebno raditi, članak nudi polazište, koje je predložio koautor Lakshmi Bharadwaj, MBE. "Otvoreni dijalog o najboljim praksama bitan je korak, a pristupi koje predlažemo mogli bi postići značajna poboljšanja."
Istraživanje je podržao NIH Bridge to Artificial Intelligence program (BRIDG2AI) i potpora NIH Brain Neuroethics (R01MH134144).
Izvori:
Tsalidis, A., Bharadwaj, L. i Shen, F. X. (2025). Standardizacija i točnost podataka o rasi i etničkoj pripadnosti: implikacije pravednosti za medicinsku umjetnu inteligenciju. PLOS Digitalno zdravlje. doi.org/10.1371/journal.pdig.0000807.