Suche
Mein Konto
Odpravite netočne podatke o rasi in etnični pripadnosti v medicinski umetni inteligenci
Netočnost podatkov o rasi in narodnosti, ki jih najdemo v elektronskih zdravstvenih kartotekah (EHRS), lahko negativno vpliva na oskrbo pacientov, saj je umetna inteligenca (AI) vse bolj vključena v zdravstveno varstvo. Ker bolnišnice in ponudniki zbirajo takšne podatke nedosledno in se trudijo natančno razvrstiti posamezne paciente, lahko sistemi umetne inteligence, usposobljeni za te nize podatkov, podedujejo in ohranjajo rasne pristranskosti. V novi publikaciji v PLOS Digital Health strokovnjaki za bioetiko in pravo pozivajo k takojšnji standardizaciji metod za zbiranje rasnih in etničnih podatkov ter k razvijalcem, da zagotovijo kakovost rasnih in etničnih podatkov v medicinskih sistemih umetne inteligence. …
Odpravite netočne podatke o rasi in etnični pripadnosti v medicinski umetni inteligenci
Netočnost podatkov o rasi in narodnosti, ki jih najdemo v elektronskih zdravstvenih kartotekah (EHRS), lahko negativno vpliva na oskrbo pacientov, saj je umetna inteligenca (AI) vse bolj vključena v zdravstveno varstvo. Ker bolnišnice in ponudniki zbirajo takšne podatke nedosledno in se trudijo natančno razvrstiti posamezne paciente, lahko sistemi umetne inteligence, usposobljeni za te nize podatkov, podedujejo in ohranjajo rasne pristranskosti.
V novi publikaciji v PLOS Digital Health strokovnjaki za bioetiko in pravo pozivajo k takojšnji standardizaciji metod za zbiranje rasnih in etničnih podatkov ter k razvijalcem, da zagotovijo kakovost rasnih in etničnih podatkov v medicinskih sistemih umetne inteligence. Raziskava sintetizira pomisleke o tem, zakaj podatki o rasi pacientov v EZK morda niso točni, opredeljuje najboljše prakse za zdravstvene sisteme in raziskovalce medicinske umetne inteligence za izboljšanje točnosti podatkov ter zagotavlja novo predlogo za razvijalce medicinske umetne inteligence, da pregledno upravičijo kakovost svojih rasnih in etničnih podatkov.
Vodilna avtorica Alexandra Tsalidis, MBE, ugotavlja, da "razvijalci umetne inteligence, ki bodo upoštevali naša priporočila o tem, kako so bili zbrani njihovi rasni in etnični podatki, ne bodo samo izboljšali preglednosti v medicinski umetni inteligenci, temveč bodo tudi pomagali bolnikom in regulatorjem oceniti varnost orodij."
Rasna pristranskost v modelih umetne inteligence je velika težava, saj se tehnologija vse bolj vključuje v zdravstveno varstvo. Ta članek ponuja konkretno metodo, ki jo je mogoče uporabiti za reševanje teh skrbi. “
Francis Shen, JD, PhD, višji avtor
Čeprav je treba opraviti še več dela, članek ponuja izhodišče, ki ga je predlagal soavtor Lakshmi Bharadwaj, MBE. "Odprt dialog o najboljših praksah je bistven korak in pristopi, ki jih predlagamo, bi lahko dosegli pomembne izboljšave."
Raziskavo sta podprla program NIH Bridge to Artificial Intelligence (BRIDG2AI) in štipendija NIH Brain Neuroethics (R01MH134144).
Viri:
Tsalidis, A., Bharadwaj, L., & Shen, F. X. (2025). Standardizacija in točnost podatkov o rasi in etnični pripadnosti: Posledice pravičnosti za medicinsko umetno inteligenco. PLOS Digitalno zdravje. doi.org/10.1371/journal.pdig.0000807.