Suche
Mein Konto
Kezelje a pontatlan faji és etnikai adatokat az orvosi mesterséges intelligencia területén
Az elektronikus egészségügyi nyilvántartásokban (EHRS) talált faji és etnikai adatok pontatlansága negatívan befolyásolhatja a betegek ellátását, mivel a mesterséges intelligencia (AI) egyre inkább beépül az egészségügyi ellátásba. Mivel a kórházak és a szolgáltatók következetlenül gyűjtik az ilyen adatokat, és küzdenek az egyes betegek pontos osztályozásáért, az ezekre az adatkészletekre kiképzett mesterséges intelligencia rendszerek örökölhetik és állandósíthatják a faji előítéleteket. A PLOS Digital Health új kiadványában a bioetikai és jogi szakértők a faji és etnikai adatok gyűjtési módszereinek azonnali szabványosítását, valamint a fejlesztők számára a faji és etnikai adatok minőségének garantálását kérik az orvosi mesterséges intelligencia rendszerekben. …
Kezelje a pontatlan faji és etnikai adatokat az orvosi mesterséges intelligencia területén
Az elektronikus egészségügyi nyilvántartásokban (EHRS) talált faji és etnikai adatok pontatlansága negatívan befolyásolhatja a betegek ellátását, mivel a mesterséges intelligencia (AI) egyre inkább beépül az egészségügyi ellátásba. Mivel a kórházak és a szolgáltatók következetlenül gyűjtik az ilyen adatokat, és küzdenek az egyes betegek pontos osztályozásáért, az ezekre az adatkészletekre kiképzett mesterséges intelligencia rendszerek örökölhetik és állandósíthatják a faji előítéleteket.
A PLOS Digital Health új kiadványában a bioetikai és jogi szakértők a faji és etnikai adatok gyűjtési módszereinek azonnali szabványosítását, valamint a fejlesztők számára a faji és etnikai adatok minőségének garantálását kérik az orvosi mesterséges intelligencia rendszerekben. A kutatás összefoglalja azokat az aggodalmakat, hogy miért nem pontosak a betegek faji adatai az EHR-ekben, azonosítja az egészségügyi rendszerek és az orvosi mesterséges intelligencia kutatói számára bevált gyakorlatokat az adatok pontosságának javítása érdekében, és új sablont biztosít az orvosi mesterséges intelligencia fejlesztői számára, hogy átláthatóan igazolják faji és etnikai adataik minőségét.
Alexandra Tsalidis, az MBE vezető szerzője megjegyzi, hogy "az AI-fejlesztők, akik figyelembe veszik a faji és etnikai adataik gyűjtésére vonatkozó ajánlásunkat, nemcsak az átláthatóságot javítják az orvosi mesterségesintelligencia területén, hanem segítik a betegeket és a szabályozó hatóságokat az eszközök biztonságosságának felmérésében."
Az AI-modellek faji elfogultsága komoly probléma, mivel a technológia egyre inkább integrálódik az egészségügyi ellátásba. Ez a cikk konkrét módszert kínál ezeknek a problémáknak a kezelésére. "
Francis Shen, JD, PhD, vezető szerző
Noha még további munkára van szükség, a cikk kiindulópontot kínál, amelyet Lakshmi Bharadwaj, az MBE társszerzője javasolt. „A legjobb gyakorlatokról folytatott nyílt párbeszéd alapvető lépés, és az általunk javasolt megközelítések jelentős javulást eredményezhetnek.”
A kutatást a NIH Híd a mesterséges intelligenciához program (BRIDG2AI) és az NIH Brain Neuroethics ösztöndíja (R01MH134144) támogatta.
Források:
Tsalidis, A., Bharadwaj, L. és Shen, F. X. (2025). A faji és etnikai adatok szabványosítása és pontossága: Méltányossági vonatkozások az orvosi mesterséges intelligencia számára. PLOS Digital Health. doi.org/10.1371/journal.pdig.0000807.