Suche
Mein Konto
Išspręskite netikslius rasės ir etninės priklausomybės duomenis medicinos AI
Elektroniniuose sveikatos įrašuose (EHRS) aptiktų rasės ir etninės priklausomybės duomenų netikslumas gali neigiamai paveikti pacientų priežiūrą, nes dirbtinis intelektas (AI) vis labiau integruojamas į sveikatos priežiūrą. Kadangi ligoninės ir paslaugų teikėjai tokius duomenis renka nenuosekliai ir stengiasi tiksliai klasifikuoti atskirus pacientus, dirbtinio intelekto sistemos, parengtos pagal šiuos duomenų rinkinius, gali paveldėti ir išsaugoti rasinį šališkumą. Naujame PLOS Digital Health leidinyje bioetikos ir teisės ekspertai ragina nedelsiant standartizuoti rasinių ir etninių duomenų rinkimo metodus ir kūrėjus garantuoti rasinių ir etninių duomenų kokybę medicinos AI sistemose. …
Išspręskite netikslius rasės ir etninės priklausomybės duomenis medicinos AI
Elektroniniuose sveikatos įrašuose (EHRS) aptiktų rasės ir etninės priklausomybės duomenų netikslumas gali neigiamai paveikti pacientų priežiūrą, nes dirbtinis intelektas (AI) vis labiau integruojamas į sveikatos priežiūrą. Kadangi ligoninės ir paslaugų teikėjai tokius duomenis renka nenuosekliai ir stengiasi tiksliai klasifikuoti atskirus pacientus, dirbtinio intelekto sistemos, parengtos pagal šiuos duomenų rinkinius, gali paveldėti ir išsaugoti rasinį šališkumą.
Naujame PLOS Digital Health leidinyje bioetikos ir teisės ekspertai ragina nedelsiant standartizuoti rasinių ir etninių duomenų rinkimo metodus ir kūrėjus garantuoti rasinių ir etninių duomenų kokybę medicinos AI sistemose. Tyrime apibendrinamas susirūpinimas dėl to, kodėl pacientų rasiniai duomenys EHR gali būti netikslūs, nustatomos geriausios praktikos, skirtos sveikatos sistemoms ir medicinos dirbtinio intelekto tyrėjams, siekiant pagerinti duomenų tikslumą, ir pateikiamas naujas šablonas medicinos AI kūrėjams, kad galėtų skaidriai pagrįsti savo rasinių ir etninių duomenų kokybę.
Vadovaujantis autorius Alexandra Tsalidis, MBE, pažymi, kad „AI kūrėjai, atsižvelgę į mūsų rekomendaciją, kaip buvo renkami jų rasiniai ir etniniai duomenys, ne tik padidins medicininės dirbtinio intelekto skaidrumą, bet ir padės pacientams bei reguliavimo institucijoms įvertinti priemonių saugumą“.
Rasinis AI modelių šališkumas yra pagrindinė problema, nes technologija vis labiau integruojama į sveikatos priežiūrą. Šiame straipsnyje pateikiamas konkretus metodas, kurį galima įgyvendinti norint išspręsti šias problemas. “
Francis Shen, JD, mokslų daktaras, vyresnysis autorius
Nors reikia nuveikti daugiau, straipsnyje pateikiamas atspirties taškas, kurį pasiūlė bendraautorius Lakshmi Bharadwaj, MBE. „Atviras dialogas apie geriausią praktiką yra esminis žingsnis, o mūsų siūlomi metodai galėtų žymiai pagerinti.
Tyrimas buvo paremtas NIH tilto į dirbtinį intelektą programa (BRIDG2AI) ir NIH smegenų neuroetikos stipendija (R01MH134144).
Šaltiniai:
Tsalidis, A., Bharadwaj, L. ir Shen, F. X. (2025). Rasės ir etninės priklausomybės duomenų standartizavimas ir tikslumas: medicininio AI poveikis teisingumui. PLOS skaitmeninė sveikata. doi.org/10.1371/journal.pdig.0000807.