Abordați datele inexacte despre rasă și etnie în IA medicală

Abordați datele inexacte despre rasă și etnie în IA medicală

Inexactitatea datelor rasiale și etnice găsite în dosarele electronice de sănătate (EHRS) poate avea un impact negativ asupra îngrijirii pacienților, deoarece inteligența artificială (IA) este din ce în ce mai integrată în asistența medicală. Deoarece spitalele și furnizorii colectează astfel de date în mod inconsecvent și se luptă să clasifice cu exactitate pacienții individuali, sistemele AI instruite pe aceste seturi de date pot moșteni și perpetua prejudecățile rasiale.

Într-o nouă publicație în PLOS Digital Health, experții în bioetică și juridice solicită standardizarea imediată a metodelor de colectare a datelor rasiale și etnice și ca dezvoltatorii să garanteze calitatea datelor rasiale și etnice în sistemele medicale AI. Cercetarea sintetizează preocupările legate de motivul pentru care datele rasiale ale pacienților din EHR ar putea să nu fie exacte, identifică cele mai bune practici pentru sistemele de sănătate și cercetătorii AI medical pentru a îmbunătăți acuratețea datelor și oferă un nou șablon pentru dezvoltatorii de IA medicală pentru a justifica în mod transparent calitatea datelor lor rasiale și etnice.

Autorul principal, Alexandra Tsalidis, MBE, notează că „dezvoltatorii AI care țin cont de recomandarea noastră cu privire la modul în care au fost colectate datele lor rasiale și etnice nu numai că vor promova transparența în IA medicală, dar vor ajuta și pacienții și autoritățile de reglementare să evalueze siguranța instrumentelor”.

Prejudecățile rasiale în modelele AI reprezintă o problemă majoră, deoarece tehnologia devine din ce în ce mai integrată în asistența medicală. Acest articol oferă o metodă concretă care poate fi implementată pentru a aborda aceste preocupări. „

Francis Shen, JD, PhD, autor principal

Deși trebuie făcută mai multă muncă, articolul oferă un punct de plecare, sugerat de coautorul Lakshmi Bharadwaj, MBE. „Un dialog deschis despre cele mai bune practici este un pas esențial, iar abordările pe care le propunem ar putea aduce îmbunătățiri semnificative.”

Cercetarea a fost susținută de programul NIH Bridge to Artificial Intelligence (BRIDG2AI) și de un grant NIH Brain Neuroethics (R01MH134144).

Surse: