Corrigez les données inexactes sur la race et l’origine ethnique dans l’IA médicale

Corrigez les données inexactes sur la race et l’origine ethnique dans l’IA médicale

L’inexactitude des données raciales et ethniques trouvées dans les dossiers de santé électroniques (DSE) peut avoir un impact négatif sur les soins aux patients, à mesure que l’intelligence artificielle (IA) est de plus en plus intégrée aux soins de santé. Étant donné que les hôpitaux et les prestataires collectent ces données de manière incohérente et ont du mal à classer avec précision les patients individuels, les systèmes d’IA formés sur ces ensembles de données peuvent hériter et perpétuer les préjugés raciaux.

Dans une nouvelle publication dans PLOS Digital Health, des experts en bioéthique et en droit appellent à une normalisation immédiate des méthodes de collecte de données raciales et ethniques et demandent aux développeurs de garantir la qualité des données raciales et ethniques dans les systèmes d'IA médicale. La recherche synthétise les préoccupations concernant les raisons pour lesquelles les données raciales des patients dans les DSE peuvent ne pas être exactes, identifie les meilleures pratiques pour les systèmes de santé et les chercheurs en IA médicale afin d'améliorer l'exactitude des données, et fournit un nouveau modèle permettant aux développeurs d'IA médicale de justifier de manière transparente la qualité de leurs données raciales et ethniques.

L'auteur principal Alexandra Tsalidis, MBE, note que "les développeurs d'IA qui tiennent compte de nos recommandations sur la manière dont leurs données raciales et ethniques ont été collectées feront non seulement progresser la transparence dans l'IA médicale, mais aideront également les patients et les régulateurs à évaluer la sécurité des outils".

Les préjugés raciaux dans les modèles d’IA constituent un problème majeur à mesure que la technologie est de plus en plus intégrée aux soins de santé. Cet article propose une méthode concrète qui peut être mise en œuvre pour répondre à ces préoccupations. "

Francis Shen, JD, PhD, auteur principal

Bien que davantage de travail reste à faire, l’article propose un point de départ, suggéré par le co-auteur Lakshmi Bharadwaj, MBE. « Un dialogue ouvert sur les meilleures pratiques est une étape essentielle, et les approches que nous proposons pourraient apporter des améliorations significatives. »

La recherche a été soutenue par le programme NIH Bridge to Artificial Intelligence (BRIDG2AI) et par une subvention NIH Brain Neuroethics (R01MH134144).

Sources :