Suche
Mein Konto
Aborde dados imprecisos de raça e etnia na IA médica
A imprecisão dos dados raciais e étnicos encontrados nos registros eletrônicos de saúde (EHRS) pode impactar negativamente o atendimento ao paciente, à medida que a inteligência artificial (IA) está cada vez mais integrada aos cuidados de saúde. Como os hospitais e os prestadores de serviços recolhem esses dados de forma inconsistente e têm dificuldade em classificar com precisão os pacientes individuais, os sistemas de IA treinados nestes conjuntos de dados podem herdar e perpetuar preconceitos raciais. Numa nova publicação na PLOS Digital Health, especialistas em bioética e jurídicos apelam à padronização imediata dos métodos de recolha de dados raciais e étnicos e aos desenvolvedores para garantir a qualidade dos dados raciais e étnicos em sistemas médicos de IA. …
Aborde dados imprecisos de raça e etnia na IA médica
A imprecisão dos dados raciais e étnicos encontrados nos registros eletrônicos de saúde (EHRS) pode impactar negativamente o atendimento ao paciente, à medida que a inteligência artificial (IA) está cada vez mais integrada aos cuidados de saúde. Como os hospitais e os prestadores de serviços recolhem esses dados de forma inconsistente e têm dificuldade em classificar com precisão os pacientes individuais, os sistemas de IA treinados nestes conjuntos de dados podem herdar e perpetuar preconceitos raciais.
Numa nova publicação na PLOS Digital Health, especialistas em bioética e jurídicos apelam à padronização imediata dos métodos de recolha de dados raciais e étnicos e aos desenvolvedores para garantir a qualidade dos dados raciais e étnicos em sistemas médicos de IA. A pesquisa sintetiza preocupações sobre por que os dados raciais dos pacientes nos EHRs podem não ser precisos, identifica as melhores práticas para os sistemas de saúde e os pesquisadores de IA médica melhorarem a precisão dos dados e fornece um novo modelo para os desenvolvedores de IA médica justificarem de forma transparente a qualidade de seus dados raciais e étnicos
A autora principal, Alexandra Tsalidis, MBE, observa que “os desenvolvedores de IA que atenderem à nossa recomendação sobre como seus dados raciais e étnicos foram coletados não apenas promoverão a transparência na IA médica, mas também ajudarão os pacientes e reguladores a avaliar a segurança das ferramentas”.
O preconceito racial nos modelos de IA é um grande problema à medida que a tecnologia se torna cada vez mais integrada nos cuidados de saúde. Este artigo fornece um método concreto que pode ser implementado para resolver essas preocupações. “
Francis Shen, JD, PhD, autor sênior
Embora seja necessário fazer mais trabalho, o artigo oferece um ponto de partida, sugerido pelo coautor Lakshmi Bharadwaj, MBE. “Um diálogo aberto sobre as melhores práticas é um passo essencial e as abordagens que propomos poderão alcançar melhorias significativas.”
A pesquisa foi apoiada pelo programa NIH Bridge to Artificial Intelligence (BRIDG2AI) e por uma bolsa do NIH Brain Neuroethics (R01MH134144).
Fontes:
Tsalidis, A., Bharadwaj, L., & Shen, FX (2025). Padronização e precisão dos dados de raça e etnia: implicações de equidade para IA médica. PLOS Saúde Digital. doi.org/10.1371/journal.pdig.0000807.