Suche
Mein Konto
Los sesgos racistas y de otro tipo en los algoritmos de IA para la atención sanitaria pueden combatirse con apoyo público
Se pide al público que ayude a eliminar los prejuicios basados en la raza y otros grupos desfavorecidos en los algoritmos de inteligencia artificial para la atención médica. Los investigadores de la salud piden apoyo para abordar la cuestión de por qué los grupos “minoritarios” que están activamente desfavorecidos por construcciones sociales no se beneficiarían del uso de la IA en la atención sanitaria en el futuro. El equipo, dirigido por la Universidad de Birmingham y los Hospitales Universitarios de Birmingham, escribe hoy en Nature Medicine sobre el lanzamiento de una consulta sobre un conjunto de estándares que esperan reduzca los sesgos que se sabe que existen en los algoritmos de IA. Siempre hay…
Los sesgos racistas y de otro tipo en los algoritmos de IA para la atención sanitaria pueden combatirse con apoyo público
Se pide al público que ayude a eliminar los prejuicios basados en la raza y otros grupos desfavorecidos en los algoritmos de inteligencia artificial para la atención médica.
Los investigadores de la salud piden apoyo para abordar la cuestión de por qué los grupos “minoritarios” que están activamente desfavorecidos por construcciones sociales no se beneficiarían del uso de la IA en la atención sanitaria en el futuro. El equipo, dirigido por la Universidad de Birmingham y los Hospitales Universitarios de Birmingham, escribe hoy en Nature Medicine sobre el lanzamiento de una consulta sobre un conjunto de estándares que esperan reduzca los sesgos que se sabe que existen en los algoritmos de IA.
Cada vez hay más pruebas de que algunos algoritmos de IA funcionan menos bien para ciertos grupos de personas, en particular aquellos de minorías raciales o étnicas. Parte de esto se debe a los sesgos en los conjuntos de datos utilizados para desarrollar algoritmos de IA. Esto significa que los pacientes de origen negro y étnico minoritario pueden recibir predicciones inexactas, lo que puede conducir a diagnósticos erróneos y tratamientos incorrectos.
STANDING Together es una colaboración internacional que desarrollará estándares de mejores prácticas para conjuntos de datos de salud utilizados en inteligencia artificial para garantizar que sean diversos, inclusivos y no dejen atrás a grupos minoritarios o subrepresentados. El proyecto está financiado por NHS AI Lab y Health Foundation, y la financiación es gestionada por el Instituto Nacional de Investigación en Salud y Atención, el socio de investigación de atención social y de salud pública del NHS, como parte de la Iniciativa de Ética de IA de NHS AI Labs.
El Dr. Xiaoxuan Liu, del Instituto de Inflamación y Envejecimiento de la Universidad de Birmingham y codirector del proyecto STANDING Together, dijo:
"Al tener la base de datos adecuada, STANDING Together garantiza que nadie se quede atrás mientras buscamos desbloquear los beneficios de las tecnologías basadas en datos como la IA. Hemos puesto nuestro estudio Delphi a disposición del público para que podamos maximizar nuestro alcance". a comunidades e individuos. Esto nos permite garantizar que las recomendaciones de STANDING Together reflejen verdaderamente lo que es importante para nuestra comunidad diversa.
El profesor Alastair Denniston, oftalmólogo consultor de los hospitales universitarios de Birmingham y profesor del Instituto de Inflamación y Envejecimiento de la Universidad de Birmingham, codirige el proyecto. El profesor Denniston dijo:
"Como médico del NHS, doy la bienvenida a la introducción de tecnologías de inteligencia artificial que puedan ayudarnos a mejorar la atención médica que brindamos: diagnósticos más rápidos y precisos, tratamientos cada vez más personalizados e interfaces de atención médica que brindan al paciente más control". Pero también debemos asegurarnos de que estas tecnologías sean inclusivas. Debemos asegurarnos de que funcionen de manera efectiva y segura para todos los que los necesiten”.
Este es uno de los proyectos más gratificantes en los que he trabajado porque refleja no sólo mi gran interés en utilizar datos validados precisos y buena documentación para respaldar el descubrimiento, sino también la necesidad urgente de incluir a grupos minoritarios y desatendidos en la investigación que los beneficia. Por supuesto, este último grupo también incluye a las mujeres”.
Jacqui Gath, socia paciente, proyecto STANDING Together
El proyecto STANDING Together ya está abierto a consulta pública a través de un estudio de consenso Delphi. Los investigadores invitan a miembros del público, profesionales de la salud, investigadores, desarrolladores de inteligencia artificial, científicos de datos, formuladores de políticas y reguladores a ayudar a revisar estos estándares para garantizar que funcionen para usted y para todas las personas con las que trabaja.
Fuente:
Referencia:
Ganapathi, S., et al. (2022) Abordar el sesgo en los conjuntos de datos de IA a través de la iniciativa STANDING together. Medicina natural. doi.org/10.1038/s41591-022-01987-w.