La rápida adopción de la IA en la atención primaria plantea preocupaciones de seguridad

La rápida adopción de la IA en la atención primaria plantea preocupaciones de seguridad

Desde los escribas digitales hasta ChatGPT, la inteligencia artificial (IA) se está abriendo camino rápidamente en las prácticas de atención primaria. Un nuevo estudio de la Universidad de Sydney advierte que la tecnología se está adelantando a los controles de seguridad y poniendo en riesgo a los pacientes y los sistemas sanitarios.

El estudio, publicado enLa atención primaria de Lancetresumió conocimientos globales sobre cómo se utiliza la IA en la atención primaria utilizando datos de los Estados Unidos, el Reino Unido, Australia, varios países africanos, América Latina, Irlanda y otras regiones. Descubrió que las herramientas de inteligencia artificial como ChatGPT, AI Scribes y aplicaciones orientadas al paciente se utilizan cada vez más para consultas clínicas, documentación y consultas con pacientes, pero la mayoría se utilizan sin una evaluación exhaustiva o supervisión regulatoria.

La atención primaria es la columna vertebral de los sistemas de salud y brinda atención accesible y continua. La IA puede aliviar la presión sobre los servicios sobrecargados, pero sin salvaguardias corremos el riesgo de consecuencias no deseadas para la seguridad del paciente y la calidad de la atención”.

Profesora asociada Liliana Laranjo, investigadora principal, becaria Horizon en el Centro de Investigación Aplicada Westmead

Los médicos de cabecera y los pacientes están recurriendo a la IA, pero la evidencia es escasa

La atención primaria está bajo presión en todo el mundo, desde la escasez de mano de obra hasta el agotamiento de los médicos y la creciente complejidad de la prestación de atención médica, exacerbada por la pandemia de COVID-19. La IA se promociona como una solución, con herramientas que ahorran tiempo al consolidar consultas, automatizar la administración y apoyar la toma de decisiones.

En el Reino Unido, uno de cada cinco médicos de cabecera informó haber utilizado IA generativa en prácticas clínicas en 2024. Sin embargo, la revisión encontró que la mayoría de los estudios sobre IA en atención primaria se basan en simulaciones en lugar de estudios del mundo real, lo que deja lagunas críticas en eficacia, seguridad y equidad.

No se conoce con certeza el número de médicos de cabecera que utilizan IA generativa en Australia, pero se estima en un 40 por ciento.

"La IA ya está en nuestras clínicas, pero sin datos australianos sobre cuántos médicos de cabecera la utilizan, o sin una supervisión adecuada, estamos volando a ciegas en lo que respecta a la seguridad", afirmó el profesor asociado Laranjo.

Si bien los escribas de IA y las tecnologías de escucha ambiental pueden reducir la carga cognitiva y mejorar la satisfacción laboral de los médicos de cabecera, también plantean riesgos como el sesgo de automatización y la pérdida de detalles sociales o biográficos importantes en los registros médicos.

"Nuestro estudio encontró que muchos médicos de cabecera que utilizan escribas de IA no quieren volver a escribir. Dicen que acelera las consultas y les permite centrarse en los pacientes, pero estas herramientas pueden pasar por alto detalles personales importantes e introducir sesgos", dijo el profesor asociado Laranjo.

Para los pacientes, los verificadores de síntomas y las aplicaciones de salud prometen comodidad y atención personalizada, pero su precisión a menudo varía y muchos carecen de la oportunidad de realizar una evaluación independiente.

"Los modelos generativos como ChatGPT pueden parecer convincentes, pero en realidad son incorrectos", dijo el profesor asociado Laranjo. "A menudo están de acuerdo con los usuarios incluso cuando se equivocan, lo que es peligroso para los pacientes y un desafío para los médicos".

Justicia y riesgos medioambientales de la IA

Los expertos advierten que, si bien la IA promete diagnósticos más rápidos y atención personalizada, también puede profundizar las brechas de salud a medida que aumentan los sesgos. Por ejemplo, las herramientas dermatológicas a menudo diagnostican erróneamente los tonos de piel más oscuros, que generalmente están subrepresentados en los conjuntos de datos de entrenamiento.

Por el contrario, los investigadores dicen que cuando se diseña bien, la IA puede abordar las disparidades: un estudio sobre artritis duplicó el número de pacientes negros elegibles para reemplazos de rodilla mediante el uso de un algoritmo entrenado en un conjunto de datos diverso, lo que lo hace mejor para predecir el dolor de rodilla informado por los pacientes en comparación con las lecturas de rayos X estándar realizadas por los médicos.

"Ignorar los factores socioeconómicos y el diseño universal podría hacer que la IA en la atención primaria pase de un avance a un revés", afirmó el profesor asociado Laranjo.

Los costos ambientales también son enormes. El entrenamiento GPT-3, la versión de ChatGPT lanzada en 2020, emitió cantidades de dióxido de carbono equivalentes a 188 vuelos entre Nueva York y San Francisco. Los centros de datos consumen ahora alrededor del 1 por ciento del consumo mundial de electricidad, y en Irlanda los centros de datos son responsables de más del 20 por ciento del consumo eléctrico nacional.

"La huella ambiental de la IA es un desafío", afirmó el profesor asociado Laranjo. "Necesitamos enfoques sostenibles que equilibren la innovación con la equidad y la salud planetaria".

Los investigadores instan a los gobiernos, médicos y desarrolladores de tecnología a priorizar:

• robuste Bewertung und reale Überwachung von KI-Tools
• Regulierungsrahmen, die mit der Innovation Schritt halten
• Schulung von Ärzten und der Öffentlichkeit zur Verbesserung der KI-Kenntnisse
• Strategien zur Voreingenommenheitsminderung, um Gerechtigkeit in der Gesundheitsversorgung sicherzustellen
• nachhaltige Praktiken zur Reduzierung der Umweltauswirkungen von KI.

"La IA ofrece la oportunidad de remodelar la atención primaria, pero la innovación no debe realizarse a expensas de la seguridad o la equidad", afirmó el profesor asociado Laranjo. "Necesitamos asociaciones entre industrias para garantizar que la IA beneficie a todos, no sólo a los expertos en tecnología o a los que están bien equipados".

Fuentes: