A rápida adoção da IA ​​nos cuidados primários levanta preocupações de segurança

A rápida adoção da IA ​​nos cuidados primários levanta preocupações de segurança

Dos escribas digitais ao ChatGPT, a inteligência artificial (IA) está rapidamente entrando nas práticas de cuidados primários. Um novo estudo da Universidade de Sydney alerta que a tecnologia está ultrapassando os controles de segurança e colocando em risco pacientes e sistemas de saúde.

O estudo, publicado emCuidados primários da Lancetresumiu insights globais sobre como a IA está sendo usada na atenção primária usando dados dos Estados Unidos, Reino Unido, Austrália, vários países africanos, América Latina, Irlanda e outras regiões. Descobriu-se que ferramentas de IA como ChatGPT, AI Scribes e aplicações voltadas para pacientes estão a ser cada vez mais utilizadas para consultas clínicas, documentação e consulta de pacientes, mas a maioria é utilizada sem avaliação minuciosa ou supervisão regulamentar.

Os cuidados primários são a espinha dorsal dos sistemas de saúde, proporcionando cuidados acessíveis e contínuos. A IA pode aliviar a pressão sobre serviços sobrecarregados, mas sem salvaguardas corremos o risco de consequências indesejadas para a segurança dos pacientes e a qualidade dos cuidados.”

Professora Associada Liliana Laranjo, Investigadora Principal, Horizon Fellow no Westmead Applied Research Center

Médicos de família e pacientes estão recorrendo à IA, mas as evidências são insuficientes

Os cuidados primários estão sob pressão em todo o mundo, desde a escassez de mão de obra ao esgotamento dos médicos e à crescente complexidade da prestação de cuidados de saúde, exacerbada pela pandemia da COVID-19. A IA está sendo apontada como uma solução, com ferramentas que economizam tempo ao consolidar consultas, automatizar a administração e apoiar a tomada de decisões.

No Reino Unido, um em cada cinco GPs relatou o uso de IA generativa em práticas clínicas em 2024. No entanto, a revisão concluiu que a maioria dos estudos de IA nos cuidados primários são baseados em simulações e não em estudos do mundo real, deixando lacunas críticas na eficácia, segurança e equidade.

O número de GPs que utilizam IA generativa na Austrália não é conhecido de forma confiável, mas é estimado em 40%.

“A IA já está em nossas clínicas, mas sem dados australianos sobre quantos médicos de clínica geral a utilizam, ou sem supervisão adequada, estamos voando às cegas quando se trata de segurança”, disse o professor associado Laranjo.

Embora os escribas de IA e as tecnologias de escuta ambiente possam reduzir a carga cognitiva e melhorar a satisfação no trabalho dos GPs, também apresentam riscos como o viés de automação e a perda de detalhes sociais ou biográficos importantes nos registros médicos.

“Nosso estudo descobriu que muitos GPs que usam escribas de IA não querem voltar a digitar. Eles dizem que isso acelera as consultas e permite que eles se concentrem nos pacientes, mas essas ferramentas podem perder detalhes pessoais importantes e introduzir preconceitos”, disse o Professor Associado Laranjo.

Para os pacientes, os verificadores de sintomas e as aplicações de saúde prometem conveniência e cuidados personalizados, mas a sua precisão varia frequentemente e muitos não têm a oportunidade de uma avaliação independente.

“Modelos geradores como o ChatGPT podem parecer convincentes, mas são factualmente incorretos”, disse o professor associado Laranjo. “Muitas vezes eles concordam com os usuários mesmo quando eles estão errados, o que é perigoso para os pacientes e desafiador para os médicos.”

Justiça e riscos ambientais da IA

Os especialistas alertam que, embora a IA prometa diagnósticos mais rápidos e cuidados personalizados, ela também pode aprofundar as lacunas de saúde à medida que o preconceito se insinua. Por exemplo, as ferramentas dermatológicas muitas vezes diagnosticam erroneamente tons de pele mais escuros, que normalmente são sub-representados em conjuntos de dados de treinamento.

Por outro lado, os pesquisadores dizem que, quando bem projetada, a IA pode abordar disparidades: um estudo sobre artrite dobrou o número de pacientes negros elegíveis para substituições de joelho usando um algoritmo treinado em um conjunto diversificado de dados, tornando-o melhor na previsão de dor no joelho relatada pelo paciente em comparação com leituras de raios X padrão feitas por médicos.

“Ignorar os fatores socioeconômicos e o design universal poderia fazer com que a IA na atenção primária passasse de um avanço a um revés”, disse o Professor Associado Laranjo.

Os custos ambientais também são enormes. O treinamento GPT-3, versão do ChatGPT lançada em 2020, emitiu quantidades de dióxido de carbono equivalentes a 188 voos entre Nova York e São Francisco. Os data centers consomem atualmente cerca de 1% do consumo global de eletricidade e, na Irlanda, os data centers são responsáveis ​​por mais de 20% do consumo nacional de eletricidade.

“A pegada ambiental da IA ​​é desafiadora”, disse o Professor Associado Laranjo. “Precisamos de abordagens sustentáveis ​​que equilibrem a inovação com a equidade e a saúde planetária.”

Os pesquisadores instam governos, médicos e desenvolvedores de tecnologia a priorizarem:

• robuste Bewertung und reale Überwachung von KI-Tools
• Regulierungsrahmen, die mit der Innovation Schritt halten
• Schulung von Ärzten und der Öffentlichkeit zur Verbesserung der KI-Kenntnisse
• Strategien zur Voreingenommenheitsminderung, um Gerechtigkeit in der Gesundheitsversorgung sicherzustellen
• nachhaltige Praktiken zur Reduzierung der Umweltauswirkungen von KI.

“A IA oferece a oportunidade de remodelar os cuidados primários, mas a inovação não deve ocorrer à custa da segurança ou da equidade”, disse o Professor Associado Laranjo. “Precisamos de parcerias entre setores para garantir que a IA beneficie a todos – não apenas os que entendem de tecnologia ou estão bem equipados.”

Fontes: