L’adoption rapide de l’IA dans les soins primaires soulève des problèmes de sécurité

L’adoption rapide de l’IA dans les soins primaires soulève des problèmes de sécurité

Des scribes numériques à ChatGPT, l’intelligence artificielle (IA) fait rapidement son chemin dans les pratiques de soins primaires. Une nouvelle étude de l’Université de Sydney prévient que la technologie devance les contrôles de sécurité et met en danger les patients et les systèmes de santé.

L'étude, publiée dansLes soins primaires du Lanceta résumé les informations mondiales sur la manière dont l'IA est utilisée dans les soins primaires à l'aide de données provenant des États-Unis, du Royaume-Uni, de l'Australie, de plusieurs pays africains, d'Amérique latine, d'Irlande et d'autres régions. L'étude a révélé que les outils d'IA tels que ChatGPT, AI Scribes et les applications destinées aux patients sont de plus en plus utilisés pour les requêtes cliniques, la documentation et la consultation des patients, mais la plupart sont utilisés sans évaluation approfondie ni surveillance réglementaire.

Les soins primaires constituent l’épine dorsale des systèmes de santé, fournissant des soins accessibles et continus. L’IA peut alléger la pression sur des services surchargés, mais sans garanties, nous risquons des conséquences inattendues sur la sécurité des patients et la qualité des soins.

Professeure agrégée Liliana Laranjo, chercheuse principale, Horizon Fellow au Westmead Applied Research Center

Les médecins généralistes et les patients se tournent vers l’IA, mais les preuves sont à la traîne

Les soins primaires sont sous pression dans le monde entier, depuis la pénurie de main-d’œuvre jusqu’à l’épuisement professionnel des médecins, en passant par la complexité croissante de la prestation des soins de santé, exacerbée par la pandémie de COVID-19. L’IA est présentée comme une solution, dotée d’outils permettant de gagner du temps en consolidant les consultations, en automatisant l’administration et en aidant la prise de décision.

Au Royaume-Uni, un médecin généraliste sur cinq a déclaré avoir utilisé l'IA générative dans ses pratiques cliniques en 2024. Cependant, l'étude a révélé que la plupart des études sur l'IA dans les soins primaires sont basées sur des simulations plutôt que sur des études réelles, ce qui laisse des lacunes critiques en termes d'efficacité, de sécurité et d'équité.

Le nombre de médecins généralistes utilisant l’IA générative en Australie n’est pas connu de manière fiable, mais est estimé à 40 %.

"L'IA est déjà présente dans nos cliniques, mais sans données australiennes sur le nombre de médecins généralistes qui l'utilisent, ou sans surveillance appropriée, nous volons à l'aveugle en matière de sécurité", a déclaré le professeur agrégé Laranjo.

Si les scribes d’IA et les technologies d’écoute ambiante peuvent réduire la charge cognitive et améliorer la satisfaction professionnelle des médecins généralistes, ils présentent également des risques tels qu’un biais d’automatisation et la perte de détails sociaux ou biographiques importants dans les dossiers médicaux.

"Notre étude a révélé que de nombreux médecins généralistes qui utilisent des scribes IA ne veulent pas revenir à la dactylographie. Ils disent que cela accélère les consultations et leur permet de se concentrer sur les patients, mais ces outils peuvent passer à côté de détails personnels importants et introduire des biais", a déclaré le professeur agrégé Laranjo.

Pour les patients, les vérificateurs de symptômes et les applications de santé promettent des soins pratiques et personnalisés, mais leur précision varie souvent et nombre d’entre eux n’ont pas la possibilité d’une évaluation indépendante.

« Les modèles génératifs comme ChatGPT peuvent sembler convaincants, mais sont factuellement incorrects », a déclaré le professeur agrégé Laranjo. « Ils sont souvent d’accord avec les utilisateurs même lorsqu’ils se trompent, ce qui est dangereux pour les patients et difficile pour les médecins. »

Risques judiciaires et environnementaux de l’IA

Les experts préviennent que si l’IA promet des diagnostics plus rapides et des soins personnalisés, elle peut également creuser les écarts en matière de santé à mesure que les préjugés s’insinuent. Par exemple, les outils de dermatologie diagnostiquent souvent à tort les tons de peau plus foncés, qui sont généralement sous-représentés dans les ensembles de données de formation.

À l’inverse, les chercheurs affirment que lorsqu’elle est bien conçue, l’IA peut remédier aux disparités : une étude sur l’arthrite a doublé le nombre de patients noirs éligibles à une arthroplastie du genou en utilisant un algorithme formé sur un ensemble de données diversifié, ce qui permet de mieux prédire la douleur au genou signalée par les patients par rapport aux lectures radiologiques standard effectuées par les médecins.

« Ignorer les facteurs socio-économiques et la conception universelle pourrait faire passer l’IA dans les soins primaires d’une avancée à un revers », a déclaré le professeur agrégé Laranjo.

Les coûts environnementaux sont également énormes. La formation GPT-3, la version de ChatGPT sortie en 2020, a émis des quantités de dioxyde de carbone équivalentes à 188 vols entre New York et San Francisco. Les centres de données consomment désormais environ 1 % de la consommation mondiale d’électricité et, en Irlande, les centres de données sont responsables de plus de 20 % de la consommation nationale d’électricité.

"L'empreinte environnementale de l'IA est un défi", a déclaré le professeur agrégé Laranjo. « Nous avons besoin d’approches durables qui équilibrent l’innovation avec l’équité et la santé planétaire. »

Les chercheurs exhortent les gouvernements, les cliniciens et les développeurs de technologies à donner la priorité à :

• robuste Bewertung und reale Überwachung von KI-Tools
• Regulierungsrahmen, die mit der Innovation Schritt halten
• Schulung von Ärzten und der Öffentlichkeit zur Verbesserung der KI-Kenntnisse
• Strategien zur Voreingenommenheitsminderung, um Gerechtigkeit in der Gesundheitsversorgung sicherzustellen
• nachhaltige Praktiken zur Reduzierung der Umweltauswirkungen von KI.

« L'IA offre la possibilité de remodeler les soins primaires, mais l'innovation ne doit pas se faire au détriment de la sécurité ou de l'équité », a déclaré le professeur agrégé Laranjo. « Nous avons besoin de partenariats intersectoriels pour garantir que l’IA profite à tout le monde, pas seulement à ceux qui sont férus de technologie ou bien équipés. »

Sources :