Adoptarea rapidă a IA în asistența medicală primară ridică probleme de siguranță

Adoptarea rapidă a IA în asistența medicală primară ridică probleme de siguranță

De la scribi digitali la ChatGPT, inteligența artificială (AI) își găsește rapid drumul în practicile de îngrijire primară. Un nou studiu de la Universitatea din Sydney avertizează că tehnologia trece înaintea controalelor de securitate și pune în pericol pacienții și sistemele de sănătate.

Studiul, publicat înThe Lancet Primary Carea rezumat perspective globale despre modul în care AI este utilizată în asistența medicală primară, folosind date din Statele Unite, Regatul Unit, Australia, mai multe țări africane, America Latină, Irlanda și alte regiuni. S-a constatat că instrumentele AI, cum ar fi ChatGPT, AI Scribes și aplicațiile orientate către pacienți sunt din ce în ce mai folosite pentru interogări clinice, documentare și consultarea pacienților, dar cele mai multe sunt utilizate fără o evaluare amănunțită sau supraveghere reglementară.

Asistența primară este coloana vertebrală a sistemelor de sănătate, oferind îngrijire accesibilă și continuă. Inteligența artificială poate reduce presiunea asupra serviciilor supraîncărcate, dar fără garanții riscăm consecințe nedorite pentru siguranța pacienților și calitatea îngrijirii.”

Profesor asociat Liliana Laranjo, cercetător principal, Horizon Fellow la Westmead Applied Research Center

Medicii de familie și pacienții apelează la IA, dar dovezile sunt în urmă

Asistența primară este sub presiune la nivel mondial, de la lipsa forței de muncă la epuizarea medicilor până la complexitatea crescândă a furnizării de asistență medicală, exacerbată de pandemia COVID-19. AI este prezentată ca o soluție, cu instrumente care economisesc timp prin consolidarea consultărilor, automatizarea administrației și sprijinirea procesului decizional.

În Marea Britanie, unul din cinci medici de familie a raportat că a folosit IA generativă în practicile clinice în 2024. Cu toate acestea, revizuirea a constatat că majoritatea studiilor despre IA în asistența medicală primară se bazează mai degrabă pe simulări decât pe studii din lumea reală, lăsând lacune critice în eficacitate, siguranță și echitate.

Numărul medicilor de familie care folosesc IA generativă în Australia nu este cunoscut în mod fiabil, dar este estimat la 40%.

„AI este deja în clinicile noastre, dar fără date australiene despre câți medici de familie îl folosesc sau fără supraveghere adecvată, zburăm orb când vine vorba de siguranță”, a spus profesorul asociat Laranjo.

În timp ce scriitorii AI și tehnologiile de ascultare ambientală pot reduce încărcătura cognitivă și pot îmbunătăți satisfacția profesională a medicilor de familie, ele prezintă, de asemenea, riscuri, cum ar fi părtinirea automatizării și pierderea unor detalii sociale sau biografice importante din dosarele medicale.

„Studiul nostru a constatat că mulți medici de familie care folosesc scribi AI nu doresc să se întoarcă la tastare. Ei spun că accelerează consultațiile și le permite să se concentreze asupra pacienților, dar aceste instrumente pot pierde detalii personale importante și pot introduce părtiniri”, a spus profesorul asociat Laranjo.

Pentru pacienți, instrumentele de verificare a simptomelor și aplicațiile de sănătate promit confort și îngrijire personalizată, dar acuratețea lor variază adesea și mulți nu au posibilitatea de a face o evaluare independentă.

„Modelele generative precum ChatGPT pot suna convingător, dar sunt incorecte din punct de vedere faptic”, a spus profesorul asociat Laranjo. „Adesea sunt de acord cu utilizatorii chiar și atunci când greșesc, ceea ce este periculos pentru pacienți și provocator pentru medici.”

Justiție și riscurile de mediu ale IA

Experții avertizează că, în timp ce AI promite diagnostice mai rapide și îngrijire personalizată, poate, de asemenea, să adâncească lacunele de sănătate pe măsură ce se strecoară prejudecățile.

Dimpotrivă, cercetătorii spun că, atunci când este concepută bine, AI poate aborda disparitățile: un studiu de artrită a dublat numărul de pacienți de culoare eligibili pentru înlocuirea genunchiului prin utilizarea unui algoritm antrenat pe un set de date divers, ceea ce îl face mai bine să prezică durerea de genunchi raportată de pacient în comparație cu citirile standard cu raze X de către medici.

„Ignorarea factorilor socioeconomici și a designului universal ar putea duce la AI în îngrijirea primară să treacă de la o descoperire la un regres”, a spus profesorul asociat Laranjo.

Costurile de mediu sunt, de asemenea, enorme. Training GPT-3, versiunea ChatGPT lansată în 2020, a emis cantități de dioxid de carbon echivalente cu 188 de zboruri între New York și San Francisco. Centrele de date consumă acum aproximativ 1% din consumul global de energie electrică, iar în Irlanda centrele de date sunt responsabile pentru mai mult de 20% din consumul național de energie electrică.

„Amprenta de mediu a AI este o provocare”, a spus profesorul asociat Laranjo. „Avem nevoie de abordări durabile care să echilibreze inovația cu echitatea și sănătatea planetară.”

Cercetătorii îndeamnă guvernele, clinicienii și dezvoltatorii de tehnologie să acorde prioritate:

• robuste Bewertung und reale Überwachung von KI-Tools
• Regulierungsrahmen, die mit der Innovation Schritt halten
• Schulung von Ärzten und der Öffentlichkeit zur Verbesserung der KI-Kenntnisse
• Strategien zur Voreingenommenheitsminderung, um Gerechtigkeit in der Gesundheitsversorgung sicherzustellen
• nachhaltige Praktiken zur Reduzierung der Umweltauswirkungen von KI.

„AI oferă oportunitatea de a remodela îngrijirea primară, dar inovarea nu trebuie să vină în detrimentul siguranței sau echității”, a spus profesorul asociat Laranjo. „Avem nevoie de parteneriate intersectoriale pentru a ne asigura că AI aduce beneficii tuturor – nu doar celor cunoscători de tehnologie sau bine echipați.”

Surse: