Den snabba adoptionen av AI i primärvården väcker säkerhetsproblem

Den snabba adoptionen av AI i primärvården väcker säkerhetsproblem

Från digitala skribenter till ChatGPT, artificiell intelligens (AI) hittar snabbt sin väg in i primärvården. En ny studie från University of Sydney varnar för att tekniken går före säkerhetskontroller och utsätter patienter och sjukvårdssystem för risker.

Studien, publicerad iLancet Primary Caresammanfattade globala insikter om hur AI används i primärvården med hjälp av data från USA, Storbritannien, Australien, flera afrikanska länder, Latinamerika, Irland och andra regioner. Den fann att AI-verktyg som ChatGPT, AI Scribes och patientinriktade appar används i allt större utsträckning för kliniska frågor, dokumentation och patientrådgivning, men de flesta används utan grundlig utvärdering eller regulatorisk tillsyn.

Primärvården är ryggraden i hälso- och sjukvårdssystemen och tillhandahåller tillgänglig och kontinuerlig vård. AI kan lätta på trycket på överansträngda tjänster, men utan skyddsåtgärder riskerar vi oavsiktliga konsekvenser för patientsäkerheten och vårdens kvalitet.”

Docent Liliana Laranjo, huvudutredare, Horizon Fellow vid Westmead Applied Research Center

Allmänläkare och patienter vänder sig till AI, men bevisen släpar efter

Primärvården är under press över hela världen, från arbetskraftsbrist till läkares utbrändhet till den ökande komplexiteten i sjukvården, förvärrad av covid-19-pandemin. AI utses som en lösning, med verktyg som sparar tid genom att konsolidera konsultationer, automatisera administration och stödja beslutsfattande.

I Storbritannien rapporterade var femte läkare att de använde generativ AI i kliniska praktiker 2024. Men granskningen fann att de flesta studier av AI i primärvården är baserade på simuleringar snarare än verkliga studier, vilket lämnar kritiska luckor i effektivitet, säkerhet och rättvisa.

Antalet husläkare som använder generativ AI i Australien är inte tillförlitligt känt, men uppskattas till 40 procent.

"AI finns redan på våra kliniker, men utan australiensiska data om hur många läkare som använder det, eller korrekt tillsyn, flyger vi blinda när det kommer till säkerhet," sa docent Laranjo.

Medan AI-skrivare och omgivande lyssningsteknik kan minska kognitiv belastning och förbättra arbetstillfredsställelsen för allmänläkare, utgör de också risker som automatiseringsfördomar och förlust av viktiga sociala eller biografiska detaljer i medicinska journaler.

"Vår studie fann att många läkare som använder AI-skrivare inte vill gå tillbaka till att skriva. De säger att det snabbar upp konsultationerna och gör att de kan fokusera på patienter, men dessa verktyg kan missa viktiga personliga detaljer och introducera partiskhet," sa docent Laranjo.

För patienter utlovar symtomkontroller och hälsoappar bekvämlighet och personlig vård, men deras noggrannhet varierar ofta och många saknar möjlighet till oberoende bedömning.

"Generativa modeller som ChatGPT kan låta övertygande, men är faktiskt felaktiga", säger docent Laranjo. "De håller ofta med användarna även när de har fel, vilket är farligt för patienter och utmanande för läkare."

Rättvisa och miljörisker med AI

Experter varnar för att även om AI utlovar snabbare diagnoser och personlig vård, kan det också fördjupa hälsoklyftor när fördomar smyger sig in. Till exempel feldiagnostiserar dermatologiska verktyg ofta mörkare hudtoner, som vanligtvis är underrepresenterade i träningsdatauppsättningar.

Omvänt säger forskare att när den är väl utformad kan AI ta itu med skillnader: En artritstudie fördubblade antalet svarta patienter som var berättigade till knäproteser genom att använda en algoritm som tränats på en mångsidig datauppsättning, vilket gör den bättre på att förutsäga patientrapporterad knäsmärta jämfört med vanliga röntgenavläsningar av läkare.

"Att ignorera socioekonomiska faktorer och universell design kan resultera i att AI i primärvården går från ett genombrott till ett bakslag", säger docent Laranjo.

Miljökostnaderna är också enorma. Utbildning GPT-3, versionen av ChatGPT som släpptes 2020, släppte ut mängder koldioxid motsvarande 188 flygningar mellan New York och San Francisco. Datacenter förbrukar nu cirka 1 procent av den globala elförbrukningen, och i Irland står datacenter för mer än 20 procent av den nationella elförbrukningen.

"AIs miljöavtryck är utmanande", säger docent Laranjo. "Vi behöver hållbara metoder som balanserar innovation med rättvisa och planetarisk hälsa."

Forskarna uppmanar regeringar, kliniker och teknikutvecklare att prioritera:

• robuste Bewertung und reale Überwachung von KI-Tools
• Regulierungsrahmen, die mit der Innovation Schritt halten
• Schulung von Ärzten und der Öffentlichkeit zur Verbesserung der KI-Kenntnisse
• Strategien zur Voreingenommenheitsminderung, um Gerechtigkeit in der Gesundheitsversorgung sicherzustellen
• nachhaltige Praktiken zur Reduzierung der Umweltauswirkungen von KI.

"AI erbjuder möjligheten att omforma primärvården, men innovation får inte ske på bekostnad av säkerhet eller rättvisa", säger docent Laranjo. "Vi behöver branschöverskridande partnerskap för att säkerställa att AI gynnar alla – inte bara de tekniskt kunniga eller välutrustade."

Källor: