De snelle adoptie van AI in de eerstelijnszorg leidt tot bezorgdheid over de veiligheid

De snelle adoptie van AI in de eerstelijnszorg leidt tot bezorgdheid over de veiligheid

Van digitale schrijvers tot ChatGPT, kunstmatige intelligentie (AI) vindt snel zijn weg naar de eerstelijnszorgpraktijken. Een nieuwe studie van de Universiteit van Sydney waarschuwt dat de technologie de veiligheidscontroles voorloopt en patiënten en gezondheidszorgsystemen in gevaar brengt.

De studie, gepubliceerd inDe Lancet Eerstelijnszorgsamengevatte mondiale inzichten in hoe AI wordt gebruikt in de eerstelijnszorg met behulp van gegevens uit de Verenigde Staten, het Verenigd Koninkrijk, Australië, verschillende Afrikaanse landen, Latijns-Amerika, Ierland en andere regio’s. Hieruit bleek dat AI-tools zoals ChatGPT, AI Scribes en patiëntgerichte apps steeds vaker worden gebruikt voor klinische vragen, documentatie en patiëntconsultatie, maar de meeste worden gebruikt zonder grondige evaluatie of toezicht van de toezichthouder.

Eerstelijnszorg is de ruggengraat van gezondheidszorgsystemen en biedt toegankelijke en continue zorg. AI kan de druk op overbelaste diensten verlichten, maar zonder waarborgen riskeren we onbedoelde gevolgen voor de patiëntveiligheid en de kwaliteit van de zorg.”

Universitair hoofddocent Liliana Laranjo, hoofdonderzoeker, Horizon Fellow bij het Westmead Applied Research Center

Huisartsen en patiënten wenden zich tot AI, maar het bewijsmateriaal blijft achter

De eerstelijnszorg staat wereldwijd onder druk, van een tekort aan arbeidskrachten tot een burn-out bij artsen en de toenemende complexiteit van de gezondheidszorg, die nog wordt verergerd door de COVID-19-pandemie. AI wordt aangeprezen als oplossing, met tools die tijd besparen door overleg te consolideren, administratie te automatiseren en besluitvorming te ondersteunen.

In Groot-Brittannië rapporteerde één op de vijf huisartsen in 2024 het gebruik van generatieve AI in klinische praktijken. Uit het onderzoek bleek echter dat de meeste onderzoeken naar AI in de eerstelijnszorg gebaseerd zijn op simulaties in plaats van op praktijkstudies, waardoor er kritische hiaten ontstaan ​​op het gebied van effectiviteit, veiligheid en gelijkheid.

Het aantal huisartsen dat generatieve AI gebruikt in Australië is niet op betrouwbare wijze bekend, maar wordt geschat op 40 procent.

“AI is al in onze klinieken aanwezig, maar zonder Australische gegevens over hoeveel huisartsen het gebruiken, of zonder goed toezicht, vliegen we blind als het om veiligheid gaat”, zei universitair hoofddocent Laranjo.

Hoewel AI-schrijvers en omgevingsluistertechnologieën de cognitieve belasting kunnen verminderen en de werktevredenheid van huisartsen kunnen verbeteren, brengen ze ook risico's met zich mee, zoals automatiseringsvooroordelen en het verlies van belangrijke sociale of biografische details in medische dossiers.

"Uit ons onderzoek is gebleken dat veel huisartsen die AI-schrijvers gebruiken, niet meer willen typen. Ze zeggen dat het consultaties versnelt en hen in staat stelt zich op patiënten te concentreren, maar deze hulpmiddelen kunnen belangrijke persoonlijke details missen en vooringenomenheid introduceren", zei universitair hoofddocent Laranjo.

Voor patiënten beloven symptoomcheckers en gezondheidsapps gemak en gepersonaliseerde zorg, maar hun nauwkeurigheid varieert vaak en velen missen de mogelijkheid voor onafhankelijke beoordeling.

“Generatieve modellen zoals ChatGPT kunnen overtuigend klinken, maar zijn feitelijk onjuist”, zegt universitair hoofddocent Laranjo. “Ze zijn het vaak eens met gebruikers, zelfs als ze ongelijk hebben, wat gevaarlijk is voor patiënten en een uitdaging voor artsen.”

Justitie en milieurisico's van AI

Deskundigen waarschuwen dat hoewel AI snellere diagnoses en gepersonaliseerde zorg belooft, het ook de gezondheidskloof kan vergroten naarmate er vooroordelen binnensluipen. Dermatologische hulpmiddelen stellen bijvoorbeeld vaak een verkeerde diagnose van donkere huidtinten, die doorgaans ondervertegenwoordigd zijn in trainingsdatasets.

Omgekeerd zeggen onderzoekers dat AI, als het goed is ontworpen, verschillen kan aanpakken: een onderzoek naar artritis verdubbelde het aantal zwarte patiënten dat in aanmerking kwam voor knievervangingen door een algoritme te gebruiken dat was getraind op een diverse dataset, waardoor het beter werd in het voorspellen van door de patiënt gerapporteerde kniepijn in vergelijking met standaard röntgenfoto's door artsen.

“Het negeren van sociaal-economische factoren en universeel ontwerp zou ertoe kunnen leiden dat AI in de eerstelijnszorg van een doorbraak in een tegenslag verandert”, zegt universitair hoofddocent Laranjo.

Ook de milieukosten zijn enorm. Het trainen van GPT-3, de versie van ChatGPT die in 2020 werd uitgebracht, stootte hoeveelheden kooldioxide uit die overeenkomen met 188 vluchten tussen New York en San Francisco. Datacenters verbruiken nu ongeveer 1 procent van het mondiale elektriciteitsverbruik, en in Ierland zijn datacenters verantwoordelijk voor ruim 20 procent van het nationale elektriciteitsverbruik.

“De ecologische voetafdruk van AI is een uitdaging”, zegt universitair hoofddocent Laranjo. “We hebben duurzame benaderingen nodig die innovatie in evenwicht brengen met gelijkheid en planetaire gezondheid.”

De onderzoekers dringen er bij overheden, artsen en technologieontwikkelaars op aan om prioriteit te geven aan:

• robuste Bewertung und reale Überwachung von KI-Tools
• Regulierungsrahmen, die mit der Innovation Schritt halten
• Schulung von Ärzten und der Öffentlichkeit zur Verbesserung der KI-Kenntnisse
• Strategien zur Voreingenommenheitsminderung, um Gerechtigkeit in der Gesundheitsversorgung sicherzustellen
• nachhaltige Praktiken zur Reduzierung der Umweltauswirkungen von KI.

“AI biedt de mogelijkheid om de eerstelijnszorg opnieuw vorm te geven, maar innovatie mag niet ten koste gaan van de veiligheid of gelijkheid”, zegt universitair hoofddocent Laranjo. “We hebben sectoroverschrijdende partnerschappen nodig om ervoor te zorgen dat AI iedereen ten goede komt – en niet alleen de technisch onderlegde of goed uitgeruste mensen.”

Bronnen: