Läkares färdigheter i kritiskt tänkande äventyras av överdriven tillit till generativ AI

Läkares färdigheter i kritiskt tänkande äventyras av överdriven tillit till generativ AI

Övertilltro till generativ AI riskerar att försvaga kritiskt tänkande hos nya och framtida läkare samtidigt som de potentiellt ökar befintliga databiaser och ojämlikheter, varnar en ledare publicerad i onlinetidskriftenBMJ Evidensbaserad medicin.

GenAI-verktyg används redan i stor utsträckning trots få institutionella policyer och reglerande vägledning, betonar författarna, som uppmanar medicinska utbildare att vara vaksamma och anpassa läroplaner och utbildning för att mildra teknikens fallgropar.

Användningen av AI används nu i en mängd olika uppgifter, men i takt med att dess potential växer ökar också risken för överlitande av det och en mängd potentiella problem för läkarstudenter och blivande läkare, noterar författarna från University of Missouri, Columbia, USA.

Detta inkluderar:

● Automationsbias – okritisk tillit till automatiserad information efter långvarig användning

● Kognitiv avlastning och outsourcing av hämtning, utvärdering och syntes av tankeförändrande information till AI, vilket undergräver kritiskt tänkande och minnesbevarande

● Avskaffande färdigheter, vilket är särskilt viktigt för läkarstudenter och nya läkare som lär sig denna färdighet i första hand och som saknar erfarenhet att veterinära AI-rådgivning

● Förstärka befintliga databiaser och ojämlikheter

● Hallucinationer – flytande och rimlig men felaktig information

● Brott mot integritet, säkerhet och datahantering – ett särskilt problem med tanke på vårddatas känsliga natur

Författarna föreslår flera förändringar för att minimera dessa risker, inklusive att betygsätta processen, inte bara slutprodukten, i utbildningsbedömningar, förutsatt att eleverna har använt AI.

Kritiska kompetensbedömningar som utesluter AI måste utformas med hjälp av övervakade stationer eller undersökningar ansikte mot ansikte - särskilt viktigt för kommunikation vid sängen, fysisk undersökning, lagarbete och professionellt omdöme, föreslår författarna.

Och det kan vara klokt att bedöma AI själv som en kompetens, eftersom "datakompetens och undervisning i AI-design, utveckling och utvärdering är nu viktigare än någonsin, och denna kunskap är inte längre en lyx för läkarstudenter och praktikanter", tillägger de.

Medicinska praktikanter måste förstå de principer och koncept som ligger bakom AI:s styrkor och svagheter, samt var och hur AI-verktyg kan integreras på ett meningsfullt sätt i kliniska arbetsflöden och vårdvägar. Och praktikanter måste också veta hur de ska utvärdera sin avsedda prestation och eventuella fördomar över tid, betonar de.

"I synnerhet behövs förbättrad undervisning i kritiskt tänkande, vilket kan uppnås genom att skapa fall där AI-resultaten är en blandning av korrekta och avsiktligt felaktiga svar. Eleverna skulle sedan acceptera, ändra eller förkasta sitt beslut och motivera det med primära evidensbaserade källor“, föreslår författarna.

Tillsynsmyndigheter, professionella föreningar och utbildningsföreningar runt om i världen måste också göra sin del genom att skapa och regelbundet uppdatera riktlinjer om AIs inverkan på medicinsk utbildning, säger författarna.

De avslutar: "Generativ AI har dokumenterade och väl undersökta fördelar, men det är inte utan sina fallgropar, särskilt för medicinsk utbildning och nybörjare. Dessa verktyg kan tillverka källor, koda för partiskhet, leda till övertro och ha negativa störande effekter på utbildningsresan.

"Medicinska program måste vara vaksamma på dessa risker och anpassa sina kursplaner och utbildningsprogram för att ligga före dem och minska deras sannolikhet.”

Källor: