Lægers evner til kritisk tænkning bliver kompromitteret af overdreven afhængighed af generativ AI

Lægers evner til kritisk tænkning bliver kompromitteret af overdreven afhængighed af generativ AI

Overdreven afhængighed af generativ AI risikerer at svække nye og fremtidige lægers kritiske tænkningsevner, mens den potentielt øger eksisterende databias og uligheder, advarer en redaktionel offentliggjort i onlinetidsskriftetBMJ Evidensbaseret medicin.

GenAI-værktøjer bliver allerede brugt bredt på trods af få institutionelle politikker og lovgivningsmæssig vejledning, understreger forfatterne, som opfordrer medicinske undervisere til at være årvågne og tilpasse læseplaner og træning for at afbøde teknologiens faldgruber.

Brugen af ​​kunstig intelligens bruges nu til en række forskellige opgaver, men efterhånden som dets potentiale vokser, øges risikoen for overdreven afhængighed af det og en lang række potentielle problemer for medicinstuderende og kommende læger, bemærker forfatterne fra University of Missouri, Columbia, USA.

Dette omfatter:

● Automatiseringsbias – ukritisk tillid til automatiseret information efter længere tids brug

● Kognitiv aflastning og outsourcing af hentning, evaluering og syntese af tankeændrende information til AI, og derved underminere kritisk tænkning og hukommelsesbevarelse

● Dekvalifikationsfærdigheder, som er særligt vigtige for medicinstuderende og nye læger, som er ved at lære denne færdighed i første omgang, og som mangler erfaringen til at udrede AI-rådgivning

● Forstærkning af eksisterende databias og uligheder

● Hallucinationer – flydende og plausibel, men unøjagtig information

● Brud på privatlivets fred, sikkerhed og datastyring – en særlig bekymring i betragtning af sundhedsdatas følsomme karakter

Forfatterne foreslår flere ændringer for at minimere disse risici, herunder klassificering af processen, ikke kun slutproduktet, i pædagogiske vurderinger, forudsat at eleverne har brugt AI.

Kritiske kompetencevurderinger, der udelukker AI, skal designes ved hjælp af overvågede stationer eller ansigt-til-ansigt undersøgelser - især vigtige for kommunikation ved sengekanten, fysisk undersøgelse, teamwork og professionel dømmekraft, foreslår forfatterne.

Og det kan være klogt at vurdere selve AI som en kompetence, fordi "datakompetence og undervisning i AI-design, udvikling og evaluering er nu vigtigere end nogensinde, og denne viden er ikke længere en luksus for medicinstuderende og praktikanter," tilføjer de.

Medicinske praktikanter skal forstå de principper og koncepter, der ligger til grund for AI's styrker og svagheder, samt hvor og hvordan AI-værktøjer meningsfuldt kan integreres i kliniske arbejdsgange og plejeforløb. Og praktikanter skal også vide, hvordan de vurderer deres tilsigtede præstationer og mulige skævheder over tid, understreger de.

“Der er især behov for forbedret undervisning i kritisk tænkning, hvilket kan opnås ved at skabe cases, hvor AI-resultaterne er en blanding af korrekte og bevidst forkerte svar. Eleverne ville derefter acceptere, ændre eller afvise deres beslutning og begrunde den med primære evidensbaserede kilder“, foreslår forfatterne.

Regulatorer, professionelle foreninger og uddannelsessammenslutninger rundt om i verden skal også gøre deres del ved at skabe og regelmæssigt opdatere retningslinjer for AIs indvirkning på medicinsk uddannelse, siger forfatterne.

De konkluderer: "Generativ AI har dokumenterede og velundersøgte fordele, men den er ikke uden faldgruber, især for medicinsk uddannelse og nybegyndere. Disse værktøjer kan fremstille kilder, indkode bias, føre til overmod og have negativ forstyrrende virkning på uddannelsesrejsen.

"Medicinske programmer skal være på vagt over for disse risici og tilpasse deres læseplaner og træningsprogrammer for at være på forkant med dem og reducere deres sandsynlighed."

Kilder: