Schopnosti kritického myšlení lékařů jsou ohroženy přílišným spoléháním se na generativní umělou inteligenci

Schopnosti kritického myšlení lékařů jsou ohroženy přílišným spoléháním se na generativní umělou inteligenci

Přílišné spoléhání na generativní umělou inteligenci riskuje oslabení schopnosti kritického myšlení nových a budoucích lékařů a zároveň potenciálně zvyšuje stávající zkreslení a nerovnosti dat, varuje úvodník publikovaný v online časopise.BMJ Medicína založená na důkazech.

Nástroje GenAI jsou již široce používány navzdory několika institucionálním politikám a regulačním pokynům, zdůrazňují autoři, kteří nabádají učitele medicíny, aby byli ostražití a přizpůsobili osnovy a školení tak, aby zmírnili úskalí technologie.

Využití umělé inteligence se nyní používá v řadě různých úkolů, ale jak roste její potenciál, roste i riziko nadměrného spoléhání se na ni a řada potenciálních problémů pro studenty medicíny a začínající lékaře, poznamenávají autoři z University of Missouri, Kolumbie, USA.

To zahrnuje:

● Automatizační zkreslení – nekritická důvěra v automatizované informace po delším používání

● Kognitivní odlehčení a outsourcing získávání, vyhodnocování a syntézy informací měnících myšlení do AI, čímž se podkopává kritické myšlení a uchovávání paměti

● Deskilling dovednosti, které jsou zvláště důležité pro studenty medicíny a nové lékaře, kteří se tuto dovednost učí především a kteří nemají zkušenosti s poradenstvím ohledně umělé inteligence

● Posílení stávajících datových zkreslení a nerovností

● Halucinace – tekuté a věrohodné, ale nepřesné informace

● Porušení soukromí, zabezpečení a správy dat – zvláštní problém vzhledem k citlivé povaze zdravotních údajů

Autoři navrhují několik změn k minimalizaci těchto rizik, včetně hodnocení procesu, nejen konečného produktu, ve vzdělávacích hodnoceních, za předpokladu, že studenti používali AI.

Hodnocení kritické kompetence, které vylučuje AI, musí být navrženo pomocí hlídaných stanic nebo osobních vyšetření – zvláště důležité pro komunikaci u lůžka, fyzikální vyšetření, týmovou práci a profesionální úsudek, navrhují autoři.

A možná by bylo moudré hodnotit AI samotnou jako kompetenci, protože „datová gramotnost a výuka návrhu, vývoje a hodnocení umělé inteligence jsou nyní důležitější než kdy jindy a tyto znalosti již nejsou luxusem pro studenty a praktikanty medicíny,“ dodávají.

Medicínští studenti musí rozumět principům a konceptům, které jsou základem silných a slabých stránek umělé inteligence, a také toho, kde a jak lze nástroje umělé inteligence smysluplně integrovat do klinických pracovních postupů a cest péče. A účastníci školení také potřebují vědět, jak hodnotit svůj zamýšlený výkon a možné zkreslení v průběhu času, zdůrazňují.

“Zejména je potřeba zlepšit výuku kritického myšlení, čehož lze dosáhnout vytvořením případů, kdy jsou výsledky AI kombinací správných a záměrně nesprávných odpovědí. Studenti by pak přijali, změnili nebo odmítli své rozhodnutí a odůvodnili je primárními zdroji založenými na důkazech“, navrhují autoři.

Regulátoři, profesní společnosti a vzdělávací asociace po celém světě musí také přispět k vytvoření a pravidelné aktualizaci pokynů o dopadu umělé inteligence na lékařské vzdělávání, říkají autoři.

Docházejí k závěru: „Generativní umělá inteligence má zdokumentované a dobře prozkoumané výhody, ale není bez úskalí, zejména pro lékařská školení a začínající uživatele. Tyto nástroje mohou vytvářet zdroje, kódovat zkreslení, vést k nadměrné sebedůvěře a mít negativní rušivé účinky na vzdělávací cestu.

„Lékařské programy musí být obezřetné vůči těmto rizikům a přizpůsobit své učební osnovy a školicí programy tak, aby je předstihly a snížily jejich pravděpodobnost..“

Zdroje: