Уменията за критично мислене на лекарите са компрометирани от прекомерното разчитане на генеративния ИИ

Уменията за критично мислене на лекарите са компрометирани от прекомерното разчитане на генеративния ИИ

Прекаленото разчитане на генеративния AI рискува да отслаби уменията за критично мислене на новите и бъдещите лекари, като същевременно потенциално увеличава съществуващите пристрастия и неравенства в данните, предупреждава редакционна статия, публикувана в онлайн списаниетоBMJ Медицина, основана на доказателства.

Инструментите на GenAI вече се използват широко въпреки малкото институционални политики и регулаторни насоки, подчертават авторите, които призовават медицинските преподаватели да бъдат бдителни и да адаптират учебните програми и обучението, за да смекчат капаните на технологията.

Използването на AI сега се използва в различни задачи, но с нарастването на потенциала му нараства и рискът от прекомерно разчитане на него и множество потенциални проблеми за студентите по медицина и амбициозните лекари, отбелязват авторите от Университета на Мисури, Колумбия, САЩ.

Това включва:

● Пристрастие към автоматизацията – безкритично доверие в автоматизираната информация след продължителна употреба

● Когнитивно разтоварване и възлагане на извличане, оценка и синтез на информация, променяща мисълта, към AI, като по този начин подкопава критичното мислене и задържането на паметта

● Умения за деквалификация, които са особено важни за студенти по медицина и нови лекари, които учат това умение на първо място и на които им липсва опит, за да проверят съветите на AI

● Засилване на съществуващите пристрастия и неравенства в данните

● Халюцинации – течна и правдоподобна, но неточна информация

● Нарушения на поверителността, сигурността и управлението на данни – особено безпокойство предвид чувствителния характер на здравните данни

Авторите предлагат няколко промени за минимизиране на тези рискове, включително оценяване на процеса, а не само на крайния продукт, в образователните оценки, като се предполага, че учащите са използвали AI.

Оценките на критичната компетентност, които изключват ИИ, трябва да бъдат проектирани с помощта на контролирани станции или прегледи лице в лице - особено важно за комуникация до леглото, физически преглед, работа в екип и професионална преценка, предполагат авторите.

И може би е разумно да оценим самия AI като компетентност, защото „грамотността с данните и преподаването на дизайн, разработване и оценка на AI сега са по-важни от всякога и това знание вече не е лукс за студентите по медицина и стажантите“, добавят те.

Медицинските стажанти трябва да разбират принципите и концепциите, които са в основата на силните и слабите страни на AI, както и къде и как инструментите на AI могат да бъдат смислено интегрирани в клиничните работни потоци и пътеките за грижа. И обучаемите също трябва да знаят как да оценят планираното си представяне и възможните отклонения във времето, подчертават те.

“По-специално, необходимо е подобрено преподаване на критично мислене, което може да се постигне чрез създаване на случаи, при които резултатите от AI са комбинация от правилни и умишлено неправилни отговори. След това обучаемите ще приемат, променят или отхвърлят своето решение и ще го обосноват с първични източници, базирани на доказателства“, предлагат авторите.

Регулаторите, професионалните общества и образователните асоциации по света също трябва да изпълнят своята роля, като създадат и редовно актуализират насоки за въздействието на ИИ върху медицинското образование, казват авторите.

Те заключават: „Generative AI има документирани и добре проучени ползи, но не е лишен от своите капани, особено за медицинско обучение и начинаещи потребители. Тези инструменти могат да измислят източници, да кодират пристрастия, да доведат до прекомерна самоувереност и да имат отрицателно разрушително въздействие върху образователното пътуване.

„Медицинските програми трябва да бъдат бдителни за тези рискове и да адаптират своите учебни програми и програми за обучение, за да ги изпреварят и да намалят вероятността от тях.”

източници: