Бързото приемане на AI в първичната медицинска помощ поражда опасения за безопасността

Бързото приемане на AI в първичната медицинска помощ поражда опасения за безопасността

От цифрови писари до ChatGPT, изкуственият интелект (AI) бързо намира пътя си в практиките за първична медицинска помощ. Ново проучване от университета в Сидни предупреждава, че технологията изпреварва контрола за сигурност и излага на риск пациентите и здравните системи.

Проучването, публикувано вПървичната грижа на Lancetобобщени глобални прозрения за това как AI се използва в първичната медицинска помощ, използвайки данни от Съединените щати, Обединеното кралство, Австралия, няколко африкански държави, Латинска Америка, Ирландия и други региони. Установено е, че AI инструменти като ChatGPT, AI Scribes и приложения за пациенти се използват все повече за клинични запитвания, документация и консултации с пациенти, но повечето се използват без задълбочена оценка или регулаторен надзор.

Първичната медицинска помощ е гръбнакът на здравните системи, осигуряващ достъпна и непрекъсната грижа. AI може да облекчи натиска върху пренапрегнатите услуги, но без предпазни мерки рискуваме непредвидени последици за безопасността на пациентите и качеството на грижите.“

Доцент Лилиана Ларанхо, главен изследовател, сътрудник на Horizon в Westmead Applied Research Center

Личните лекари и пациентите се обръщат към ИИ, но доказателствата изостават

Първичната медицинска помощ е подложена на натиск в световен мащаб, от недостиг на работна сила до прегаряне на лекари до нарастваща сложност на предоставянето на здравни грижи, изострено от пандемията от COVID-19. AI се рекламира като решение с инструменти, които спестяват време чрез консолидиране на консултации, автоматизиране на администрирането и подпомагане на вземането на решения.

В Обединеното кралство един на всеки пет общопрактикуващи лекари съобщава за използване на генеративен AI в клиничните практики през 2024 г. Прегледът обаче установи, че повечето проучвания на AI в първичната медицинска помощ се основават на симулации, а не на проучвания в реалния свят, оставяйки критични пропуски в ефективността, безопасността и справедливостта.

Броят на личните лекари, използващи генеративен AI в Австралия, не е надеждно известен, но се оценява на 40 процента.

„Изкуственият интелект вече е в нашите клиники, но без австралийски данни за това колко общопрактикуващи лекари го използват или без подходящ надзор, ние сме на сляпо, когато става дума за безопасност“, каза доцент Ларанхо.

Въпреки че писарите с изкуствен интелект и технологиите за слушане на околната среда могат да намалят когнитивното натоварване и да подобрят удовлетвореността от работата на общопрактикуващите лекари, те също така създават рискове като пристрастия към автоматизацията и загуба на важни социални или биографични подробности в медицинските досиета.

„Нашето проучване установи, че много общопрактикуващи лекари, които използват писачи с изкуствен интелект, не искат да се връщат към писане. Те казват, че това ускорява консултациите и им позволява да се съсредоточат върху пациентите, но тези инструменти могат да пропуснат важни лични данни и да внесат пристрастия“, каза доцент Ларанхо.

За пациентите проверките на симптомите и здравните приложения обещават удобство и персонализирана грижа, но точността им често варира и много от тях нямат възможност за независима оценка.

„Генеративните модели като ChatGPT могат да звучат убедително, но са фактически неправилни“, каза доцент Ларанхо. „Те често се съгласяват с потребителите, дори когато грешат, което е опасно за пациентите и предизвикателство за лекарите.“

Правосъдие и рискове за околната среда на AI

Експертите предупреждават, че докато изкуственият интелект обещава по-бързи диагнози и персонализирана грижа, той може също така да задълбочи пропуските в здравето, тъй като пристрастията се прокрадват. Например, дерматологичните инструменти често диагностицират погрешно по-тъмните тонове на кожата, които обикновено са недостатъчно представени в наборите от данни за обучение.

Обратно, изследователите казват, че когато е проектиран добре, изкуственият интелект може да се справи с несъответствията: Проучване за артрит удвои броя на чернокожите пациенти, отговарящи на условията за протезиране на коляно, чрез използване на алгоритъм, обучен върху разнообразен набор от данни, което го прави по-добър при прогнозиране на болка в коляното, съобщавана от пациенти, в сравнение със стандартните рентгенови показания от лекари.

„Пренебрегването на социално-икономическите фактори и универсалния дизайн може да доведе до това ИИ в първичната медицинска помощ да премине от пробив към неуспех“, каза доцент Ларанхо.

Разходите за околната среда също са огромни. Обучение GPT-3, версията на ChatGPT, пусната през 2020 г., емитира количества въглероден диоксид, еквивалентни на 188 полета между Ню Йорк и Сан Франциско. Сега центровете за данни консумират около 1% от световното потребление на електроенергия, а в Ирландия центровете за данни са отговорни за повече от 20% от националното потребление на електроенергия.

„Екологичният отпечатък на AI е предизвикателство“, каза доцент Ларанхо. „Нуждаем се от устойчиви подходи, които балансират иновациите със справедливостта и здравето на планетата.“

Изследователите призовават правителствата, клиницистите и разработчиците на технологии да дадат приоритет на:

• robuste Bewertung und reale Überwachung von KI-Tools
• Regulierungsrahmen, die mit der Innovation Schritt halten
• Schulung von Ärzten und der Öffentlichkeit zur Verbesserung der KI-Kenntnisse
• Strategien zur Voreingenommenheitsminderung, um Gerechtigkeit in der Gesundheitsversorgung sicherzustellen
• nachhaltige Praktiken zur Reduzierung der Umweltauswirkungen von KI.

„ИИ предлага възможност за прекрояване на първичната медицинска помощ, но иновациите не трябва да идват за сметка на безопасността или справедливостта“, каза доцент Ларанхо. „Нуждаем се от междуиндустриални партньорства, за да гарантираме, че AI е от полза за всички – не само за технически разбиращите или добре оборудваните.“

източници: