Rýchle prijatie AI v primárnej starostlivosti vyvoláva obavy o bezpečnosť

Rýchle prijatie AI v primárnej starostlivosti vyvoláva obavy o bezpečnosť

Od digitálnych zapisovateľov po ChatGPT si umelá inteligencia (AI) rýchlo nachádza cestu do postupov primárnej starostlivosti. Nová štúdia z University of Sydney varuje, že technológia predbieha bezpečnostné kontroly a vystavuje pacientov a systémy zdravotnej starostlivosti riziku.

Štúdia publikovaná v rPrimárna starostlivosť Lancetzhrnul globálne poznatky o tom, ako sa AI používa v primárnej starostlivosti, pomocou údajov zo Spojených štátov, Spojeného kráľovstva, Austrálie, niekoľkých afrických krajín, Latinskej Ameriky, Írska a ďalších regiónov. Zistilo sa, že nástroje AI, ako sú ChatGPT, AI Scribes a aplikácie pre pacientov, sa čoraz častejšie používajú na klinické otázky, dokumentáciu a konzultácie s pacientmi, no väčšina z nich sa používa bez dôkladného hodnotenia alebo regulačného dohľadu.

Primárna starostlivosť je chrbtovou kosťou systémov zdravotnej starostlivosti, ktorá poskytuje dostupnú a nepretržitú starostlivosť. Umelá inteligencia môže zmierniť tlak na preťažené služby, ale bez záruk riskujeme neúmyselné dôsledky pre bezpečnosť pacientov a kvalitu starostlivosti.“

Docentka Liliana Laranjo, hlavná riešiteľka, Horizon Fellow vo Westmead Applied Research Center

Praktickí lekári a pacienti sa obracajú na AI, ale dôkazy zaostávajú

Primárna starostlivosť je pod tlakom na celom svete, od nedostatku pracovnej sily cez vyhorenie lekárov až po zvyšujúcu sa zložitosť poskytovania zdravotnej starostlivosti, ktorú ešte zhoršila pandémia COVID-19. AI sa ponúka ako riešenie s nástrojmi, ktoré šetria čas konsolidáciou konzultácií, automatizáciou správy a podporou rozhodovania.

V Spojenom kráľovstve jeden z piatich praktických lekárov uviedol, že v roku 2024 používa generatívnu AI v klinických postupoch. Z prehľadu sa však zistilo, že väčšina štúdií o AI v primárnej starostlivosti je založená skôr na simuláciách než na štúdiách v reálnom svete, čo ponecháva kritické medzery v účinnosti, bezpečnosti a rovnosti.

Počet praktických lekárov používajúcich generatívnu AI v Austrálii nie je spoľahlivo známy, ale odhaduje sa na 40 percent.

"AI je už na našich klinikách, ale bez austrálskych údajov o tom, koľko praktických lekárov ju používa, alebo bez riadneho dohľadu, sme slepí, pokiaľ ide o bezpečnosť," povedal docent Laranjo.

Zatiaľ čo umelá inteligencia a technológie okolitého počúvania môžu znížiť kognitívnu záťaž a zlepšiť spokojnosť praktických lekárov s prácou, predstavujú aj riziká, ako je zaujatosť automatizácie a strata dôležitých sociálnych alebo biografických údajov v lekárskych záznamoch.

"Naša štúdia zistila, že mnohí praktickí lekári, ktorí používajú umelú inteligenciu, sa nechcú vrátiť k písaniu. Tvrdia, že to urýchľuje konzultácie a umožňuje im sústrediť sa na pacientov, ale tieto nástroje môžu prehliadnuť dôležité osobné údaje a spôsobiť zaujatosť," povedal docent Laranjo.

Pre pacientov sľubujú kontroléry symptómov a zdravotné aplikácie pohodlie a personalizovanú starostlivosť, ale ich presnosť sa často líši a mnohým chýba príležitosť na nezávislé posúdenie.

"Generatívne modely ako ChatGPT môžu znieť presvedčivo, ale sú fakticky nesprávne," povedal docent Laranjo. "Často súhlasia s používateľmi, aj keď sa mýlia, čo je nebezpečné pre pacientov a náročné pre lekárov."

Spravodlivé a environmentálne riziká AI

Odborníci varujú, že hoci umelá inteligencia sľubuje rýchlejšie diagnostiky a personalizovanú starostlivosť, môže tiež prehĺbiť zdravotné rozdiely, keď sa vkráda zaujatosť. Dermatologické nástroje napríklad často nesprávne diagnostikujú tmavšie tóny pleti, ktoré sú v tréningových súboroch zvyčajne nedostatočne zastúpené.

Naopak, výskumníci tvrdia, že ak je umelá inteligencia dobre navrhnutá, môže riešiť rozdiely: Štúdia artritídy zdvojnásobila počet čiernych pacientov vhodných na náhradu kolena pomocou algoritmu trénovaného na rôznych súboroch údajov, vďaka čomu je lepšia pri predpovedaní bolesti kolena hlásenej pacientmi v porovnaní so štandardnými röntgenovými údajmi lekárov.

„Ignorovanie sociálno-ekonomických faktorov a univerzálneho dizajnu môže viesť k tomu, že AI v primárnej starostlivosti prejde od prelomu k neúspechu,“ povedal docent Laranjo.

Enormné sú aj environmentálne náklady. Tréningový GPT-3, verzia ChatGPT vydaná v roku 2020, vyprodukovala množstvo oxidu uhličitého ekvivalentné 188 letom medzi New Yorkom a San Franciscom. Dátové centrá v súčasnosti spotrebúvajú približne 1 percento celosvetovej spotreby elektrickej energie a v Írsku sú dátové centrá zodpovedné za viac ako 20 percent národnej spotreby elektrickej energie.

„Environmentálna stopa AI je náročná,“ povedal docent Laranjo. "Potrebujeme udržateľné prístupy, ktoré vyvažujú inovácie s rovnosťou a zdravím planéty."

Výskumníci naliehajú na vlády, lekárov a vývojárov technológií, aby uprednostňovali:

• robuste Bewertung und reale Überwachung von KI-Tools
• Regulierungsrahmen, die mit der Innovation Schritt halten
• Schulung von Ärzten und der Öffentlichkeit zur Verbesserung der KI-Kenntnisse
• Strategien zur Voreingenommenheitsminderung, um Gerechtigkeit in der Gesundheitsversorgung sicherzustellen
• nachhaltige Praktiken zur Reduzierung der Umweltauswirkungen von KI.

„AI ponúka príležitosť na pretvorenie primárnej starostlivosti, ale inovácie nesmú byť na úkor bezpečnosti alebo spravodlivosti,“ povedal docent Laranjo. „Potrebujeme medziodvetvové partnerstvá, aby sme zabezpečili, že AI bude prínosom pre každého – nielen pre technicky zdatných alebo dobre vybavených.“

Zdroje: