Greitas AI įsisavinimas pirminėje sveikatos priežiūros srityje kelia susirūpinimą dėl saugumo

Greitas AI įsisavinimas pirminėje sveikatos priežiūros srityje kelia susirūpinimą dėl saugumo

Nuo skaitmeninių raštininkų iki ChatGPT – dirbtinis intelektas (AI) greitai patenka į pirminės sveikatos priežiūros praktiką. Naujas Sidnėjaus universiteto tyrimas įspėja, kad ši technologija žengia prieš saugumo kontrolę ir kelia pavojų pacientams bei sveikatos priežiūros sistemoms.

Tyrimas, paskelbtas m„Lancet“ pirminė priežiūraapibendrino pasaulines įžvalgas apie tai, kaip AI naudojamas pirminėje sveikatos priežiūros srityje, naudojant duomenis iš JAV, Jungtinės Karalystės, Australijos, kelių Afrikos šalių, Lotynų Amerikos, Airijos ir kitų regionų. Nustatyta, kad dirbtinio intelekto įrankiai, tokie kaip „ChatGPT“, „AI Scribes“ ir pacientams skirtos programėlės, vis dažniau naudojamos klinikinėms užklausoms, dokumentacijai ir pacientų konsultacijoms, tačiau dauguma jų naudojami neatlikus išsamaus įvertinimo ar reguliavimo priežiūros.

Pirminė sveikatos priežiūra yra sveikatos priežiūros sistemų pagrindas, teikiantis prieinamą ir nuolatinę priežiūrą. AI gali sumažinti spaudimą per daug apkrautoms paslaugoms, tačiau be apsaugos priemonių rizikuojame nenumatytų pasekmių pacientų saugai ir priežiūros kokybei.

Docentė Liliana Laranjo, Vestmedo taikomųjų tyrimų centro vyriausioji tyrėja, horizonto bendradarbė

Šeimos gydytojai ir pacientai kreipiasi į AI, tačiau įrodymai vėluoja

Pirminė sveikatos priežiūra patiria spaudimą visame pasaulyje: nuo darbo jėgos trūkumo iki gydytojų perdegimo iki vis sudėtingėjančio sveikatos priežiūros paslaugų teikimo, kurį dar labiau pablogino COVID-19 pandemija. Dirbtinis intelektas reklamuojamas kaip sprendimas su įrankiais, kurie taupo laiką konsoliduojant konsultacijas, automatizuojant administravimą ir padedant priimti sprendimus.

Jungtinėje Karalystėje vienas iš penkių bendrosios praktikos gydytojų pranešė, kad 2024 m. klinikinėje praktikoje naudojo generatyvųjį dirbtinį intelektą. Tačiau apžvalgoje nustatyta, kad dauguma pirminės sveikatos priežiūros AI tyrimų yra pagrįsti modeliavimu, o ne realaus pasaulio tyrimais, todėl veiksmingumo, saugumo ir teisingumo spragas yra esminės.

Bendrosios praktikos gydytojų, naudojančių generatyvųjį dirbtinį intelektą, skaičius Australijoje nėra patikimai žinomas, tačiau manoma, kad 40 proc.

„AI jau yra mūsų klinikose, bet neturėdami Australijos duomenų apie tai, kiek bendrosios praktikos gydytojų juo naudojasi, ar tinkamos priežiūros, kai kalbame apie saugumą, skrendame akli“, – sakė docentas Laranjo.

Nors dirbtinio intelekto raštininkai ir aplinkos klausymo technologijos gali sumažinti kognityvinį krūvį ir pagerinti šeimos gydytojų pasitenkinimą darbu, jie taip pat kelia pavojų, pvz., automatizavimo šališkumą ir svarbių socialinių ar biografinių duomenų praradimą medicininiuose įrašuose.

"Mūsų tyrimas parodė, kad daugelis bendrosios praktikos gydytojų, kurie naudoja dirbtinio intelekto raštininkus, nenori grįžti prie spausdinimo. Jie sako, kad tai pagreitina konsultacijas ir leidžia jiems sutelkti dėmesį į pacientus, tačiau šie įrankiai gali praleisti svarbias asmenines detales ir sukelti šališkumą", - sakė docentas Laranjo.

Pacientams simptomų tikrinimo priemonės ir sveikatos programėlės žada patogumą ir asmeninę priežiūrą, tačiau jų tikslumas dažnai skiriasi ir daugeliui trūksta galimybės atlikti nepriklausomą įvertinimą.

„Generatyvieji modeliai, tokie kaip ChatGPT, gali skambėti įtikinamai, bet iš tikrųjų yra neteisingi“, – sakė docentas Laranjo. „Jie dažnai sutinka su vartotojais, net kai jie klysta, o tai pavojinga pacientams ir sudėtinga gydytojams.

DI rizika teisingumui ir aplinkai

Ekspertai perspėja, kad nors dirbtinis intelektas žada greitesnes diagnozes ir individualizuotą priežiūrą, jis taip pat gali pagilinti sveikatos spragas, kai įsivyrauja šališkumas. Pavyzdžiui, dermatologijos įrankiai dažnai klaidingai diagnozuoja tamsesnius odos tonus, kurie mokymo duomenų rinkiniuose paprastai nepakankamai vaizduojami.

Ir atvirkščiai, mokslininkai teigia, kad gerai suplanuotas dirbtinis intelektas gali pašalinti skirtumus: Artrito tyrimas padvigubino juodaodžių pacientų, kuriems gali būti atlikta kelio sąnario keitimas, skaičių, naudojant algoritmą, parengtą remiantis įvairiais duomenų rinkiniais, todėl jis geriau prognozuoja pacientų praneštą kelio skausmą, palyginti su standartiniais gydytojų rentgeno rodmenimis.

„Nepaisant socialinių ir ekonominių veiksnių ir universalaus dizaino, dirbtinis intelektas pirminėje sveikatos priežiūros srityje gali virsti nuo proveržio iki nesėkmės“, – sakė docentas Laranjo.

Aplinkos išlaidos taip pat yra didžiulės. Mokomoji GPT-3, 2020 m. išleista ChatGPT versija, išmetė anglies dvideginio kiekį, atitinkantį 188 skrydžius tarp Niujorko ir San Francisko. Dabar duomenų centrai suvartoja apie 1 procentą viso pasaulio elektros suvartojimo, o Airijoje duomenų centrai yra atsakingi už daugiau nei 20 procentų šalies suvartojamos elektros energijos.

„AI aplinkosauginis pėdsakas yra sudėtingas“, - sakė docentas Laranjo. „Mums reikia tvarių metodų, kurie subalansuotų naujoves su teisingumu ir planetos sveikata.

Tyrėjai ragina vyriausybes, gydytojus ir technologijų kūrėjus teikti pirmenybę:

• robuste Bewertung und reale Überwachung von KI-Tools
• Regulierungsrahmen, die mit der Innovation Schritt halten
• Schulung von Ärzten und der Öffentlichkeit zur Verbesserung der KI-Kenntnisse
• Strategien zur Voreingenommenheitsminderung, um Gerechtigkeit in der Gesundheitsversorgung sicherzustellen
• nachhaltige Praktiken zur Reduzierung der Umweltauswirkungen von KI.

„AI suteikia galimybę pertvarkyti pirminę sveikatos priežiūrą, tačiau naujovės neturi būti saugumo ar teisingumo sąskaita“, – sakė docentas Laranjo. „Mums reikia įvairių pramonės šakų partnerystės, kad AI būtų naudinga visiems – ne tik išmanantiems technologijas ar gerai aprūpintam.

Šaltiniai: