Hitro sprejemanje umetne inteligence v primarni oskrbi vzbuja pomisleke glede varnosti

Hitro sprejemanje umetne inteligence v primarni oskrbi vzbuja pomisleke glede varnosti

Od digitalnih pisarjev do ChatGPT, umetna inteligenca (AI) hitro najde pot v prakse primarne oskrbe. Nova študija Univerze v Sydneyju opozarja, da tehnologija prehiteva varnostni nadzor in ogroža bolnike in zdravstvene sisteme.

Študija, objavljena vLancet Primary Carepovzel globalne vpoglede v to, kako se umetna inteligenca uporablja v primarni oskrbi z uporabo podatkov iz Združenih držav, Združenega kraljestva, Avstralije, več afriških držav, Latinske Amerike, Irske in drugih regij. Ugotovilo je, da se orodja umetne inteligence, kot so ChatGPT, AI Scribes in aplikacije za paciente, vse bolj uporabljajo za klinične poizvedbe, dokumentacijo in posvetovanje z pacienti, vendar se jih večina uporablja brez temeljite ocene ali regulativnega nadzora.

Primarna oskrba je hrbtenica zdravstvenih sistemov, ki zagotavlja dostopno in neprekinjeno oskrbo. Umetna inteligenca lahko zmanjša pritisk na preobremenjene storitve, vendar brez zaščitnih ukrepov tvegamo nenamerne posledice za varnost pacientov in kakovost oskrbe.«

Izredna profesorica Liliana Laranjo, glavna raziskovalka, Horizon Fellow pri Westmead Applied Research Center

Splošni zdravniki in bolniki se obračajo na umetno inteligenco, vendar dokazi zaostajajo

Primarna zdravstvena oskrba je po vsem svetu pod pritiskom, od pomanjkanja delovne sile do izgorelosti zdravnikov do vse večje kompleksnosti zagotavljanja zdravstvene oskrbe, ki jo je še poslabšala pandemija COVID-19. AI se oglašuje kot rešitev z orodji, ki prihranijo čas s konsolidacijo posvetovanj, avtomatizacijo administracije in podporo pri odločanju.

V Združenem kraljestvu je eden od petih splošnih zdravnikov leta 2024 poročal o uporabi generativne umetne inteligence v kliničnih praksah. Vendar je pregled ugotovil, da večina študij o umetni inteligenci v primarni oskrbi temelji na simulacijah in ne na študijah v resničnem svetu, kar pušča kritične vrzeli v učinkovitosti, varnosti in pravičnosti.

Število zdravnikov splošne medicine, ki uporabljajo generativno umetno inteligenco v Avstraliji, ni zanesljivo znano, vendar je ocenjeno na 40 odstotkov.

"Umetna inteligenca je že v naših klinikah, vendar brez avstralskih podatkov o tem, koliko zdravnikov splošne medicine jo uporablja, ali brez ustreznega nadzora, smo slepi, ko gre za varnost," je dejal izredni profesor Laranjo.

Medtem ko pisarji z umetno inteligenco in tehnologije poslušanja v okolju lahko zmanjšajo kognitivno obremenitev in izboljšajo zadovoljstvo pri delu splošnih zdravnikov, predstavljajo tudi tveganja, kot sta pristranskost avtomatizacije in izguba pomembnih družbenih ali biografskih podrobnosti v zdravstvenih kartotekah.

"Naša študija je pokazala, da se mnogi zdravniki, ki uporabljajo pisarje z umetno inteligenco, nočejo vrniti k tipkanju. Pravijo, da to pospeši posvetovanja in jim omogoča, da se osredotočijo na bolnike, vendar lahko ta orodja spregledajo pomembne osebne podrobnosti in povzročijo pristranskost," je dejal izredni profesor Laranjo.

Za bolnike pregledovalniki simptomov in zdravstvene aplikacije obljubljajo udobje in prilagojeno oskrbo, vendar je njihova natančnost pogosto različna in mnogi nimajo možnosti za neodvisno oceno.

"Generativni modeli, kot je ChatGPT, se lahko slišijo prepričljivo, vendar so dejansko napačni," je dejal izredni profesor Laranjo. "Pogosto se strinjajo z uporabniki, tudi če se motijo, kar je nevarno za bolnike in izziv za zdravnike."

Tveganja umetne inteligence za pravosodje in okolje

Strokovnjaki opozarjajo, da čeprav umetna inteligenca obljublja hitrejše diagnoze in prilagojeno oskrbo, lahko tudi poglobi vrzeli v zdravju, ko se prikrade pristranskost. Dermatološka orodja na primer pogosto napačno diagnosticirajo temnejše tone kože, ki so običajno premalo zastopani v zbirkah podatkov za usposabljanje.

Nasprotno pa raziskovalci pravijo, da lahko umetna inteligenca, če je dobro zasnovana, odpravi razlike: Študija o artritisu je podvojila število temnopoltih bolnikov, ki so bili upravičeni do zamenjave kolena, z uporabo algoritma, ki je bil usposobljen na različnih naborih podatkov, zaradi česar je bila boljša pri napovedovanju bolečine v kolenu, o kateri poročajo bolniki, v primerjavi s standardnimi rentgenskimi odčitki zdravnikov.

»Zanemarjanje socialno-ekonomskih dejavnikov in univerzalne zasnove bi lahko povzročilo, da bi umetna inteligenca v primarni oskrbi prešla od preboja do nazadovanja,« je dejal izredni profesor Laranjo.

Tudi okoljski stroški so ogromni. Training GPT-3, različica ChatGPT, izdana leta 2020, je izpustila količine ogljikovega dioksida, ki ustrezajo 188 poletom med New Yorkom in San Franciscom. Podatkovni centri zdaj porabijo približno 1 odstotek svetovne porabe električne energije, na Irskem pa so podatkovni centri odgovorni za več kot 20 odstotkov nacionalne porabe električne energije.

"Okoljski odtis umetne inteligence je izziv," je dejal izredni profesor Laranjo. "Potrebujemo trajnostne pristope, ki uravnotežijo inovacije z pravičnostjo in zdravjem planeta."

Raziskovalci pozivajo vlade, klinike in razvijalce tehnologije, naj dajo prednost:

• robuste Bewertung und reale Überwachung von KI-Tools
• Regulierungsrahmen, die mit der Innovation Schritt halten
• Schulung von Ärzten und der Öffentlichkeit zur Verbesserung der KI-Kenntnisse
• Strategien zur Voreingenommenheitsminderung, um Gerechtigkeit in der Gesundheitsversorgung sicherzustellen
• nachhaltige Praktiken zur Reduzierung der Umweltauswirkungen von KI.

"AI ponuja priložnost za preoblikovanje primarne oskrbe, vendar inovacije ne smejo priti na račun varnosti ali pravičnosti," je dejal izredni profesor Laranjo. »Potrebujemo medpanožna partnerstva, da zagotovimo, da umetna inteligenca koristi vsem – ne le tehnično podkovanim ali dobro opremljenim.«

Viri: