Brzo usvajanje umjetne inteligencije u primarnoj zdravstvenoj zaštiti izaziva zabrinutost za sigurnost

Brzo usvajanje umjetne inteligencije u primarnoj zdravstvenoj zaštiti izaziva zabrinutost za sigurnost

Od digitalnih pisara do ChatGPT-a, umjetna inteligencija (AI) brzo pronalazi svoj put u prakse primarne zdravstvene zaštite. Nova studija sa Sveučilišta u Sydneyu upozorava da tehnologija ide ispred sigurnosnih kontrola i dovodi pacijente i zdravstvene sustave u opasnost.

Studija, objavljena uThe Lancet Primary Caresažeo je globalne uvide u to kako se AI koristi u primarnoj zdravstvenoj zaštiti koristeći podatke iz Sjedinjenih Država, Ujedinjenog Kraljevstva, Australije, nekoliko afričkih zemalja, Latinske Amerike, Irske i drugih regija. Utvrđeno je da se AI alati kao što su ChatGPT, AI Scribes i aplikacije za pacijente sve više koriste za kliničke upite, dokumentaciju i konzultacije s pacijentima, ali većina se koristi bez temeljite evaluacije ili regulatornog nadzora.

Primarna zdravstvena zaštita okosnica je sustava zdravstvene skrbi, pružajući dostupnu i kontinuiranu skrb. Umjetna inteligencija može ublažiti pritisak na preopterećene usluge, ali bez zaštitnih mjera riskiramo neželjene posljedice za sigurnost pacijenata i kvalitetu skrbi.”

Izvanredna profesorica Liliana Laranjo, glavna istraživačica, suradnica Horizonta u Centru za primijenjena istraživanja Westmead

Liječnici opće prakse i pacijenti okreću se umjetnoj inteligenciji, ali dokazi zaostaju

Primarna zdravstvena zaštita pod pritiskom je u cijelom svijetu, od nedostatka radne snage do izgaranja liječnika do sve složenijeg pružanja zdravstvene skrbi, pogoršanog pandemijom COVID-19. AI se reklamira kao rješenje, s alatima koji štede vrijeme konsolidacijom konzultacija, automatiziranjem administracije i podržavanjem donošenja odluka.

U Ujedinjenom Kraljevstvu jedan od pet liječnika opće prakse izvijestio je da koristi generativnu umjetnu inteligenciju u kliničkim praksama 2024. godine. Međutim, pregledom je utvrđeno da se većina studija umjetne inteligencije u primarnoj zdravstvenoj zaštiti temelji na simulacijama, a ne na studijama u stvarnom svijetu, ostavljajući kritične praznine u učinkovitosti, sigurnosti i pravednosti.

Broj liječnika opće prakse koji koriste generativnu umjetnu inteligenciju u Australiji nije pouzdano poznat, ali se procjenjuje na 40 posto.

"AI je već u našim klinikama, ali bez australskih podataka o tome koliko ga liječnika opće prakse koristi ili bez odgovarajućeg nadzora, nemamo ništa što se tiče sigurnosti", rekao je izvanredni profesor Laranjo.

Iako vještački pisari i tehnologije ambijentalnog slušanja mogu smanjiti kognitivno opterećenje i poboljšati zadovoljstvo poslom za liječnike opće prakse, oni također predstavljaju rizike poput pristranosti automatizacije i gubitka važnih društvenih ili biografskih detalja u medicinskoj dokumentaciji.

"Naša je studija otkrila da se mnogi liječnici opće prakse koji koriste pisare s umjetnom inteligencijom ne žele vratiti tipkanju. Kažu da to ubrzava konzultacije i omogućuje im da se usredotoče na pacijente, ali ti alati mogu propustiti važne osobne detalje i unijeti pristranost", rekao je izvanredni profesor Laranjo.

Za pacijente, provjere simptoma i zdravstvene aplikacije obećavaju praktičnost i personaliziranu skrb, ali njihova točnost često varira i mnogima nedostaje prilika za neovisnu procjenu.

"Generativni modeli poput ChatGPT-a mogu zvučati uvjerljivo, ali su činjenično netočni", rekao je izvanredni profesor Laranjo. "Često se slažu s korisnicima čak i kada su u krivu, što je opasno za pacijente i izazov za liječnike."

Rizici umjetne inteligencije za pravdu i okoliš

Stručnjaci upozoravaju da iako umjetna inteligencija obećava brže dijagnoze i personaliziranu skrb, ona također može produbiti zdravstvene nedostatke kako se pristranost uvlači. Na primjer, dermatološki alati često krivo dijagnosticiraju tamnije tonove kože, koji su obično nedovoljno zastupljeni u skupovima podataka za obuku.

Suprotno tome, istraživači kažu da, kada je dobro dizajnirana, umjetna inteligencija može riješiti nejednakosti: studija o artritisu udvostručila je broj pacijenata crne rase koji ispunjavaju uvjete za zamjenu koljena korištenjem algoritma obučenog na različitim skupovima podataka, što ga čini boljim u predviđanju bolova u koljenima koje su prijavili pacijenti u usporedbi sa standardnim rendgenskim očitanjima liječnika.

"Zanemarivanje socioekonomskih čimbenika i univerzalnog dizajna moglo bi dovesti do toga da umjetna inteligencija u primarnoj zdravstvenoj zaštiti od proboja postane nazadak", rekao je izvanredni profesor Laranjo.

Troškovi zaštite okoliša također su ogromni. Trening GPT-3, verzija ChatGPT-a objavljena 2020., emitirao je količine ugljičnog dioksida ekvivalentne 188 letova između New Yorka i San Francisca. Podatkovni centri sada troše oko 1 posto globalne potrošnje električne energije, au Irskoj podatkovni centri odgovorni su za više od 20 posto nacionalne potrošnje električne energije.

"Otisak umjetne inteligencije na okoliš je izazovan", rekao je izvanredni profesor Laranjo. "Potrebni su nam održivi pristupi koji uravnotežuju inovacije s pravednošću i planetarnim zdravljem."

Istraživači pozivaju vlade, kliničare i razvojne programere da prioritet daju:

• robuste Bewertung und reale Überwachung von KI-Tools
• Regulierungsrahmen, die mit der Innovation Schritt halten
• Schulung von Ärzten und der Öffentlichkeit zur Verbesserung der KI-Kenntnisse
• Strategien zur Voreingenommenheitsminderung, um Gerechtigkeit in der Gesundheitsversorgung sicherzustellen
• nachhaltige Praktiken zur Reduzierung der Umweltauswirkungen von KI.

"AI nudi priliku za preoblikovanje primarne zdravstvene zaštite, ali inovacije ne smiju doći nauštrb sigurnosti ili jednakosti", rekao je izvanredni profesor Laranjo. "Potrebna su nam međuindustrijska partnerstva kako bismo osigurali da AI koristi svima - ne samo onima koji su tehnički potkovani ili dobro opremljeni."

Izvori: