Tekoälyn nopea käyttöönotto perusterveydenhuollossa herättää turvallisuusongelmia

Tekoälyn nopea käyttöönotto perusterveydenhuollossa herättää turvallisuusongelmia

Tekoäly (AI) löytää nopeasti tiensä perusterveydenhuollon käytäntöihin digitaalisista kirjoittajista ChatGPT:hen. Sydneyn yliopiston tuore tutkimus varoittaa, että tekniikka on edistymässä turvatarkastuksissa ja vaarantaa potilaat ja terveydenhuoltojärjestelmät.

Tutkimus, joka julkaistiin vuonnaLancet Primary Caretiivisti maailmanlaajuisia näkemyksiä tekoälyn käytöstä perusterveydenhuollossa käyttämällä tietoja Yhdysvalloista, Isosta-Britanniasta, Australiasta, useista Afrikan maista, Latinalaisesta Amerikasta, Irlannista ja muilta alueilta. Se havaitsi, että tekoälytyökaluja, kuten ChatGPT, AI Scribes ja potilaille suunnattuja sovelluksia, käytetään yhä enemmän kliinisiin kyselyihin, dokumentointiin ja potilaiden konsultointiin, mutta useimpia niistä käytetään ilman perusteellista arviointia tai viranomaisvalvontaa.

Perusterveydenhuolto on terveydenhuoltojärjestelmien selkäranka, joka tarjoaa saatavilla olevaa ja jatkuvaa hoitoa. Tekoäly voi lieventää ylikuormitettuihin palveluihin kohdistuvaa painetta, mutta ilman suojatoimia vaarannamme tahattomat seuraukset potilaiden turvallisuudelle ja hoidon laadulle.

Apulaisprofessori Liliana Laranjo, johtava tutkija, Horizon Fellow Westmead Applied Research Centerissä

Yleislääkärit ja potilaat kääntyvät tekoälyn puoleen, mutta todisteet ovat myöhässä

Perusterveydenhuolto on maailmanlaajuisesti paineen alla työvoimapulasta lääkäreiden työuupumukseen ja terveydenhuollon monimutkaistumiseen, jota COVID-19-pandemia pahentaa. Tekoälyä mainostetaan ratkaisuna työkaluilla, jotka säästävät aikaa yhdistämällä konsultaatioita, automatisoimalla hallintoa ja tukemalla päätöksentekoa.

Isossa-Britanniassa joka viides yleislääkäri ilmoitti käyttäneensä generatiivista tekoälyä kliinisissä käytännöissä vuonna 2024. Katsauksessa kuitenkin havaittiin, että useimmat perusterveydenhuollon tekoälytutkimukset perustuvat simulaatioihin todellisten tutkimusten sijaan, mikä jättää kriittisiä aukkoja tehokkuuteen, turvallisuuteen ja tasapuolisuuteen.

Generatiivista tekoälyä käyttävien yleislääkäreiden määrä Australiassa ei ole luotettavasti tiedossa, mutta sen arvioidaan olevan 40 prosenttia.

"Tekoäly on jo klinikoillamme, mutta ilman Australian tietoja siitä, kuinka monta yleislääkäriä käyttää sitä tai kun ei ole asianmukaista valvontaa, olemme turvallisuuden suhteen sokeita", apulaisprofessori Laranjo sanoi.

Tekoälykirjoittajat ja ambient-kuuntelutekniikat voivat vähentää kognitiivista kuormitusta ja parantaa yleislääkäreiden työtyytyväisyyttä, mutta ne aiheuttavat myös riskejä, kuten automaation harhaa ja tärkeiden sosiaalisten tai elämäkertatietojen katoamista potilastietoihin.

"Tutkimuksemme havaitsi, että monet tekoälykirjoittajia käyttävät yleislääkärit eivät halua palata kirjoittamiseen. He sanovat, että se nopeuttaa konsultaatioita ja antaa heille mahdollisuuden keskittyä potilaisiin, mutta nämä työkalut voivat jättää huomiotta tärkeitä henkilökohtaisia ​​yksityiskohtia ja aiheuttaa puolueellisuutta", apulaisprofessori Laranjo sanoi.

Potilaille oireiden tarkistajat ja terveyssovellukset lupaavat mukavuutta ja henkilökohtaista hoitoa, mutta niiden tarkkuus vaihtelee usein ja monilta puuttuu mahdollisuus itsenäiseen arviointiin.

"ChatGPT:n kaltaiset generatiiviset mallit voivat kuulostaa vakuuttavalta, mutta ovat tosiasiallisesti virheellisiä", sanoi apulaisprofessori Laranjo. "He ovat usein samaa mieltä käyttäjien kanssa, vaikka he ovat väärässä, mikä on potilaille vaarallista ja lääkäreille haastavaa."

Tekoälyn oikeus- ja ympäristöriskit

Asiantuntijat varoittavat, että vaikka tekoäly lupaa nopeampia diagnooseja ja henkilökohtaista hoitoa, se voi myös syventää terveyseroja, kun harha hiipii sisään. Esimerkiksi ihotautityökalut diagnosoivat usein väärin tummemmat ihonsävyt, jotka ovat tyypillisesti aliedustettuina koulutusaineistoissa.

Sitä vastoin tutkijat sanovat, että hyvin suunniteltu tekoäly voi korjata eroja: Niveltulehdustutkimus kaksinkertaisti polven tekonivelleikkauksiin kelpaavien mustien potilaiden määrän käyttämällä algoritmia, joka on koulutettu monipuoliseen tietosarjaan, mikä teki sen paremmin ennustamaan potilaiden ilmoittamaa polvikipua verrattuna lääkäreiden tavanomaisiin röntgenlukemiin.

"Sosioekonomisten tekijöiden ja yleismaailmallisen suunnittelun huomioimatta jättäminen voi johtaa siihen, että ensihoidon tekoäly muuttuu läpimurrosta takaiskuksi", sanoi apulaisprofessori Laranjo.

Myös ympäristökustannukset ovat valtavat. Training GPT-3, ChatGPT:n vuonna 2020 julkaistu versio, aiheutti hiilidioksidipäästöjä 188 New Yorkin ja San Franciscon välisellä lennolla. Palvelinkeskukset kuluttavat nyt noin prosentin maailmanlaajuisesta sähkönkulutuksesta, ja Irlannissa datakeskukset vastaavat yli 20 prosentista kansallisesta sähkönkulutuksesta.

"Tekoälyn ympäristöjalanjälki on haastava", sanoi apulaisprofessori Laranjo. "Tarvitsemme kestäviä lähestymistapoja, jotka tasapainottavat innovaation tasa-arvon ja planeetan terveyden kanssa."

Tutkijat kehottavat hallituksia, kliinikkoja ja teknologian kehittäjiä priorisoimaan:

• robuste Bewertung und reale Überwachung von KI-Tools
• Regulierungsrahmen, die mit der Innovation Schritt halten
• Schulung von Ärzten und der Öffentlichkeit zur Verbesserung der KI-Kenntnisse
• Strategien zur Voreingenommenheitsminderung, um Gerechtigkeit in der Gesundheitsversorgung sicherzustellen
• nachhaltige Praktiken zur Reduzierung der Umweltauswirkungen von KI.

"Tekoäly tarjoaa mahdollisuuden muuttaa perusterveydenhuoltoa, mutta innovaatiot eivät saa tapahtua turvallisuuden tai oikeudenmukaisuuden kustannuksella", sanoi apulaisprofessori Laranjo. "Tarvitsemme toimialojen välisiä kumppanuuksia varmistaaksemme, että tekoäly hyödyttää kaikkia – ei vain tekniikkataitoja tai hyvin varustettuja."

Lähteet: