A mesterséges intelligencia gyors elterjedése az alapellátásban biztonsági aggályokat vet fel

A mesterséges intelligencia gyors elterjedése az alapellátásban biztonsági aggályokat vet fel

A digitális írástudóktól a ChatGPT-ig a mesterséges intelligencia (AI) gyorsan utat talál az alapellátásban. A Sydney-i Egyetem új tanulmánya arra figyelmeztet, hogy a technológia megelőzi a biztonsági ellenőrzéseket, és veszélybe sodorja a betegeket és az egészségügyi rendszereket.

A tanulmány, amely ben jelent megA Lancet alapellátásAz Egyesült Államokból, az Egyesült Királyságból, Ausztráliából, több afrikai országból, Latin-Amerikából, Írországból és más régiókból származó adatok alapján összefoglalta a globális betekintést arról, hogyan használják a mesterséges intelligenciát az alapellátásban. Megállapította, hogy az olyan mesterséges intelligencia-eszközöket, mint a ChatGPT, az AI Scribes és a betegeknek szánt alkalmazásokat egyre gyakrabban használják klinikai lekérdezésekre, dokumentációra és páciensekkel való konzultációra, de a legtöbbet alapos értékelés vagy hatósági felügyelet nélkül használják.

Az alapellátás az egészségügyi rendszerek gerincét képezi, amely elérhető és folyamatos ellátást biztosít. A mesterséges intelligencia enyhítheti a túlterhelt szolgáltatásokra nehezedő nyomást, de biztosítékok hiányában nemkívánatos következményeket kockáztatunk a betegek biztonságára és az ellátás minőségére nézve.”

Liliana Laranjo docens, vezető kutató, a Westmead Alkalmazott Kutatási Központ Horizon munkatársa

A háziorvosok és a betegek a mesterséges intelligencia felé fordulnak, de a bizonyítékok elmaradnak

Az alapellátásra világszerte nyomás nehezedik, a munkaerőhiánytól az orvosi kiégésig az egészségügyi ellátás egyre bonyolultabbá válásáig, amelyet a COVID-19 világjárvány súlyosbított. Az AI-t megoldásként hirdetik, olyan eszközökkel, amelyek időt takarítanak meg a konzultációk összevonásával, az adminisztráció automatizálásával és a döntéshozatal támogatásával.

Az Egyesült Királyságban 2024-ben minden ötödik háziorvos számolt be generatív mesterséges intelligencia alkalmazásáról a klinikai gyakorlatban. Az áttekintés azonban megállapította, hogy az alapellátásban az MI-vel kapcsolatos legtöbb tanulmány szimulációkon alapul, nem pedig valós tanulmányokon, ami kritikus hiányosságokat hagy a hatékonyságban, a biztonságban és a méltányosságban.

A generatív MI-t használó háziorvosok száma Ausztráliában nem ismert megbízhatóan, de 40 százalékra becsülik.

„A mesterséges intelligencia már jelen van a klinikáinkon, de ausztrál adatok nélkül arról, hogy hány háziorvos használja, vagy megfelelő felügyelet nélkül, vakon repülünk, ha a biztonságról van szó” – mondta Laranjo docens.

Míg a mesterséges intelligencia leírói és az ambient listening technológiák csökkenthetik a kognitív terhelést és javíthatják a háziorvosok munkával való elégedettségét, olyan kockázatokat is rejtenek magukban, mint az automatizálási torzítás és a fontos társadalmi vagy életrajzi adatok elvesztése az orvosi feljegyzésekben.

"Tanulmányunk szerint sok háziorvos, aki mesterséges intelligencia-leírókat használ, nem akar visszatérni a gépeléshez. Azt mondják, hogy ez felgyorsítja a konzultációkat, és lehetővé teszi számukra, hogy a betegekre összpontosítsanak, de ezek az eszközök figyelmen kívül hagyhatják a fontos személyes részleteket, és elfogultságot eredményezhetnek" - mondta Laranjo docens.

A betegek számára a tünetellenőrzők és az egészségügyi alkalmazások kényelmet és személyre szabott ellátást ígérnek, de pontosságuk gyakran változó, és sok esetben hiányzik a független értékelés lehetősége.

„Az olyan generatív modellek, mint a ChatGPT, meggyőzően hangzanak, de tényszerűen helytelenek” – mondta Laranjo docens. „Gyakran egyetértenek a felhasználókkal még akkor is, ha tévednek, ami veszélyes a betegekre, és kihívást jelent az orvosok számára.”

Az AI igazságossági és környezeti kockázatai

Szakértők arra figyelmeztetnek, hogy bár a mesterséges intelligencia gyorsabb diagnózist és személyre szabott ellátást ígér, az egészségügyi hiányosságokat is elmélyítheti, ahogy az elfogultság behatol. Például a bőrgyógyászati ​​eszközök gyakran rosszul diagnosztizálják a sötétebb bőrtónusokat, amelyek általában alulreprezentáltak a képzési adatkészletekben.

Ezzel szemben a kutatók azt mondják, hogy jól megtervezett mesterséges intelligencia képes kezelni az egyenlőtlenségeket: egy ízületi gyulladásos vizsgálat megduplázta a térdprotézisre jogosult fekete bőrű betegek számát egy változatos adathalmazra kiképzett algoritmus segítségével, így az orvosok szokásos röntgenleolvasásaihoz képest jobb előrejelzést adva a betegek által jelentett térdfájdalmakról.

„A társadalmi-gazdasági tényezők és az univerzális tervezés figyelmen kívül hagyása azt eredményezheti, hogy az alapellátásban a mesterséges intelligencia áttörésből visszaeséssé válik” – mondta Laranjo docens.

A környezetvédelmi költségek is óriásiak. A Training GPT-3, a ChatGPT 2020-ban kiadott változata 188 New York és San Francisco közötti repülésnek megfelelő mennyiségű szén-dioxidot bocsátott ki. Az adatközpontok jelenleg a globális villamosenergia-fogyasztás körülbelül 1 százalékát fogyasztják, Írországban pedig az adatközpontok a nemzeti villamosenergia-fogyasztás több mint 20 százalékáért felelnek.

„Az AI környezeti lábnyoma nagy kihívást jelent” – mondta Laranjo docens. „Fenntartható megközelítésekre van szükségünk, amelyek egyensúlyban tartják az innovációt a méltányossággal és a bolygó egészségével.”

A kutatók arra kérik a kormányokat, a klinikusokat és a technológiai fejlesztőket, hogy helyezzék előtérbe a következőket:

• robuste Bewertung und reale Überwachung von KI-Tools
• Regulierungsrahmen, die mit der Innovation Schritt halten
• Schulung von Ärzten und der Öffentlichkeit zur Verbesserung der KI-Kenntnisse
• Strategien zur Voreingenommenheitsminderung, um Gerechtigkeit in der Gesundheitsversorgung sicherzustellen
• nachhaltige Praktiken zur Reduzierung der Umweltauswirkungen von KI.

„A mesterséges intelligencia lehetőséget kínál az alapellátás átalakítására, de az innováció nem mehet a biztonság vagy a méltányosság rovására” – mondta Laranjo docens. „Igazatközi partnerségre van szükségünk annak biztosítására, hogy a mesterséges intelligencia mindenki számára előnyös legyen – nem csak a technológiában jártas vagy jól felszerelt emberek számára.”

Források: