Tervishoiu AI-algoritmide rassistlike ja muude eelarvamustega saab võidelda avaliku toetusega

Tervishoiu AI-algoritmide rassistlike ja muude eelarvamustega saab võidelda avaliku toetusega

Avalikkuse liikmetel palutakse aidata kõrvaldada rassil ja muudel ebasoodsas olukorras olevatel rühmadel põhinevat eelarvamust tervishoiu tehisintellekti algoritmides.

Terviseuurijad nõuavad toetust küsimuse lahendamisel, miks ei saaks tulevikus tehisintellekti kasutamisest tervishoius kasu „alaealiste” rühmad, kes on sotsiaalsete konstruktsioonide tõttu aktiivselt ebasoodsas olukorras. Birminghami ülikooli ja Birminghami ülikoolihaiglate juhitud meeskond kirjutab täna ajakirjas Nature Medicine konsultatsiooni algatamisest standardite kogumi üle, mis loodetavasti vähendavad tehisintellekti algoritmides esinevaid eelarvamusi.

Üha enam on tõendeid selle kohta, et mõned tehisintellekti algoritmid ei tööta teatud inimrühmade puhul, eriti rassiliste/etniliste vähemuste puhul. Osa sellest on tingitud AI-algoritmide väljatöötamiseks kasutatavate andmekogumite eelarvamustest. See tähendab, et mustanahalised ja vähemusrahvusest pärit patsiendid võivad saada ebatäpseid ennustusi, mis võivad põhjustada valediagnoosi ja vale ravi.

STANDING Together on rahvusvaheline koostöö, mille käigus töötatakse välja tehisintellektis kasutatavate terviseandmete kogumite parimate tavade standardid, et tagada nende mitmekülgsus, kaasamine ega jätta maha alaesindatud või vähemusrühmi. Projekti rahastavad NHS AI Lab ja Tervisefond ning rahastamist haldab NHSi rahvatervise ja sotsiaalhoolekande uurimispartner National Institute for Health and Care Research, mis on osa NHS AI Labs AI Ethics Initiative'ist.

Dr Xiaoxuan Liu Birminghami ülikooli põletiku ja vananemise instituudist ning projekti STANDING Together kaasjuht ütles:

"Õige andmebaasi olemasolul tagab STANDING Together, et keegi ei jääks maha, kui püüame avada andmepõhiste tehnoloogiate, nagu AI, eeliseid. Oleme oma Delphi uuringu avalikkusele kättesaadavaks teinud, et saaksime oma ulatust maksimeerida." kogukondadele ja üksikisikutele. See võimaldab meil tagada, et STANDING Togetheri soovitused kajastavad tõeliselt seda, mis on meie mitmekesise kogukonna jaoks oluline.

Projekti juhib professor Alastair Denniston, Birminghami ülikoolihaiglate oftalmoloog ja Birminghami ülikooli põletiku- ja vananemisinstituudi professor. Professor Denniston ütles:

"NHS-i arstina tervitan tehisintellekti tehnoloogiate kasutuselevõttu, mis aitavad meil pakutavat tervishoiuteenust täiustada – kiiremad ja täpsemad diagnoosid, üha isikupärasemad ravimeetodid ja tervishoiuliidesed, mis annavad patsiendile suurema kontrolli." Kuid me peame ka tagama, et need tehnoloogiad oleksid kaasavad. Peame tagama, et need töötaksid tõhusalt ja ohutult kõigile, kes neid vajavad.

See on üks rahuldust pakkuvamaid projekte, mille kallal olen kunagi töötanud, sest see ei peegelda mitte ainult minu suurt huvi kasutada täpseid kinnitatud andmeid ja head dokumentatsiooni avastamiseks, vaid ka tungivat vajadust kaasata vähemuste ja alateenindusega rühmad neile kasulikku uurimistöösse. Viimasesse rühma kuuluvad loomulikult ka naised.»

Jacqui Gath, kannatlik partner, projekt STANDING Together

Projekt STANDING Together on nüüd avatud avalikuks aruteluks Delphi konsensusuuringu kaudu. Teadlased kutsuvad avalikkust, tervishoiutöötajaid, teadlasi, tehisintellekti arendajaid, andmeteadlasi, poliitikakujundajaid ja reguleerijaid aitama need standardid üle vaadata, et tagada nende toimimine teie ja kõigi teie jaoks, kellega koos töötate.

Allikas:

Birminghami ülikool

Viide:

Ganapathi, S. jt. (2022) Tehisintellekti andmekogumite eelarvamuste käsitlemine algatuse STANDING together kaudu. Looduslik ravim. doi.org/10.1038/s41591-022-01987-w.