Su visuomenės parama galima kovoti su rasistiniais ir kitais sveikatos priežiūros dirbtinio intelekto algoritmų šališkumais

Su visuomenės parama galima kovoti su rasistiniais ir kitais sveikatos priežiūros dirbtinio intelekto algoritmų šališkumais

Visuomenės narių prašoma padėti pašalinti šališkumą, pagrįstą rase ir kitomis nepalankioje padėtyje esančiomis grupėmis, sveikatos priežiūros dirbtinio intelekto algoritmuose.

Sveikatos tyrėjai ragina padėti sprendžiant klausimą, kodėl „mažakraujėms“ grupėms, kurios yra aktyviai nuskriaustos dėl socialinių konstrukcijų, ateityje negautų naudos iš dirbtinio intelekto naudojimo sveikatos priežiūros srityje. Birmingemo universiteto ir Birmingamo universitetinių ligoninių vadovaujama komanda šiandien žurnale Nature Medicine rašo apie konsultaciją dėl standartų rinkinio, kuris, jų manymu, sumažins AI algoritmų šališkumą.

Daugėja įrodymų, kad kai kurie dirbtinio intelekto algoritmai ne taip gerai veikia tam tikroms žmonių grupėms, ypač iš rasinių / etninių mažumų. Dalis to yra dėl duomenų rinkinių, naudojamų kuriant AI algoritmus, paklaidų. Tai reiškia, kad juodaodžiai ir etninės mažumos pacientai gali gauti netikslių prognozių, o tai gali sukelti klaidingą diagnozę ir neteisingą gydymą.

STANDING Together – tai tarptautinis bendradarbiavimas, kurio metu bus sukurti geriausios praktikos standartai sveikatos duomenų rinkiniams, naudojamiems dirbtiniam intelektui, siekiant užtikrinti, kad jie būtų įvairūs, įtraukūs ir nepaliktų nepakankamai atstovaujamų ar mažumų grupių. Projektą finansuoja NHS AI Lab ir Sveikatos fondas, o finansavimą valdo Nacionalinis sveikatos ir priežiūros tyrimų institutas, NHS visuomenės sveikatos ir socialinės priežiūros tyrimų partneris, kaip NHS AI Labs AI etikos iniciatyvos dalis.

Dr. Xiaoxuan Liu iš Birmingemo universiteto Uždegimo ir senėjimo instituto ir projekto STANDING Together vadovas sakė:

"Turėdami tinkamą duomenų pagrindą, STANDING Together užtikrina, kad niekas neliktų nuošalyje, kai siekiame pasinaudoti duomenimis pagrįstų technologijų, pvz., AI, pranašumais. Savo Delphi tyrimą padarėme prieinamą visuomenei, kad galėtume maksimaliai padidinti savo pasiekiamumą." bendruomenėms ir asmenims. Tai leidžia mums užtikrinti, kad STANDING Together rekomendacijos tikrai atspindėtų tai, kas svarbu mūsų įvairiai bendruomenei.

Profesorius Alastairas Dennistonas, Birmingamo universitetinių ligoninių oftalmologas konsultantas ir Birmingamo universiteto Uždegimo ir senėjimo instituto profesorius, kartu vadovauja projektui. Profesorius Denniston pasakė:

„Kaip NHS gydytojas, džiaugiuosi AI technologijų įdiegimu, kurios gali padėti pagerinti mūsų teikiamą sveikatos priežiūrą – greitesnes ir tikslesnes diagnozes, vis labiau individualizuotą gydymą ir sveikatos priežiūros sąsajas, kurios suteikia pacientui daugiau kontrolės. Tačiau taip pat turime užtikrinti, kad šios technologijos būtų įtraukios. Turime užtikrinti, kad jie veiktų efektyviai ir saugiai visiems, kuriems jų reikia.

Tai vienas iš labiausiai naudingų projektų, prie kurių aš kada nors dirbau, nes tai atspindi ne tik mano didelį pomėgį naudoti tikslius patvirtintus duomenis ir gerą dokumentaciją atradimui paremti, bet ir skubų poreikį įtraukti mažumas ir nepakankamai aptarnaujamas grupes į jiems naudingus tyrimus. Žinoma, pastarajai grupei priklauso ir moterys“.

Jacqui Gath, kantrus projekto STANDING Together partneris

Projektas STANDING Together dabar yra atviras viešosioms konsultacijoms per Delphi konsensuso tyrimą. Tyrėjai kviečia visuomenės narius, sveikatos priežiūros specialistus, tyrėjus, dirbtinio intelekto kūrėjus, duomenų mokslininkus, politikos formuotojus ir reguliavimo institucijas padėti peržiūrėti šiuos standartus ir užtikrinti, kad jie tinka jums ir visiems, su kuriais dirbate.

Šaltinis:

Birmingamo universitetas

Nuoroda:

Ganapathi, S. ir kt. (2022 m.) Kovos su DI duomenų rinkinių šališkumu įgyvendinant iniciatyvą STANDING together. Natūrali medicina. doi.org/10.1038/s41591-022-01987-w.