Rasistiska och andra fördomar i AI-algoritmer för sjukvård kan bekämpas med offentligt stöd

Rasistiska och andra fördomar i AI-algoritmer för sjukvård kan bekämpas med offentligt stöd

Medlemmar av allmänheten uppmanas att hjälpa till att eliminera partiskhet baserad på ras och andra missgynnade grupper i artificiell intelligens algoritmer för sjukvård.

Hälsoforskare efterlyser stöd för att ta itu med frågan om varför "minoriserade" grupper som är aktivt missgynnade av sociala konstruktioner inte skulle dra nytta av användningen av AI i vården i framtiden. Teamet, som leds av University of Birmingham och University Hospitals Birmingham, skriver idag i Nature Medicine om att lansera en konsultation om en uppsättning standarder som de hoppas ska minska fördomar som är kända för att finnas i AI-algoritmer.

Det finns växande bevis för att vissa AI-algoritmer fungerar mindre bra för vissa grupper av människor – särskilt de från ras/etniska minoriteter. En del av detta beror på fördomar i datamängderna som används för att utveckla AI-algoritmer. Detta innebär att patienter från svart och etnisk minoritetsbakgrund kan få felaktiga förutsägelser, vilket kan leda till feldiagnoser och felaktiga behandlingar.

STANDING Together är ett internationellt samarbete som kommer att utveckla standarder för bästa praxis för hälsodataset som används inom artificiell intelligens för att säkerställa att de är mångfaldiga, inkluderande och inte lämnar efter sig underrepresenterade eller minoritetsgrupper. Projektet finansieras av NHS AI Lab och Health Foundation, och finansieringen hanteras av National Institute for Health and Care Research, NHS forskningspartner för folkhälsa och socialvård, som en del av NHS AI Labs AI Ethics Initiative.

Dr. Xiaoxuan Liu, från Institute of Inflammation and Aging vid University of Birmingham och medledare för STANDING Together-projektet, sa:

"Genom att ha rätt databas säkerställer STANDING Together att ingen lämnas efter när vi försöker låsa upp fördelarna med datadrivna teknologier som AI. Vi har gjort vår Delphi-studie tillgänglig för allmänheten så att vi kan maximera vår räckvidd." till samhällen och individer. Detta gör att vi kan säkerställa att STANDING Togethers rekommendationer verkligen återspeglar vad som är viktigt för vår mångfaldiga gemenskap.

Professor Alastair Denniston, konsultögonläkare vid universitetssjukhusen i Birmingham och professor vid Institute of Inflammation and Aging vid University of Birmingham, är med och leder projektet. Professor Denniston sa:

"Som läkare i NHS välkomnar jag introduktionen av AI-teknik som kan hjälpa oss att förbättra vården vi tillhandahåller – snabbare och mer exakta diagnoser, allt mer personliga behandlingar och gränssnitt för sjukvården som ger patienten mer kontroll." Men vi måste också se till att dessa tekniker är inkluderande. Vi måste se till att de fungerar effektivt och säkert för alla som behöver dem.”

Detta är ett av de mest givande projekten jag någonsin har arbetat med eftersom det inte bara speglar mitt stora intresse av att använda korrekt validerad data och bra dokumentation för att stödja upptäckt, utan också det akuta behovet av att inkludera minoritets- och undertjänade grupper i forskningen som gynnar dem. Till den senare gruppen hör givetvis även kvinnor.”

Jacqui Gath, patientpartner, STANDING Together-projektet

STANDING Together-projektet är nu öppet för offentligt samråd genom en konsensusstudie från Delphi. Forskarna bjuder in allmänheten, sjukvårdspersonal, forskare, AI-utvecklare, datavetare, beslutsfattare och tillsynsmyndigheter för att hjälpa till att granska dessa standarder för att säkerställa att de fungerar för dig och alla du arbetar med.

Källa:

University of Birmingham

Hänvisning:

Ganapathi, S., et al. (2022) Ta itu med bias i AI-datauppsättningar genom initiativet STANDING together. Naturmedicin. doi.org/10.1038/s41591-022-01987-w.