Suche
Mein Konto
Обърнете внимание на неточни данни за раса и етническа принадлежност в медицински AI
Неточността на расовите и етническите данни, открити в електронните здравни досиета (EHRS), може да повлияе отрицателно на грижите за пациентите, тъй като изкуственият интелект (AI) все повече се интегрира в здравеопазването. Тъй като болниците и доставчиците събират такива данни непоследователно и се борят да класифицират точно отделните пациенти, AI системите, обучени на тези набори от данни, могат да наследят и увековечат расовите пристрастия. В нова публикация в PLOS Digital Health експертите по биоетика и право призовават за незабавна стандартизация на методите за събиране на расови и етнически данни и разработчиците да гарантират качеството на расовите и етническите данни в медицинските AI системи. …
Обърнете внимание на неточни данни за раса и етническа принадлежност в медицински AI
Неточността на расовите и етническите данни, открити в електронните здравни досиета (EHRS), може да повлияе отрицателно на грижите за пациентите, тъй като изкуственият интелект (AI) все повече се интегрира в здравеопазването. Тъй като болниците и доставчиците събират такива данни непоследователно и се борят да класифицират точно отделните пациенти, AI системите, обучени на тези набори от данни, могат да наследят и увековечат расовите пристрастия.
В нова публикация в PLOS Digital Health експертите по биоетика и право призовават за незабавна стандартизация на методите за събиране на расови и етнически данни и разработчиците да гарантират качеството на расовите и етническите данни в медицинските AI системи. Изследването синтезира опасения относно това защо данните за расовата принадлежност на пациентите в ЕЗД може да не са точни, идентифицира най-добрите практики за здравните системи и медицинските AI изследователи за подобряване на точността на данните и предоставя нов шаблон за разработчиците на медицински AI за прозрачно обосноваване на качеството на техните расови и етнически данни
Водещият автор Александра Цалидис, MBE, отбелязва, че „разработчиците на AI, които се вслушват в нашата препоръка за това как са събрани техните расови и етнически данни, не само ще подобрят прозрачността в медицинския AI, но също така ще помогнат на пациентите и регулаторите да оценят безопасността на инструментите.“
Расовите пристрастия в моделите на AI са основен проблем, тъй като технологията става все по-интегрирана в здравеопазването. Тази статия предоставя конкретен метод, който може да бъде приложен за справяне с тези проблеми. “
Франсис Шен, JD, PhD, старши автор
Въпреки че трябва да се свърши още работа, статията предлага отправна точка, предложена от съавтора Лакшми Бхарадвадж, MBE. „Отвореният диалог относно най-добрите практики е важна стъпка и подходите, които предлагаме, могат да постигнат значителни подобрения.“
Изследването е подкрепено от програмата NIH Bridge to Artificial Intelligence (BRIDG2AI) и от грант на NIH Brain Neuroethics (R01MH134144).
източници:
Tsalidis, A., Bharadwaj, L., & Shen, F. X. (2025). Стандартизация и точност на данните за раса и етническа принадлежност: Последици върху справедливостта за медицинския ИИ. PLOS Цифрово здраве. doi.org/10.1371/journal.pdig.0000807.