Mitglieder der Öffentlichkeit werden gebeten, dazu beizutragen, Vorurteile aufgrund von Rasse und anderen benachteiligten Gruppen in Algorithmen der künstlichen Intelligenz für das Gesundheitswesen zu beseitigen.
Gesundheitsforscher fordern Unterstützung bei der Auseinandersetzung mit der Frage, warum „minorisierte“ Gruppen, die durch soziale Konstrukte aktiv benachteiligt werden, künftig keinen Nutzen aus dem Einsatz von KI im Gesundheitswesen ziehen würden. Das von der University of Birmingham und den University Hospitals Birmingham geleitete Team schreibt heute in Nature Medicine über den Start einer Konsultation zu einer Reihe von Standards, von denen sie hoffen, dass sie Vorurteile reduzieren, die bekanntermaßen in KI-Algorithmen bestehen.
Es gibt immer mehr Hinweise darauf, dass einige KI-Algorithmen für bestimmte Personengruppen weniger gut funktionieren – insbesondere für Personen, die rassischen/ethnischen Minderheiten angehören. Ein Teil davon ist auf Verzerrungen in den Datensätzen zurückzuführen, die zur Entwicklung von KI-Algorithmen verwendet werden. Dies bedeutet, dass Patienten aus schwarzen und ethnischen Minderheiten möglicherweise ungenaue Vorhersagen erhalten, was zu Fehldiagnosen und falschen Behandlungen führen kann.
STANDING Together ist eine internationale Zusammenarbeit, die Best-Practice-Standards für Gesundheitsdatensätze entwickeln wird, die in der künstlichen Intelligenz verwendet werden, um sicherzustellen, dass sie vielfältig und inklusiv sind und keine unterrepräsentierten oder Minderheitsgruppen zurücklassen. Das Projekt wird vom NHS AI Lab und der Health Foundation finanziert, und die Finanzierung wird vom National Institute for Health and Care Research, dem Forschungspartner des NHS, öffentliche Gesundheit und Sozialfürsorge, als Teil des NHS AI Labs verwaltet KI-Ethikinitiative.
Dr. Xiaoxuan Liu vom Institute of Inflammation and Aging an der University of Birmingham und Co-Leiter des STANDING Together-Projekts sagte:
„Durch die richtige Datengrundlage stellt STANDING Together sicher, dass niemand zurückbleibt, während wir versuchen, die Vorteile datengesteuerter Technologien wie KI zu erschließen. Wir haben unsere Delphi-Studie für die Öffentlichkeit zugänglich gemacht, damit wir unsere Reichweite maximieren können.“ an Gemeinschaften und Einzelpersonen. Dadurch können wir sicherstellen, dass die Empfehlungen von STANDING Together wirklich das widerspiegeln, was für unsere vielfältige Gemeinschaft wichtig ist.
Professor Alastair Denniston, beratender Augenarzt am University Hospitals Birmingham und Professor am Institute of Inflammation and Aging an der University of Birmingham, ist Co-Leiter des Projekts. Professor Denniston sagte:
„Als Arzt im NHS begrüße ich die Einführung von KI-Technologien, die uns helfen können, die von uns angebotene Gesundheitsversorgung zu verbessern – schnellere und genauere Diagnosen, zunehmend personalisierte Behandlungen und Gesundheitsschnittstellen, die dem Patienten mehr Kontrolle geben.“ Aber wir müssen auch sicherstellen, dass diese Technologien inklusiv sind. Wir müssen sicherstellen, dass sie für alle, die sie benötigen, effektiv und sicher funktionieren.“
Dies ist eines der lohnendsten Projekte, an denen ich je gearbeitet habe, da darin nicht nur mein großes Interesse an der Verwendung präziser validierter Daten und an einer guten Dokumentation zur Unterstützung der Entdeckung zum Ausdruck kommt, sondern auch die dringende Notwendigkeit, Minderheiten und unterversorgte Gruppen in die Forschung einzubeziehen das kommt ihnen zugute. Zur letzteren Gruppe gehören natürlich auch Frauen.“
Jacqui Gath, Patientenpartnerin, STANDING Together-Projekt
Das STANDING Together-Projekt steht jetzt im Rahmen einer Delphi-Konsensstudie zur öffentlichen Konsultation offen. Die Forscher laden Mitglieder der Öffentlichkeit, medizinische Fachkräfte, Forscher, KI-Entwickler, Datenwissenschaftler, politische Entscheidungsträger und Regulierungsbehörden ein, bei der Überprüfung dieser Standards zu helfen, um sicherzustellen, dass sie für Sie und jeden, mit dem Sie zusammenarbeiten, funktionieren.
Quelle:
Referenz:
Ganapathi, S., et al. (2022) Bekämpfung von Verzerrungen in KI-Datensätzen durch die STANDING-together-Initiative. Naturmedizin. doi.org/10.1038/s41591-022-01987-w.
