Schlaganfallexperten fordern ethische Leitplanken, da KI in der klinischen Forschung immer beliebter wird

Schlaganfallexperten fordern ethische Leitplanken, da KI in der klinischen Forschung immer beliebter wird

Da der Einsatz künstlicher Intelligenz (KI) in fast allen Branchen weiter zunimmt, ist es wichtig, Leitplanken festzulegen, um sicherzustellen, dass die Technologie ethisch und verantwortungsvoll eingesetzt wird. Dies gilt insbesondere im medizinischen Bereich, wo Fehler über Leben und Tod entscheiden können und Patienteninformationen geschützt werden müssen.

Eine Gruppe von Schlaganfallärzten, Forschern und Branchenvertretern diskutierte am 28. März beim Stroke Treatment Academic Industry Roundtable-Treffen den aktuellen Einsatz und die Zukunft von KI bei der Gestaltung klinischer Schlaganfallstudien. Unter der Leitung von Dr. Joseph Broderick von der University of Cincinnati veröffentlichten die Forscher einen Artikel in der Zeitschrift Schlaganfall 30. September, Zusammenfassung der Gruppendiskussion.

Schlaganfallmediziner nutzen KI bereits zur Unterstützung der klinischen Entscheidungsfindung, insbesondere bei der Analyse von Gehirn- und Gefäßbildern. Es macht Ärzte auch auf potenzielle Teilnehmer an klinischen Studien aufmerksam.

Aber angesichts dieser und anderer erweiterter Einsatzmöglichkeiten von KI betonten Broderick und seine Kollegen, wie wichtig es ist, „Human-in-the-Loop“-Systeme zu entwerfen, die menschlichen Input und Fachwissen im Training und Einsatz von KI-Modellen erfordern.

Stellen Sie sich KI wie ein Kleinkind vor, das Fahrradfahren lernt. Es ist eine erstaunliche Leistung, Fahrrad zu fahren, aber beim Lernen gibt es viele Stürze (Fehler). Es ist hilfreich, einen Experten und sogar Stützräder zu haben, die das Fahrrad unterstützen, während das Kind lernt. Letztendlich lernen Kinder sehr gut, Fahrrad zu fahren.“

Joseph Broderick, MD, Professor am College of Medicine der UC, leitender Berater am UC Gardner Neuroscience Institute und Direktor des NIH StrokeNet National Coordinating Center

Broderick und seine Kollegen verglichen den Einsatz von maschinellem Lernen (ML) mit generativer KI bei Schlaganfallanwendungen.

Maschinelles Lernen trainiert KI-Modelle anhand eines strukturierten und von Menschen kuratierten Datensatzes, um Ergebnisse zu klassifizieren oder vorherzusagen, die als „Grundwahrheit“ bekannt sind. Während das Trainieren dieser Modelle mit großen Datensätzen mehr menschliche Anstrengung erfordert, kann der Großteil des maschinellen Lernens mit Standard-Rechenleistung effizient durchgeführt werden.

„Ein großer Vorteil dieser ML-Modelle besteht darin, dass ihre Methoden im Allgemeinen besser interpretierbar und ihr Entscheidungsprozess transparenter sind, sodass sie verstanden und nachvollzogen werden können, was für die medizinische Validierung und biologische Plausibilität von entscheidender Bedeutung ist“, schreiben die Mitautoren.

Generative KI wird an riesigen, unbeschrifteten Textkörpern aus dem Internet, Büchern und Zeitschriften trainiert, bevor sie an spezialisierteren Datensätzen verfeinert wird. Dies bedeutet im Allgemeinen weniger menschliches Eingreifen beim Trainieren des Modells, erfordert jedoch enorme Rechenleistung und Strom.

„Die (generativen KI-)Modelle selbst haben Milliarden oder Billionen von Parametern, aber sie fungieren als ‚Black Box‘, was es schwierig macht, vollständig zu verstehen, wie oder warum eine bestimmte Ausgabe generiert wurde“, sagten die Mitautoren. „Die Erklärbarkeit großer Sprachmodelle ist ein aktives Forschungsgebiet.“

Unabhängig davon, ob maschinelles Lernen oder generative Modelle zum Einsatz kommen, müssen Schlaganfallforscher proaktiv sicherstellen, dass die Datensätze robust sind und Daten von verschiedenen Scannerherstellern, Institutionen und Patienten berücksichtigen, um die Generalisierbarkeit zu verbessern.

„Wenn wir schlechte oder begrenzte Daten verwenden und menschliche Experten die schlechten Daten oder Klassifizierungen nicht korrigieren, kann die KI ungenaue und falsche Empfehlungen hervorbringen“, sagte Broderick. „Meine größte Sorge ist, wenn KI auf schlechten Daten trainiert wird und Antworten gibt, die schädlich sein können.“

Forscher müssen außerdem strenge Protokolle und Sicherheitsvorkehrungen entwickeln, um die zum Training der Modelle verwendeten Patienteninformationen privat und HIPAA-konform zu halten. Dies könnte darin bestehen, dass unabhängige Dritte wie die American Heart Association zentral anonymisierte Patientendaten sammeln, bevor sie an KI-Modelle weitergeleitet werden, oder Modelle nur mit Daten von jeder einzelnen Institution trainieren, bevor sie die gelernten Parameter breiter teilen.

„Der Schutz der Privatsphäre von Patienten stellt eine große Herausforderung bei der Verwendung klinischer Daten für das Training von KI im Gesundheitswesen dar, und der Austausch selbst anonymisierter Daten zwischen Ländern wird durch unterschiedliche Gesetze zum Datenaustausch in verschiedenen Ländern noch schwieriger“, schreiben die Mitautoren. „Neue Methoden der Modellentwicklung versprechen, einige dieser Datenschutzbedenken auszuräumen.“

Nachdem robuste Schlaganfall-KI-Modelle von Menschen entwickelt und validiert wurden, gehören laut Broderick mögliche Anwendungen dazu, potenzielle Studienteilnehmer besser zu identifizieren, Studiendesigns den Patienten in Laiensprache zu vermitteln, Studieninformationen für nicht englischsprachige Patienten in verschiedene Sprachen zu übersetzen und dabei zu helfen, die beste Behandlung für jeden einzelnen Patienten zu ermitteln.

„Wir reden schon seit einiger Zeit über Präzisionsmedizin, aber KI ist ein großer Schritt vorwärts, um dies zu erreichen“, sagte er.

Zusätzlich zur KI diskutierten die Autoren neue klinische Studiendesigns, wie z. B. Plattformstudien, mit denen mehrere Forschungsfragen gleichzeitig effizienter getestet und neue Fragen hinzugefügt werden können, wenn ältere Fragen beantwortet werden. Ein weiterer wichtiger Schwerpunkt für die Zukunft sind pragmatische Studien, die darauf abzielen, die Wirksamkeit von Behandlungen bei ihrer Implementierung in die klinische Routineversorgung und nicht unter idealisierten Bedingungen zu bewerten.

Durch den Vergleich bestehender Behandlungen, die Einbettung von Studienabläufen in normale klinische Arbeitsabläufe und die Nutzung von Daten aus der elektronischen Gesundheitsakte können Forscher und Organisationen die mit dieser Art pragmatischer Studien verbundenen Kosten senken und ihre Infrastruktur vereinfachen. Pragmatische Designs erhöhen hoffentlich die Chancen, dass ein Versuch erfolgreich, zeitnah und kostengünstig durchgeführt wird.

Schließlich braucht die Schlaganfallforschungsgemeinschaft mehr Engagement der Gemeinschaft und der Patienten. Dazu sollten Beiträge des vor Ort tätigen medizinischen Personals (Rettungsassistenten, Ärzte in Transfer- und Empfangseinrichtungen sowie Studienkoordinatoren) gehören, das Schlaganfallpatienten in klinische Studien einschreibt und behandelt.

Es sollten gemeinsame Ziele für eine Studie festgelegt werden, um die Belastung von Patienten und Prüfärzten durch die Teilnahme an der Studie zu minimieren, die Teilnahme an der Studie nach Möglichkeit auf gemeindenahe Einrichtungen auszudehnen und die Studienergebnisse schnell an Patienten, Kliniker und die Öffentlichkeit weiterzugeben.

„Die Zukunft ist rosig und wir werden mit diesen neuen Werkzeugen große Forschungsfortschritte machen“, sagte Broderick. „Gleichzeitig besteht der eigentliche Test unserer heutigen Zeit mit der rasanten Verbreitung von KI in unserem täglichen Leben darin, in einem Meer von Wörtern, Bildern und Videos, die falsch, schädlich oder ungenau sein können, genaue Daten und Wahrheiten zu erkennen.“

„Feuer kann ein Haus genauso leicht niederbrennen, wie es den Körper wärmt oder eine Mahlzeit kocht“, fuhr er fort. „KI ist ein Feuer, das sich schnell ausbreitet, aber wir fangen gerade erst an zu lernen, wie wir es am besten sicher und klug einsetzen können.“

Quellen: