Studie: Einzelpersonen zeigen weniger Vertrauen in von KI vorgeschlagene präventive Pflegemaßnahmen

Forscher unter der Leitung der Nanyang Technological University, Singapur (NTU Singapur) haben herausgefunden, dass Einzelpersonen weniger Vertrauen in von künstlicher Intelligenz (KI) vorgeschlagene präventive Pflegemaßnahmen zeigen, als wenn die gleichen Maßnahmen von Experten für menschliche Gesundheit veranlasst werden.
Vorbeugende Pflegemaßnahmen sind Aktivitäten, die darauf abzielen, Gesundheitsrisiken zu verringern, wie z. B. die Durchführung eines Gesundheitsscreenings, die Steigerung der körperlichen Aktivität und der Erhalt einer Impfung.
Bei der Untersuchung von 15.000 Benutzern einer mobilen Gesundheitsanwendung in Südkorea stellten die Forscher fest, dass die Betonung der Einbeziehung eines Experten für menschliche Gesundheit in eine von KI vorgeschlagene Intervention deren Akzeptanz und Wirksamkeit verbessern könnte.
Diese Ergebnisse deuten darauf hin, dass das menschliche Element wichtig bleibt, auch wenn der Gesundheitssektor zunehmend KI einsetzt, um Patienten effizienter zu untersuchen, zu diagnostizieren und zu behandeln. Die Ergebnisse könnten auch zur Gestaltung effektiverer KI-gestützter Präventionsmaßnahmen beitragen, sagten die Forscher.
Assistenzprofessor Hyeokkoo Eric Kwon von der NTU Nanyang Business School (NBS), der die Studie leitete, sagte: „Trotz des Potenzials der künstlichen Intelligenz, qualitativ hochwertigere Interventionen bereitzustellen, haben wir festgestellt, dass die Menschen weniger Vertrauen in Gesundheitsinterventionen haben, die von KI vorgeschlagen oder von KI abgeleitet werden allein, im Vergleich zu denen, die ihrer Meinung nach auf menschlicher Expertenmeinung beruhen.Unsere Studie zeigt, dass das affektive menschliche Element, das mit Emotionen und Einstellungen verbunden ist, auch dann wichtig bleibt, wenn Gesundheitsinterventionen zunehmend von KI gesteuert werden, und dass diese Technologie funktioniert am besten, wenn es Menschen ergänzt, anstatt sie zu ersetzen.“
Diese Studie spiegelt die Bemühungen der NTU im Rahmen von NTU2025 wider, dem strategischen Fünfjahresplan der Universität, der sich mit den großen Herausforderungen der Menschheit wie den Auswirkungen der Technologie auf die Menschheit befasst. Die von NTU NBS an der Schnittstelle von Wirtschaft und Gesundheitstechnologie durchgeführte Studie unterstreicht auch die Stärke und den Fokus der NTU auf interdisziplinäre Forschung.
Die Ergebnisse wurden in einem Artikel in der wissenschaftlichen Zeitschrift Production and Operations Management veröffentlicht, der gemeinsam mit Assistant Professor Nakyung Kyung von der National University of Singapore verfasst wurde.
Höhere Akzeptanz für humanbasierte Gesundheitsinterventionen
Um die Benutzerwahrnehmung von von künstlicher Intelligenz (KI) vorgeschlagenen vorbeugenden Gesundheitsmaßnahmen im Vergleich zu den von Menschen vorgeschlagenen zu untersuchen, rekrutierte das Forschungsteam 9.000 Benutzer einer mobilen Gesundheits-App in Südkorea.
Über die App erhielten diese Benutzer eine Popup-Benachrichtigung, die sie dazu aufforderte, eine bestimmte Anzahl von Schritten zu gehen, die für jeden Benutzer über einen KI-Algorithmus generiert wurde. Die App misst dann die Anzahl der Schritte, die von Benutzern unternommen wurden, die sich für diese Gesundheitsintervention entschieden haben.
Für 3.000 Benutzer in der von KI vorgeschlagenen Interventionsgruppe lautete ihre Popup-Benachrichtigung: „KI empfiehlt, dass Sie in den nächsten sieben Tagen gehen (personalisiertes Schrittziel). Möchten Sie teilnehmen?“ Weitere 3.000 in der vom Menschen vorgeschlagenen Intervention erhielten eine Benachrichtigung mit folgendem Wortlaut: „Gesundheitsexperte empfiehlt, dass Sie in den nächsten sieben Tagen gehen (personalisiertes Schrittziel). Möchten Sie teilnehmen?“
Eine Kontrollgruppe von 3.000 Benutzern erhielt die neutrale Intervention, die weder KI noch einen Gesundheitsexperten erwähnte.
Von den Benutzern, die die von der KI vorgeschlagene Intervention erhielten, akzeptierten 19 % die Intervention. Etwa 10 % dieser Gruppe erreichten anschließend am Ende der Woche ihr persönliches Schrittziel. Mehr Benutzer in der Gruppe, die die vom Menschen vorgeschlagene Intervention erhalten haben, akzeptierten die Intervention (22 %) und erreichten ihr Ziel (13 %).
Verbesserung der Wirksamkeit von KI-vorgeschlagenen Interventionen
Das Forschungsteam erweiterte dann seine Studie um zwei weitere Gruppen von 3.000 Nutzern derselben mobilen App.
Eine Gruppe erhielt eine Intervention, die den Einsatz von KI in Zusammenarbeit mit Gesundheitsexperten offenlegte. Die andere Gruppe erhielt eine Intervention, die erklärte, wie KI die Interventionen generierte (siehe Tabelle 1 unten).
Die Benutzer akzeptierten eher die Gesundheitsintervention, die zeigte, wie KI verwendet wurde, um die Meinung eines Gesundheitsexperten zu ergänzen (27 %), im Vergleich zu rein KI-vorgeschlagenen oder von Menschen vorgeschlagenen Interventionen. 19 % dieser Gruppe erreichten ihr persönliches Schrittziel.
Die Transparenz darüber, wie KI zur Generierung des personalisierten Schrittziels verwendet wurde, führte auch zu einer höheren Akzeptanzrate (21 %). Von dieser Gruppe erreichten 13 % ihr Ziel.
Obwohl die Studie im Kontext der Gesundheitsvorsorge durchgeführt wurde, glauben die Forscher, dass ihre Ergebnisse auch in anderen Kontexten angewendet werden könnten, in denen affektives Vertrauen eine bedeutende Rolle spielt, wie z. B. Reisen, Bildung, Rechts- und Versicherungsdienstleistungen.
Quelle:
Technische Universität Nanyang, Singapur
.