Onderzoek: Individuen tonen minder vertrouwen in door AI voorgestelde preventieve zorginterventies

Onderzoek: Individuen tonen minder vertrouwen in door AI voorgestelde preventieve zorginterventies

Onderzoekers onder leiding van de Nanyang Technological University, Singapore (NTU Singapore) hebben ontdekt dat individuen minder vertrouwen tonen in preventieve zorgmaatregelen die worden voorgesteld door kunstmatige intelligentie (AI) dan wanneer dezelfde maatregelen worden ingegeven door deskundigen op het gebied van de menselijke gezondheid.

Preventieve zorgmaatregelen zijn activiteiten gericht op het verminderen van gezondheidsrisico's, zoals: B. het voltooien van een gezondheidsonderzoek, het verhogen van de lichamelijke activiteit en het krijgen van een vaccinatie.

Door 15.000 gebruikers van een mobiele gezondheidsapplicatie in Zuid-Korea te bestuderen, ontdekten onderzoekers dat het benadrukken van de opname van een menselijke gezondheidsexpert in een door AI voorgestelde interventie de aanvaardbaarheid en effectiviteit ervan zou kunnen verbeteren.

Deze resultaten suggereren dat het menselijke element belangrijk blijft, ook al gebruikt de gezondheidszorg steeds vaker AI om patiënten efficiënter te screenen, diagnosticeren en behandelen. De resultaten kunnen ook helpen bij het ontwerpen van effectievere, door AI aangedreven preventiemaatregelen, aldus de onderzoekers.

Assistent-professor Hyeokkoo Eric Kwon van de NTU Nanyang Business School (NBS), die het onderzoek leidde, zei: “Ondanks het potentieel van kunstmatige intelligentie om interventies van hogere kwaliteit te leveren, ontdekten we dat mensen minder vertrouwen hebben in gezondheidsinterventies die door AI worden gesuggereerd of die alleen uit AI zijn afgeleid, vergeleken met de interventies waarvan zij denken dat ze op de mens zijn gebaseerd.” aangedreven door AI, en dat deze technologie het beste werkt als ze mensen aanvult in plaats van vervangt.”

Deze studie weerspiegelt de inspanningen van NTU als onderdeel van NTU2025, het vijfjarige strategische plan van de universiteit dat de grote uitdagingen van de mensheid aanpakt, zoals de impact van technologie op de mensheid. Het onderzoek, uitgevoerd door NTU NBS op het snijvlak van bedrijfs- en gezondheidstechnologie, benadrukt ook de kracht en focus van NTU op interdisciplinair onderzoek.

De resultaten zijn gepubliceerd in een artikel in het wetenschappelijke tijdschrift Production and Operations Management, geschreven in samenwerking met assistent-professor Nakyung Kyung van de National University of Singapore.

Grotere acceptatie van op de mens gebaseerde gezondheidsinterventies

Om de gebruikerspercepties van door kunstmatige intelligentie (AI) voorgestelde preventieve gezondheidsmaatregelen te vergelijken met die van mensen, rekruteerde het onderzoeksteam 9.000 gebruikers van een mobiele gezondheidsapp in Zuid-Korea.

Via de app ontvingen deze gebruikers een pop-upmelding waarin ze werden gevraagd een bepaald aantal stappen te zetten, die voor elke gebruiker werden gegenereerd via een AI-algoritme. De app meet vervolgens het aantal stappen dat gebruikers zetten die voor deze gezondheidsinterventie hebben gekozen.

Voor 3.000 gebruikers in de voorgestelde interventiegroep van AI luidde hun pop-upmelding: "AI raadt aan dat u in de komende zeven dagen gaat wandelen (gepersonaliseerd stappendoel). Wilt u deelnemen?" Nog eens 3.000 mensen in de door mensen voorgestelde interventie ontvingen een melding met de tekst: "Gezondheidsexpert raadt aan dat u de komende zeven dagen gaat wandelen (gepersonaliseerd stappendoel). Wilt u meedoen?"

Een controlegroep van 3.000 gebruikers ontving de neutrale interventie, waarbij geen melding werd gemaakt van AI of een gezondheidswerker.

Van de gebruikers die de door de AI voorgestelde interventie ontvingen, accepteerde 19% de interventie. Ongeveer 10% van deze groep heeft vervolgens aan het eind van de week het persoonlijke stappendoel behaald. Meer gebruikers in de groep die de door mensen voorgestelde interventie ontvingen, accepteerden de interventie (22%) en bereikten hun doel (13%).

Verbetering van de effectiviteit van door AI voorgestelde interventies

Het onderzoeksteam breidde vervolgens hun onderzoek uit met twee extra groepen van 3.000 gebruikers van dezelfde mobiele app.

Eén groep ontving een interventie die in samenwerking met gezondheidsexperts het gebruik van AI aan het licht bracht. De andere groep ontving een interventie waarin werd uitgelegd hoe AI de interventies genereerde (zie Tabel 1 hieronder).

Het was waarschijnlijker dat gebruikers de gezondheidsinterventie accepteerden die liet zien hoe AI werd gebruikt om de mening van een zorgverlener aan te vullen (27%), vergeleken met puur door AI voorgestelde of door mensen voorgestelde interventies. 19% van deze groep behaalde zijn persoonlijke stappendoel.

Transparantie over hoe AI werd gebruikt om het gepersonaliseerde stappendoel te genereren, leidde ook tot een hoger adoptiepercentage (21%). Van deze groep heeft 13% het doel bereikt.

Hoewel het onderzoek werd uitgevoerd in de context van de gezondheidszorg, zijn de onderzoekers van mening dat hun resultaten ook kunnen worden toegepast in andere contexten waar affectief vertrouwen een belangrijke rol speelt, zoals: B. Reizen, onderwijs, juridische en verzekeringsdiensten.

Bron:

Technische Universiteit Nanyang, Singapore

.