Telefonsentre erstattet mange legeresepsjonister. Nå kommer AI for callsentre.

Telefonsentre erstattet mange legeresepsjonister. Nå kommer AI for callsentre.

Ved et kundesenter på Filippinene hjelper arbeidere amerikanere med diabetes eller nevrologiske sykdommer med å feilsøke utstyr som overvåker helsen deres. Noen ganger får de akutte oppringninger: eldre pasienter som er alene og har en medisinsk nødsituasjon.

"Dette er ikke en del av våre ansattes jobb eller vår tekniske støtte," sa Ruth Elio, en yrkesfaglig sykepleier som veiledet senterets arbeidere, da hun snakket med KFF Health News i fjor. "De gjør det likevel fordi det er viktig."

Elio hjalp også arbeidere med sine egne helseproblemer, oftest hodepine eller ryggsmerter påført fra et stillesittende liv i timevis.

På et annet kundesenter i USA transkriberte Kevin Asuncion medisinske besøk fra en halv verden unna. Du kan venne deg til timene, sa han i et intervju i fjor: 20.00. til 05.00 gikk pausene for det meste med til å sove. Da er ikke mye åpent.

Helserisiko og nattevakter til side, ansatte i kundesenter har en ny bekymring: kunstig intelligens.

Startups markedsfører AI-produkter med naturtro stemmer for å planlegge eller kansellere legebesøk, fylle på resepter og hjelpe triage pasienter. Snart kan mange pasienter ta kontakt med helsevesenet, ikke ved å snakke med en kundesenterarbeider eller resepsjonist, men med AI. Zocdoc, bedriftsavtaleselskapet, har lansert en automatisert assistent som sier at den kan planlegge besøk uten menneskelig innblanding 70 % av tiden.

Den medisinsk fokuserte kundesenterarbeidsstyrken på Filippinene er stor: 200 000 innen utgangen av 2024, anslår Jack Madrid, leder av industrihandelsgruppen. Dette tallet er mer enn antallet paramedikere i USA ved utgangen av 2023, ifølge Bureau of Labor Statistics. Og noen arbeidsgivere åpner utposter i andre land som India og bruker AI for å forme eller erstatte arbeidsstyrken.

Likevel er det uklart om AIs digitale manipulasjoner kan matche den velkjente menneskelige berøringen. En fersk studie i Nature Medicine fant at selv om noen modeller kan diagnostisere sykdommer når de blir presentert med en hermetisk anekdote, som potensielle leger under opplæring, har AI problemer med å fremkalle informasjon fra simulerte pasienter.

"Forholdet eller tilliten vi gir eller følelsene vi har som mennesker kan ikke erstattes," sa Elio.

Sachin Jain, president og administrerende direktør for Scan Health Plan, et forsikringsselskap, sa at mennesker har kontekst som AI ikke har - i hvert fall foreløpig. En resepsjonist i en liten praksis kan kanskje kjenne pasientene godt nok til å fange opp subtile ledetråder og kommunisere til legen at en bestemt oppringer er "noen du ser den dagen, det minuttet eller den uken du bør snakke med."

Omdreiningen mot kundesentre, mens det skapte større avstand mellom en innringer og en helsepersonell, bevarte den menneskelige berøringen. Men noen kundesenteragenter og deres talsmenn sier måten de blir overvåket på på jobben undergraver omsorgen. På et Kaiser Permanente-sted er det et "veldig mikroadministrerende miljø," sa en sykepleier som ba om å ikke oppgi navnet sitt av frykt for represalier.

"Fra begynnelsen av skiftet til slutten vil du bli forventet å ta samtale etter samtale etter samtale fra en åpen kø," sa hun. Selv om han gir råd for komplekse saker, "er det en uskreven regel om hvor lang tid en sykepleier skal tillate per samtale: 12 minutter."

I mellomtiden blir jobben tøffere, sa hun. "Vi er backup av helsevesenet. Vi har åpent 24 timer i døgnet," sa hun. "De etterlyser snittstedene deres, som bløder. Barnet ditt har astma, og medisininstruksjonene er ikke klare."

Et sykepleierforbund protesterer mot et potensielt AI-styringsverktøy i callsentre.

"AI-verktøy tar ikke medisinske avgjørelser," sa Kaiser Permanente-talsmann Vincent Staupe til KFF Health News. "Våre leger og omsorgsteam er alltid i sentrum for beslutningstaking med våre pasienter og i alle våre omsorgsmiljøer, inkludert kundesentre."

Kaiser Permanente er ikke tilknyttet KFF, en ideell helseinformasjonsorganisasjon som inkluderer KFF Health News.

Noen selskaper rapporterer 30% til 50% omsetningshastigheter - statistikk som noen sier henvender seg til AI for å overlate arbeid.

Callsentre "kan ikke beholde folk fordi det bare er en virkelig, virkelig utfordrende jobb," sa Adnan Iqbal, medgründer og administrerende direktør i Luma Health, som lager AI-produkter for å automatisere noe callsenterarbeid. Ikke så rart: "Hvis du blir kjeftet på av en pasient, et forsikringsselskap, en ansatt, du kaller det, hvert 90. sekund?"

For å høre bedriftsledere si, er kundene deres frustrerte: I stedet for den menneskelige berøringen, får pasientene ingenting i det hele tatt, hemmet av lange ventetider og skjulte, maktløse arbeidere.

En gang fikk Marissa Moore – en investor i Omers Ventures – en smak av pasientens frustrasjoner da han prøvde å avtale et besøk på telefon ved fem legekontorer. "I hver eneste en fikk jeg en tredjepart som ikke hadde Intel for leverandører på kontoret, deres tilgjengelighet eller noe."

Denne typen håndtak blir mer vanlig – og tiltrekker seg oppmerksomhet fra investorer og selskaper.

Kundeklager påvirker forpliktelsene til selskaper - som helseforsikringsselskaper, som kan bli belønnet for bedre kundeservice gjennom den føderale regjeringens Medicare Advantage-policyer.

Da Scan la merke til en nedgang i pasientanmeldelser for noen av medisinske leverandørene i forsikringsnettverket, fikk de vite at disse leverandørene hadde byttet til sentraliserte kundesentre. Kundeservice led og de lavere rangeringene ble oversatt til lavere betalinger fra den føderale regjeringen, sa Jain.

"Det er et nivå av misnøye som har blusset opp blant våre pasienter," sa han.

For noen selskaper ser forestillingen om en datamaskinresepsjonist ut til å være en velkommen løsning på problemet med ineffektive kundesentre. AI-stemmer som på en overbevisende måte kan etterligne menneskelige stemmer, er "beyond the uncanny valley," sa Richie Cartwright, grunnleggeren av Fella, en vekttapstartup som har brukt et AI-produkt til å ringe apotek og spørre om de har GLP-1-rekvisita på lager.

Prisene har også falt. Prisen på Google AI har falt med 97 %, hevdet Sundar Pichai, selskapets administrerende direktør, i en tale i 2024.

Noen boostere er glade for å sette visjonen til AI-assistenter ut i livet. Siden den andre Trump-administrasjonen har de politiske initiativene til Elon Musks kvasi-byrå som regjeringsdepartementet angivelig studert kunstig intelligens-roboter for kundeservice ved utdanningsdepartementet.

De fleste ledere spurt av KFF Health News – innen sykehus, forsikring, ingeniørfag og konsulentfag – ønsket å understreke at AI ville utfylle mennesker, ikke erstatte dem. Noen tydde til sjargong og hevdet at teknologien kunne gjøre sykepleiere og ansatte i telefonsenteret mer effektive og effektive.

Noen selskaper signaliserer imidlertid at deres AI-modeller kan erstatte menneskelige arbeidere. Nettsidene deres antyder at tilliten til personalet er redusert. Og de utvikler prisstrategier basert på å redusere arbeidsbehovet, sa Michael Yang, en venturekapitalist i Omers.

Yang beskrev utsiktene for selskaper som en "vi-deler-på-opp-siden"-type ting, med startups som betaler kundene for kostnadene for 1½ ansettelser og deres AI gjør dobbelt så mye arbeid.

Men tilbydere bygger for tiden smale tjenester. For eksempel startet University of Arkansas for medisinske vitenskaper med en begrenset idé. Organisasjonens kundesenter stenger klokken 17.00. - Dette betyr at pasienter som forsøker å kansellere avtaler etter arbeidstid har lagt igjen en telefonmelding, noe som skaper et etterslep for arbeidere som ble ubegrenset av andre planleggingsoppgaver og avlyste avtaler neste morgen. Så de brukte et AI-system levert av Luma Health for å muliggjøre avbestillinger etter arbeidstid og har siden utvidet det slik at pasienter kan avbestille avtaler i løpet av dagen.

Michelle Winfeld-Hanrahan, helsesystemets sjef for klinisk tilgang som fører tilsyn med utplasseringen, sa at UAMS har mange ideer for mer automatisering, inkludert å la pasienter gjennomgå tidligere autorisasjoner og veilede dem gjennom oppfølging etter utskrivning.

Mange ledere hevder at AI-verktøy kan utfylle i stedet for å erstatte mennesker. Et selskap sier at produktet deres kan måle "vokale biomarkører" - subtile endringer i tone eller bøyning - som korrelerer med sykdom og gir den informasjonen til menneskelige arbeidere som samhandler med pasienten. Noen selskaper bruker store språkmodeller for å oppsummere komplekse dokumenter: dokumentere forsikringer eller hente nødvendig informasjon til ansatte. Andre er interessert i AI som leder et menneske gjennom en samtale.

Selv om teknologi ikke erstatter mennesker, forvandler den dem. AI kan brukes til å endre menneskelig atferd og presentasjon. Call center-ansatte sa i intervjuer at de visste om eller hadde hørt gjennomgripende rykter eller fryktet en rekke AI-verktøy.

Ved noen Kaiser-telefonsentre protesterte organiserte ansatte – og forsinket vellykket – implementeringen av et AI-verktøy for å måle «aktiv lytting», hevdet en fagforeningsfolder.

Og ansatte og ledere knyttet til kundesenterets arbeidsstyrke på Filippinene sa at de hadde hørt om andre programvareverktøy, for eksempel teknologi, som endret filippinske aksenter til amerikanske. Gitt våre relativt nøytrale aksenter, "er det ikke et super stort behov for det, men vi har sett det," sa Madrid, handelsgruppens leder.

"Bare fordi noe kan automatiseres, betyr det ikke at det burde være det," sa han.

Kilder: