Én kundesamtale, ledd for ledd: sju punkter der den ryker

Den 10. september la OpenAI ut GPT-Live-1 i API-et, til 0,05 dollar i minuttet. Prisen gjelder eksplisitt bare stemmelaget – delen som hører og snakker. Den dypere resonneringen og verktøybruken settes ut til en tekstmodell utvikleren velger, og betaler for ved siden av.

Det er en presis beskrivelse av noe som har vært sant en stund: en stemmeagent er ikke én ting. Den er en rekke ledd som må holde etter tur, innenfor noen få sekunder, i en bestemt rekkefølge. Her er én helt alminnelig samtale – en butikkeier som ringer leverandøren sin om en feillevering – og hva som må stemme i hvert ledd.

Det ringer

Første ledd har ingenting med KI å gjøre. Anropet skal fra kundens operatør, inn på nummeret deres, gjennom telefonileverandøren og fram til agenten, helst innen tre eller fire ringetoner.

Det er også det eneste leddet uten noe å falle tilbake på. Svikter det, hører kunden ingenting i det hele tatt. Hvem som eier nummeret, og hvor anropet går hvis agenten ikke svarer, avgjøres her – ikke i en diskusjon om modellvalg.

Den første setningen

Agenten sier noe. Det er den ene setningen hundre prosent av innringerne hører, og den skal gjøre fire ting samtidig: si hvem som svarer, si at det er en KI, gi en vei ut, og stille ett spørsmål som er åpent nok til at kunden begynner å fortelle.

Feilen er nesten alltid den samme. Setningen er skrevet sist, på fem minutter, av noen som skulle bli ferdig.

«Ja, hei – det gjelder en levering som kom i går»

Kunden forteller alt på én gang, i feil rekkefølge, med et sidespor om at han ringte i forrige uke også. Ingen snakker i skjemaer.

Det som må holde her, er at agenten ikke prøver å styre ham tilbake til trinn én. Den skal plukke ut det den fikk gratis – at det gjelder en levering, at den kom i går, at noe er feil – og bare spørre om det som mangler. En agent som spør om noe den allerede har fått svar på, er den raskeste måten å miste en innringer på.

Ordrenummeret

Nå skal en streng med tall leses opp, og dette er det svakeste punktet i hele kjeden på norsk. Tallene sies på to måter som begge er riktige, og telefonlinja kaster samtidig bort mye av det som skiller sifrene fra hverandre.

Det som må være sant her, er ikke at agenten hører riktig hver gang. Det er at den leser tallet tilbake når den er usikker, i stedet for å skrive inn noe som bare ser plausibelt ut.

De fire sekundene ingen sier noe

Agenten har nummeret. Nå skal noe slås opp, og oppslaget tar tid. I et kjedet oppsett er det gjerne her samtalen ryker: agenten blir taus, kunden tror linja er død, og så snakker begge samtidig.

Dette leddet er nettopp det den nye modellgenerasjonen er bygget for. OpenAI kaller det «silent context management» – å håndtere stillhet og bakgrunnsstøy uten å avbryte samtalen eller fortelle høyt om hvert steg underveis. Språklæringstjenesten Speak oppgir at avbrytelser i elevenes tenkepauser gikk ned med nærmere 80 prosent mot deres forrige, turbaserte oppsett.

Men om de fire sekundene føles riktige, avgjøres ikke av modellen alene. Det avgjøres av om noen har bestemt hva agenten gjør mens den venter – og hva den sier hvis oppslaget aldri kommer tilbake.

Svaret agenten ikke har lov til å gi

Oppslaget kommer tilbake: feil vare sendt, og det er leverandørens feil. Kunden spør om han får kreditnota.

Her slutter samtalen å handle om teknologi. Agenten kan godt formulere et svar. Spørsmålet er om noen har bestemt at den får lov. Et ja på et krav binder dere enten det kommer fra en ansatt eller fra en agent, og den grensen bør stå skrevet ned før den første samtalen, ikke etter den første klagen.

Overleveringen

Agenten setter over. Sier mennesket som tar telefonen «hei, hva gjelder det?», var de fire foregående minuttene bortkastet – og verre: kunden har nå forklart det samme to ganger til samme selskap.

Det er konteksten som går tapt i en overlevering, og den går tapt uansett hvor god stemmemodellen var. Dette leddet følger ikke med modellen. Det må bygges.

Hva et modellbytte faktisk fikser

Sju ledd. Ett av dem er stemmemodellen.

Det nyttige med at prisen nå står oppgitt for seg, er at det blir tydelig hva en oppgradering kan og ikke kan løse. En bedre stemmemodell hjelper på ledd tre, fire og fem. Den gjør ingenting med hvem som eier nummeret, hva agenten har lov til å love, eller hva mennesket får vite når det tar over.

Threll.ai bygger stemmeagenter på norsk, svensk og dansk. Gå gjennom de sju leddene i deres eget oppsett og merk av hvilke som blir bedre av en ny modell. Det er sjelden de samme leddene som faktisk stopper prosjektet.