Der findes et øjeblik i næsten hver eneste kundesamtale, hvor alt går i stå. Kunden har oplyst ordrenummeret, agenten har forstået det, og så skal noget slås op i et system, der bruger nogle sekunder på at svare. I de sekunder sker der ingenting. Ingen ventemusik, ingen vejrtrækning, ingenting. Bare en åben linje.
Nogle sekunder er ikke lang tid. I telefonen er det en evighed, fordi tavshed i en samtale altid betyder noget: enten har den anden lagt på, eller også har du sagt noget dumt. Den, der ringer, begynder næsten altid at tale ind i den – «hallo?» – og så kommer svaret samtidig, og begge må begynde forfra.
I denne uge fremlagde Google sit svar på netop det problem.
Det, der faktisk kom
Den 15. september lancerede Google to nye talemodeller, Gemini 3.8 Live og Gemini 3.8 Live Extended Thinking. Begge er tale-til-tale-modeller: de hører lyd og laver lyd uden at gå vejen om et transskriptionstrin, en tekstmodel og en talesyntese.
Overskrifterne har handlet om listeplaceringen. Extended Thinking tog førstepladsen på Artificial Analysis' Speech to Speech Quality Index med 82,6 point og scorer 68,6 procent på τ-Voice og 97,7 procent på Big Bench Audio.
De tal er ikke det interessante her, og de er under alle omstændigheder ikke målt på jeres telefonlinje. Det interessante står længere nede i dokumentationen under en overskrift, der hedder asynkrone funktionskald.
To ure i den samme samtale
Sådan har det stort set fungeret indtil nu: når agenten har brug for noget fra et bagvedliggende system, går samtalen i stå. Modellen sender forespørgslen, venter på svaret og fortsætter først, når det kommer. Ét ur, og alt hænger på det.
Asynkrone værktøjskald betyder, at der kører to ure på samme tid. Opslaget går i gang, og modellen bliver ved med at producere lyd, mens det står på. Google beskriver det sådan, at agenten med det samme siger noget i retning af «det skal jeg lige tjekke» og derefter fortæller, hvor langt den er nået, indtil svaret lander.
Det er ikke en lille forbedring af talekvaliteten. Det er den ene del af en stemmeagent, som en bedre model ikke kunne gøre noget ved før, fordi problemet aldrig lå i modellen. Det lå i, at et lagersystem bruger den tid, det bruger.
Der, hvor den nye fejl ligger
Tavsheden var et irritationsmoment. Det, der erstatter den, kan blive et løfte.
En agent, der fylder ventetiden med snak, fylder den med noget. Og det, den finder på at sige, mens den venter, er formuleret uden det svar, den venter på. Det er en model, der beskriver et arbejde, som endnu ikke er færdigt, og som derfor må gætte på retningen.
«Jeg kigger på din bestilling nu, og det ser ud til, at den er på vej» er en helt naturlig ting for en agent at sige, mens et opslag står på. Det er også en påstand om en pakke, ingen har tjekket endnu. Kommer svaret tilbage med, at forsendelsen er annulleret, har agenten allerede sagt noget andet – og det, agenten siger, kan binde jer.
Det er ikke et argument imod funktionen. Det er et argument for, at ventereplikkerne skal skrives, ikke improviseres. Et værktøj uden ventereplik og fejlreplik er et ufærdigt værktøj, og med asynkrone kald gælder det dobbelt: nu er det ikke længere én sætning, der skal dække ventetiden, men en hel lille fortælling, agenten selv fylder ud.
Reglen er enkel nok at skrive ned. Alt, hvad agenten siger, før svaret er landet, skal beskrive, hvad den gør – ikke hvad den tror, den kommer til at finde. «Jeg henter ordren frem» er trygt. «Jeg henter ordren frem, den ligger nok klar» er det ikke.
