Det finnes et øyeblikk i nesten hver eneste kundesamtale der alt stopper. Kunden har oppgitt ordrenummeret, agenten har forstått det, og så skal noe slås opp i et system som bruker noen sekunder på å svare. I de sekundene skjer det ingenting. Ingen ventemusikk, ingen pust, ingenting. Bare en åpen linje.
Noen sekunder er ikke lenge. På telefon er det en evighet, fordi stillhet i en samtale alltid betyr noe: enten har den andre lagt på, eller så har du sagt noe dumt. Innringeren begynner nesten alltid å snakke inn i den – «hallo?» – og da kommer svaret samtidig, og begge må begynne på nytt.
Denne uka la Google fram sitt svar på akkurat det problemet.
Det som faktisk kom
Den 15. september slapp Google to nye talemodeller, Gemini 3.8 Live og Gemini 3.8 Live Extended Thinking. Begge er tale-til-tale-modeller: de hører lyd og lager lyd, uten å gå veien om et transkripsjonssteg, en tekstmodell og en talesyntese.
Overskriftene har handlet om listeplasseringen. Extended Thinking tok førsteplassen på Artificial Analysis' Speech to Speech Quality Index med 82,6 poeng, og skårer 68,6 prosent på τ-Voice og 97,7 prosent på Big Bench Audio.
De tallene er ikke det interessante her, og de er uansett ikke målt på en norsk telefonlinje. Det interessante står lenger nede i dokumentasjonen, under en overskrift som heter asynkrone funksjonskall.
To klokker i samme samtale
Slik har det stort sett fungert til nå: når agenten trenger noe fra et baksystem, stopper samtalen. Modellen sender forespørselen, venter på svaret, og fortsetter først når det kommer. Én klokke, og alt henger på den.
Asynkrone verktøykall betyr at det går to klokker samtidig. Oppslaget starter, og modellen fortsetter å produsere lyd mens det pågår. Google beskriver det slik at agenten med en gang sier noe i retning av «jeg skal sjekke det», og deretter forteller hvor den er i arbeidet, helt til svaret lander.
Det er ikke en liten forbedring i talekvalitet. Det er den ene delen av en stemmeagent som en bedre modell ikke kunne gjøre noe med tidligere, fordi problemet aldri lå i modellen. Det lå i at et lagersystem bruker den tida det bruker.
Der den nye feilen ligger
Stillheten var et irritasjonsmoment. Det som erstatter den, kan bli et løfte.
En agent som fyller ventetiden med prat, fyller den med noe. Og det den finner på å si mens den venter, er formulert uten svaret den venter på. Det er en modell som beskriver et arbeid som ennå ikke er ferdig, og som derfor må gjette på retningen.
«Jeg ser på bestillingen din nå, og det ser ut som den er på vei» er en helt naturlig ting for en agent å si mens et oppslag pågår. Det er også en påstand om en pakke ingen har sjekket ennå. Kommer svaret tilbake med at forsendelsen er kansellert, har agenten allerede sagt noe annet – og det agenten sier, kan binde dere.
Dette er ikke et argument mot funksjonen. Det er et argument for at ventereplikkene må skrives, ikke improviseres. Et verktøy uten ventereplikk og feilreplikk er et uferdig verktøy, og med asynkrone kall gjelder det dobbelt: nå er det ikke lenger én setning som skal dekke ventetiden, men en hel liten fortelling agenten fyller ut selv.
Regelen er enkel nok å skrive ned. Alt agenten sier før svaret har landet, skal beskrive hva den gjør – ikke hva den tror den kommer til å finne. «Jeg henter opp ordren» er trygt. «Jeg henter opp ordren, den ligger nok klar» er det ikke.
