Det finns ett ögonblick i nästan varje kundsamtal där allt stannar. Kunden har läst upp ordernumret, agenten har uppfattat det, och så ska något slås upp i ett system som tar några sekunder på sig att svara. Under de sekunderna händer ingenting. Ingen väntmusik, ingen andning, ingenting. Bara en öppen linje.
Några sekunder är inte lång tid. I telefon är det en evighet, eftersom tystnad i ett samtal alltid betyder något: antingen har den andra lagt på, eller så har du sagt något dumt. Den som ringer börjar nästan alltid prata in i den – «hallå?» – och då kommer svaret samtidigt, och båda måste börja om.
Den här veckan lade Google fram sitt svar på just det problemet.
Det som faktiskt kom
Den 15 september släppte Google två nya talmodeller, Gemini 3.8 Live och Gemini 3.8 Live Extended Thinking. Båda är tal-till-tal-modeller: de hör ljud och skapar ljud, utan att gå vägen om ett transkriberingssteg, en textmodell och en talsyntes.
Rubrikerna har handlat om listplaceringen. Extended Thinking tog förstaplatsen på Artificial Analysis Speech to Speech Quality Index med 82,6 poäng och når 68,6 procent på τ-Voice och 97,7 procent på Big Bench Audio.
De siffrorna är inte det intressanta här, och de är hur som helst inte mätta på er telefonlinje. Det intressanta står längre ner i dokumentationen, under en rubrik som heter asynkrona funktionsanrop.
Två klockor i samma samtal
Så här har det i stort sett fungerat hittills: när agenten behöver något från ett bakomliggande system stannar samtalet. Modellen skickar förfrågan, väntar på svaret och fortsätter först när det kommer. En klocka, och allt hänger på den.
Asynkrona verktygsanrop innebär att två klockor går samtidigt. Uppslagningen startar, och modellen fortsätter att producera ljud medan den pågår. Google beskriver det så att agenten direkt säger något i stil med «det ska jag kolla» och därefter berättar hur långt den har kommit, ända tills svaret landar.
Det är inte en liten förbättring av talkvaliteten. Det är den ena delen av en röstagent som en bättre modell inte kunde göra något åt tidigare, eftersom problemet aldrig låg i modellen. Det låg i att ett lagersystem tar den tid det tar.
Där det nya felet ligger
Tystnaden var ett irritationsmoment. Det som ersätter den kan bli ett löfte.
En agent som fyller väntetiden med prat fyller den med något. Och det den hittar på att säga medan den väntar är formulerat utan det svar den väntar på. Det är en modell som beskriver ett arbete som ännu inte är klart, och som därför måste gissa åt vilket håll det lutar.
«Jag tittar på din beställning nu, och det ser ut som att den är på väg» är en helt naturlig sak för en agent att säga medan en uppslagning pågår. Det är också ett påstående om ett paket som ingen har kontrollerat ännu. Kommer svaret tillbaka med att försändelsen är annullerad har agenten redan sagt något annat – och det agenten säger kan binda er.
Det här är inget argument mot funktionen. Det är ett argument för att väntereplikerna ska skrivas, inte improviseras. Ett verktyg utan väntereplik och felreplik är ett ofärdigt verktyg, och med asynkrona anrop gäller det dubbelt: nu är det inte längre en mening som ska täcka väntetiden, utan en hel liten berättelse som agenten fyller i själv.
Regeln är enkel nog att skriva ner. Allt agenten säger innan svaret har landat ska beskriva vad den gör – inte vad den tror att den kommer att hitta. «Jag tar fram ordern» är tryggt. «Jag tar fram ordern, den ligger nog klar» är det inte.
