Vai al contenuto
Descrivete un processo. DRING vi chiama in due minuti e qualifica l'esigenza. Vi chiamiamo in due minuti
Vi chiamiamo in 2 minuti Scoprite l'Agent Factory
Gestione dell'AI vocale · Misura della latenza

Perché l'agente AI fa aspettare i clienti

La pausa dopo che il cliente ha finito di parlare è la somma di sei parti. Misurate ogni turno, leggete i più lenti e correggete la parte che porta via più tempo.

In breve

Quando il cliente smette di parlare e sente solo silenzio, raramente la pausa dipende da una sola cosa lenta. È la somma di sei parti: Fine turno, Trascrizione, Ragionamento, Ricerca, Avvio voce e Linea. La Ricerca c'è solo nei turni con ricerca, quelli in cui l'agente consulta un sistema, per esempio lo stato di un ordine. Tutti gli altri sono turni semplici.

In questa guida chiamiamo pausa il tempo che va dal momento in cui il cliente smette di parlare al primo suono dell'agente, così come lo sente il cliente. La media delle pause nasconde proprio i turni che i clienti ricordano. Quindi misurate ogni turno, separate i turni semplici da quelli con ricerca e leggete la mediana e il 90° percentile.

Poi trovate la parte più lunga in ciascuno dei turni più lenti. La parte che più spesso risulta la più lunga è la prima da correggere. Cambiate una parte alla volta e tenete d'occhio il segnale opposto: un agente che aspetta meno prima di rispondere può cominciare a interrompere i clienti. Dove l'attesa è inevitabile, un aggiornamento a voce anticipa il primo suono. Non anticipa la risposta.

Non copiate un valore obiettivo trovato altrove. Cercate la durata della pausa oltre la quale i vostri clienti cominciano a dire «Pronto?» nel silenzio. Quella è la vostra soglia.

Il nostro articolo su dove riattaccano i clienti nelle chiamate AI individua la fase in cui i clienti se ne vanno. Questa guida scende di un livello: perché il silenzio è lungo e quale parte correggere. Tutti i numeri che seguono sono un esempio: non sono dati DRING né dati di settore.

Le sei parti della pausa

Tra l'ultima parola del cliente e il primo suono dell'agente, il tempo si divide in sei parti. Questa guida le elenca sempre in quest'ordine:

ParteCosa succedeCosa la allunga di solitoCome si misura
Fine turnoIl sistema decide che il cliente ha finito.Aspetta un lungo silenzio prima di decidere.Dalla fine del parlato del cliente sulla vostra registrazione alla decisione del sistema
TrascrizioneIl testo del riconoscimento vocale diventa definitivo.Il testo definitivo arriva solo dopo l'elaborazione dell'intera frase.Dalla decisione al testo definitivo
RagionamentoIl modello decide cosa fare e scrive la risposta.Una prima frase lunga, un prompt molto esteso, una lunga catena di ragionamento prima di parlare.Dal testo definitivo alla risposta. Nei turni con ricerca sono due tratti: fino alla richiesta della Ricerca e dal risultato della Ricerca alla risposta
RicercaUn controllo in un sistema, per esempio lo stato di un ordine. Solo nei turni con ricerca.Un sistema lento, controlli eseguiti uno dopo l'altro, nessun tempo massimo.Dalla richiesta alla risposta del sistema
Avvio voceLa voce produce il primo audio della risposta.La voce aspetta tutto il testo della risposta prima di partire.Da quando il testo della risposta arriva alla voce a quando il primo audio esce dal vostro sistema
LineaTelefonia e rete trasportano l'audio nei due sensi.Instradamenti lunghi, regioni lontane, reti mobili deboli.Chiamate di prova da telefoni normali, registrate dal lato di chi chiama

Due parti si dividono in due tratti. Nei turni con ricerca il modello lavora prima della Ricerca, per decidere cosa controllare, e dopo, per formulare la risposta. Entrambi i tratti contano come Ragionamento. La Linea si divide in due tratti a ogni turno: la voce del cliente che raggiunge il vostro sistema e la voce dell'agente che raggiunge il cliente. Entrambi i tratti contano come Linea.

Come misurare ogni turno

Misurate i turni, non le chiamate: nella media di una chiamata, un turno con ricerca lento può nascondersi tra sette turni veloci. Date a ogni turno una riga con gli stessi campi. I valori di esempio sono quelli del turno lento che vedrete più avanti in questa guida. Esempio, non dati reali.

CampoCosa contieneValore di esempio
ID chiamataUn unico ID comune alla registrazione della chiamata e ai log di sistemaC1047
Numero del turnoLa posizione della risposta dell'agente nella chiamata4
Tipo di turnoTurno semplice o turno con ricercaTurno con ricerca
PausaDall'ultima parola del cliente al primo suono dell'agente, Linea compresa3,9 s
Fine turnoLa vostra registrazione e i timestamp di sistema0,7 s
TrascrizioneTimestamp di sistema0,2 s
RagionamentoTimestamp di sistema, entrambi i tratti nei turni con ricerca0,6 s (0,3 s prima e 0,3 s dopo la Ricerca)
RicercaTimestamp di sistema, vuoto nei turni semplici1,9 s
Avvio voceTimestamp di sistema0,3 s
LineaChiamate di prova sulle reti che usano i vostri clienti0,2 s
Tempo non attribuitoLa pausa sulla registrazione del vostro sistema, meno le parti tracciate nei log0,0 s
Il cliente ha parlato nella pausaSì se durante la pausa il cliente ha detto «Pronto?» o ha ripetuto quello che aveva dettoSì
Risposta prematuraSì se l'agente ha cominciato a rispondere mentre il cliente stava ancora parlando o si era solo fermato un attimoNo
Richiesta completataPer chiamata: sì se il cliente ha ottenuto ciò per cui chiamavaSì

Misurate prima la pausa sulla registrazione delle chiamate del vostro sistema. L'ID chiamata comune collega ogni turno della registrazione ai suoi timestamp di sistema, che vi danno Fine turno, Trascrizione, Ragionamento, Ricerca e Avvio voce. La Linea si aggiunge nel passo successivo.

La Linea non compare sulla vostra registrazione. Sul vostro sistema il cronometro parte quando l'audio del cliente vi raggiunge e si ferma quando il vostro audio esce. Quindi fate chiamate di prova da telefoni normali, sulle reti che usano i vostri clienti, e registratele dal lato di chi chiama. La pausa su quella registrazione, meno la pausa sulla registrazione del vostro sistema per lo stesso turno, è la Linea. Sommatela alle pause delle vostre chiamate reali.

Poi controllate la somma. Il tempo non attribuito è la pausa sulla registrazione del vostro sistema meno le parti tracciate nei log. Se è alto, manca un timestamp. Nel turno di esempio la registrazione del vostro sistema mostra 3,7 secondi e le parti tracciate fanno in tutto 3,7 secondi, quindi il tempo non attribuito è zero. Aggiungete la Linea, 0,2 secondi, e il cliente sente una pausa di 3,9 secondi.

Perché la media nasconde il problema

Esempio, non dati reali: 400 turni dell'agente da 50 chiamate registrate su una linea, 300 turni semplici e 100 turni con ricerca. Ogni pausa include la Linea, 0,2 secondi misurati con le chiamate di prova.

Tipo di turnoTurniMedianaMedia90° percentile
Turni semplici3001,1 s1,2 s1,8 s
Turni con ricerca1002,9 s3,2 s4,6 s
Tutti i turni4001,3 s1,7 s3,4 s

La media di tutti i turni, 1,7 secondi, sta sopra la mediana di 1,3 secondi perché i turni lenti la tirano verso l'alto. Nessuno dei due numeri mostra i turni che i clienti ricordano. Il 90° percentile (p90) invece sì: è la pausa che un turno su dieci raggiunge o supera, qui 3,4 secondi. I turni che arrivano a quel valore o lo superano sono i turni più lenti.

Separate i turni anche per tipo. I turni semplici hanno una mediana di 1,1 secondi, quelli con ricerca di 2,9 secondi. Una settimana con più turni con ricerca alza i numeri di tutti i turni, anche se nessuna parte è diventata più lenta.

Ora dividete gli stessi 400 turni in quattro fasce per durata della pausa: 130 turni sotto 1,0 secondi, 180 da 1,0 a 2,0 secondi, 50 da 2,0 a 3,4 secondi, 40 a 3,4 secondi e oltre. Poi segnate i turni in cui il cliente ha parlato nella pausa: ha detto «Pronto?» o ha ripetuto quello che aveva detto. È successo in 31 dei 40 turni più lenti e in 7 degli altri 360: 3 volte nei 310 turni sotto 2,0 secondi e 4 volte nei 50 turni da 2,0 a 3,4 secondi.

I 400 turni per durata della pausa. La parte scura di ogni barra indica i turni in cui il cliente ha parlato nella pausa: 0, 3, 4 e 31. Esempio, non dati reali.

Quindi su questa linea parlare nella pausa è raro sotto 2,0 secondi, ancora poco frequente da 2,0 a 3,4 secondi e frequente a 3,4 secondi e oltre. La soglia di questa linea è intorno a 3,4 secondi, e non è un obiettivo generale. Trovate la vostra nello stesso modo: dividete in fasce i vostri turni e cercate il punto in cui parlare nella pausa passa da raro a frequente. Fasce più strette intorno a quel punto lo collocano con più precisione.

Trovate la parte più lunga nei turni più lenti

Il 90° percentile mostra quanto sono lenti i turni più lenti, non perché. Per capirlo, aprite ogni turno lento e trovate la sua parte più lunga: quella che in quel turno ha preso più tempo.

Esempio, non dati reali: uno dei 40 turni più lenti. Il cliente chiede lo stato di un ordine, quindi è un turno con ricerca. Il cronometro parte nel momento in cui il cliente smette di parlare, così come si sente dal suo lato.

Un turno con ricerca lento, parte per parte: una pausa di 3,9 secondi, con la Ricerca come parte più lunga. Esempio, non dati reali.

Parte per parte: Fine turno 0,7 secondi, Trascrizione 0,2 secondi, Ragionamento 0,6 secondi, Ricerca 1,9 secondi, Avvio voce 0,3 secondi e Linea 0,2 secondi. Il Ragionamento è fatto di due tratti da 0,3 secondi: uno per decidere di controllare l'ordine, uno per formulare la risposta. La Linea vale 0,1 secondi in ciascun senso. Insieme, le parti fanno una pausa di 3,9 secondi. La Ricerca è la parte più lunga, quasi metà della pausa.

I tempi delle parti si sommano così solo all'interno di un turno. Mediane e 90° percentili no: le mediane delle sei parti, sommate, non danno la pausa mediana. Quindi trovate la parte più lunga turno per turno, poi contate.

Esempio, non dati reali: la parte più lunga in ciascuno dei 40 turni più lenti.

Parte più lungaTurni più lenti
Fine turno8
Trascrizione0
Ragionamento5
Ricerca27
Avvio voce0
Linea0
Totale40

La parte più lunga è più spesso la Ricerca: in 27 turni su 40. È coerente con i tipi di turno: 36 dei turni più lenti sono turni con ricerca e 4 sono turni semplici. La Fine turno è la parte più lunga in 8. Nella maggior parte di questi il cliente si è fermato mentre dettava un numero, e il sistema ha aspettato più a lungo prima di decidere che aveva finito. Il Ragionamento è la parte più lunga in 5.

Qui la Linea non è mai la parte più lunga, perché su questa linea resta stabile a 0,2 secondi. Su un'altra linea potrebbe esserlo. Il nostro articolo su demo riuscite e chiamate reali che non vanno propone un test rapido. Pause lunghe a ogni turno indicano la linea. Pause lunghe solo nei turni con ricerca indicano gli strumenti.

Correggete una parte alla volta e guardate il segnale opposto

Cominciate dalla parte che più spesso è la più lunga nei vostri turni più lenti, qui la Ricerca. Cambiate una cosa, poi misurate di nuovo gli stessi tipi di turno. Con due modifiche insieme non potete sapere quale ha spostato il 90° percentile.

Ogni correzione ha un costo, quindi ogni riga indica anche il segnale da tenere d'occhio:

ParteCosa provareCosa tenere d'occhio
Fine turnoUn'attesa che dipende da cosa dice il cliente: più corta dopo risposte brevi, come sì, no o un nome, e più lunga mentre il cliente detta un numero o fa lo spelling di una parola.Risposte premature
TrascrizioneRiconoscimento vocale in streaming, così gran parte del testo è già pronta quando il turno finisce.Parole e numeri capiti male
RagionamentoUna prima frase breve. Uno schema di risposta semplice per le domande frequenti.Qualità e completezza delle risposte
RicercaEseguite in parallelo i controlli indipendenti. Fissate un tempo massimo con un percorso di riserva: passare la chiamata a una persona o proporre una richiamata. Date un aggiornamento a voce prima del controllo.Risposte non aggiornate o incomplete. Aggiornamenti a voce ripetuti a ogni turno.
Avvio voceFate partire la voce dalla prima frase mentre il resto viene ancora scritto.Silenzi innaturali a metà risposta
LineaChiamate di prova dalle reti che usano i vostri clienti. Una verifica dell'instradamento con il vostro operatore telefonico.Qualità audio, non solo ritardo

Ogni riga elenca delle opzioni. Provatene una, misurate, poi decidete la successiva.

Il prezzo di una Fine turno più breve: le risposte premature

La risposta prematura è l'errore opposto a una pausa lunga: l'agente comincia a rispondere mentre il cliente sta ancora parlando o si è solo fermato un attimo. Esempio, non dati reali: negli stessi 400 turni ci sono state 6 risposte premature, 5 mentre il cliente dettava un numero d'ordine o di telefono. Dietro entrambi gli errori ci sono i numeri dettati: la Fine turno era la parte più lunga in 8 dei turni più lenti, e anche in quei turni, il più delle volte, il cliente stava dettando un numero. Se accorciate l'attesa in ogni turno, aspettatevi più risposte premature. Per questo la riga della Fine turno prevede due attese. Però un'attesa più lunga mentre il cliente detta un numero non rende più veloci quegli 8 turni lenti. Lì serve un segnale che il numero è completo: se il sistema sa che un numero d'ordine ha cinque cifre, può chiudere il turno dopo la quinta cifra, invece di aspettare il silenzio.

Quando l'attesa è inevitabile: l'aggiornamento a voce

Alcune ricerche restano lente, e non sempre potete intervenire sul sistema che c'è dietro. In quel caso date al cliente un primo suono prima della Ricerca: un aggiornamento a voce, una frase breve prima di un passaggio lento. Nel turno lento visto sopra arriverebbe subito dopo il primo tratto del Ragionamento:

  • Cliente: «L'ordine è il 4 8 1 7 2.»
  • Agente, prima della Ricerca: «Grazie, un attimo che controllo l'ordine.»
  • Agente, dopo la Ricerca: «Il suo ordine è in viaggio e arriva giovedì.»

La pausa si accorcia, perché ora il primo suono arriva prima della Ricerca. Il tempo di risposta va dal momento in cui il cliente smette di parlare all'inizio della risposta vera e propria. Resta più o meno uguale, perché la risposta aspetta comunque la Ricerca. In questi turni registrate anche il tempo di risposta, così un aggiornamento non può nascondere una Ricerca che diventa sempre più lenta.

Tenete brevi gli aggiornamenti a voce e usateli solo prima di un passaggio lento, mai in una scusa, in un numero o nel congedo. Anche un aggiornamento a ogni turno ha un costo: i clienti sentono sempre la stessa frase.

Cosa monitorare ogni settimana

Ogni settimana leggete tre segnali, separati per turni semplici e turni con ricerca:

  • Pausa: la mediana e il 90° percentile e, nei turni con un aggiornamento a voce, anche il tempo di risposta.
  • Il cliente ha parlato nella pausa: la quota di turni in cui è successo.
  • Risposte premature: quante sono e cosa stava dicendo il cliente in quel momento.

Leggete un quarto segnale per chiamata: se la richiesta è stata completata. Una pausa più breve vale poco se meno chiamate arrivano a completare la richiesta. Se avete un pilota in corso, contate una richiesta come completata nel modo in cui la vostra scheda del pilota definisce una chiamata risolta.

Confrontate gli stessi tipi di turno prima e dopo ogni modifica. Una quota misurata su qualche centinaio di turni può spostarsi per puro caso. Il nostro articolo sui criteri di successo di un pilota di AI vocale mostra come calcolare il margine di un tasso.

Dove entra in gioco DRING

Modelli selezionati di speech-to-text, text-to-speech e ragionamento, telefonia, test e monitoraggio fanno parte delle fondamenta operative comuni a ogni pacchetto DRING. Su DRING tre delle sei parti e l'aggiornamento a voce funzionano così:

  • Fine turno: un modello dedicato gestisce il barge-in e il rilevamento di fine turno, così l'agente non prende la parola quando il cliente si è solo fermato un attimo e non resta in silenzio dopo una risposta già conclusa.
  • Trascrizione: la chiamata viene trascritta in tempo reale, con speech-to-text in streaming.
  • Linea: qualità audio e latenza sono monitorate per numero, così una linea che peggiora si individua per tempo.
  • Aggiornamento a voce: quando uno strumento o un modello impiega più del solito, un breve intercalare naturale dal set approvato da DRING tiene vivo il turno. L'intercalare è la forma che l'aggiornamento a voce prende su DRING, e non compare mai in una scusa, in un numero o nel congedo.

La pagina sullo speech core mostra come speech-to-text, gestione dei turni e text-to-speech lavorano come un'unica pipeline, e la pagina sulla telefonia spiega come si tiene sotto controllo lo stato delle linee.

Ogni agente DRING affronta da 1.000 a 10.000 conversazioni simulate, costruite per la vostra azienda, prima della prima chiamata reale. Le simulazioni mettono alla prova la gestione dei turni e gli aggiornamenti a voce prima del lancio. Non misurano la Linea delle chiamate reali. La Linea si ricava dalle chiamate di prova sulle reti dei vostri clienti.

Se sulla vostra linea i clienti dicono «Pronto?» nei silenzi, richiedete una richiamata. Preparate alcune di quelle chiamate, con le registrazioni dove le vostre regole interne lo consentono. Il nostro team può esaminare con voi i turni più lenti, parte per parte.

Trovate la parte che fa aspettare i clienti

Lasciate il vostro numero e DRING vi chiama in due minuti. Indicate quale linea ha silenzi lunghi: il nostro team vi ricontatta per leggere con voi i turni più lenti.