Latence d'un agent vocal : pourquoi le délai de réponse compte au téléphone, et d'où il vient

Une étude de référence est celle de Tanya Stivers et de ses collègues, publiée dans PNAS en 2009. L'équipe a analysé des enregistrements vidéo de conversations informelles dans 10 langues réparties sur 5 continents, en se concentrant sur un moment comparable partout : la réponse à une question fermée, de type oui ou non. Dans toutes les langues, les locuteurs évitent de se chevaucher et réduisent le silence entre les tours. Pour chaque langue, la réponse la plus fréquente arrive entre 0 et 200 millisecondes après la fin de la question, et le délai moyen sur l'ensemble des données est de 208 millisecondes.

Les écarts entre langues restent contenus : les moyennes de chaque langue se situent à environ 250 millisecondes de part et d'autre de la moyenne générale. L'étude montre aussi que, dans toutes les langues, les vraies réponses arrivent plus vite que les non-réponses, et que les confirmations arrivent plus vite que les infirmations (un écart statistiquement significatif dans 7 langues sur 10). Autrement dit, un retard n'est pas neutre : il va de pair, dans les données, avec les non-réponses et les réponses négatives.

Deux limites à garder en tête : ces données portent sur des conversations en face à face, pas au téléphone, et le français ne fait pas partie des 10 langues étudiées. Elles ne fixent donc pas un objectif chiffré pour une machine ; elles rappellent à quel rythme vos appelants sont habitués.

Avant même qu'un agent vocal ne réfléchisse, la voix doit voyager. La recommandation G.114 de l'Union internationale des télécommunications, consacrée au temps de transmission dans un seul sens, recommande de ne pas dépasser 400 millisecondes pour la planification générale des réseaux, tout en soulignant que les échanges très interactifs, comme beaucoup d'appels vocaux, peuvent être affectés par des délais bien plus faibles.

Pour un agent vocal, le son traverse le réseau téléphonique, rejoint des serveurs, puis revient : chaque segment ajoute un temps. La documentation d'ElevenLabs, éditeur de synthèse vocale, l'indique : la latence de bout en bout varie selon la localisation et le type de point d'accès utilisé, et les temps de réponse qu'elle publie diffèrent d'une région du monde à l'autre.

Un agent ne peut pas répondre tant qu'il n'a pas décidé que la phrase est terminée. Chez Deepgram, fournisseur de reconnaissance vocale, cette fonction s'appelle l'endpointing : un détecteur d'activité vocale surveille le flux audio et, par défaut, finalise la transcription après 10 millisecondes de silence, un réglage que le développeur peut allonger. L'API Realtime d'OpenAI propose deux approches : un mode qui découpe l'audio sur les silences, avec une durée de silence paramétrable, et un mode sémantique qui s'appuie sur les mots prononcés pour juger si l'utilisateur a terminé, avec un niveau d'empressement réglable.

Le compromis est permanent. Un réglage court fait répondre l'agent plus tôt, au risque de prendre la parole pendant qu'un appelant cherche ses mots ou dicte un numéro de téléphone. Un réglage long évite ces coupures, mais chaque réponse démarre plus tard. Le bon réglage dépend de vos appelants.

La reconnaissance vocale n'attend pas forcément la fin de la phrase. La documentation de Google Cloud décrit une reconnaissance en flux continu, conçue pour le temps réel, qui peut renvoyer, si l'option est activée, des résultats provisoires affinés à mesure que l'audio arrive.

Vient ensuite le modèle de langage qui formule la réponse. La documentation d'Anthropic rappelle que la latence dépend notamment de la taille du modèle, de la complexité de la consigne et de l'infrastructure, et qu'elle se mesure entre autres par le temps jusqu'au premier élément de réponse. Ses leviers sont simples : choisir le bon modèle, raccourcir la consigne et la réponse, et diffuser la réponse au fil de l'eau plutôt que d'attendre qu'elle soit complète.

Enfin, la synthèse vocale transforme le texte en voix. Les points d'accès en flux renvoient l'audio progressivement, ce qui réduit le délai avant le premier son, et ElevenLabs précise que des formats audio de plus haute qualité peuvent augmenter la latence. Le délai perçu par l'appelant dépend donc surtout de la rapidité avec laquelle chaque étape transmet un premier morceau à la suivante.

Mesurez là où l'appelant la ressent : entre la fin de votre phrase et le premier son audible de la réponse. Une méthode simple et vérifiable consiste à enregistrer vos appels de test, en respectant les règles d'information applicables, puis à observer la forme d'onde dans un logiciel audio : le silence se voit et se mesure.

Variez les situations : question courte, question longue, pause au milieu d'une phrase, numéro dicté, question hors du champ de l'agent, appel depuis un mobile dans un lieu bruyant. Regardez les cas les plus lents autant que les cas typiques : un long silence au mauvais moment marque davantage qu'une moyenne correcte.

Si un fournisseur annonce des chiffres, demandez comment ils sont mesurés : côté serveur ou à l'oreille de l'appelant, avec quel réglage de fin de tour, et s'il communique les cas les plus lents ou seulement une moyenne.

La vitesse n'est qu'un critère. Un agent qui coupe la parole ou invente une réponse pour éviter un blanc peut dégrader davantage l'échange qu'un délai un peu plus long.

Alyas répond au téléphone 24 h/24 à partir des informations que vous lui fournissez ; s'il ne sait pas, il le dit et propose de transmettre la demande, et il dépose une transcription et un résumé de chaque appel dans votre espace Alyas. L'essai gratuit de 10 jours, sans carte bancaire, permet de mener vous-même les tests décrits ci-dessus.