Définition : une erreur dite avec aplomb
Le NIST, l'institut américain des normes et de la technologie, emploie dans son profil de risques consacré à l'IA générative, publié en juillet 2024, le terme de confabulation : la production de contenus erronés ou faux énoncés avec assurance, appelés familièrement hallucinations, susceptibles d'induire les utilisateurs en erreur. Le problème n'est pas seulement l'erreur, mais le ton : rien dans la réponse ne signale qu'elle est douteuse.
Au téléphone, une hallucination peut prendre des formes très concrètes : annoncer un horaire d'ouverture qui n'existe pas, citer un tarif inventé, confirmer qu'un service est proposé alors qu'il ne l'est pas, ou affirmer qu'un rendez-vous est réservé sans qu'il le soit. Pour l'appelant, la parole de l'agent vaut celle de l'entreprise.
Pourquoi un modèle de langage hallucine
Un modèle de langage est entraîné à prédire la suite la plus probable d'un texte. Il ne consulte pas une base de faits vérifiés : il génère des mots qui ressemblent statistiquement à une bonne réponse. Quand l'information demandée est absente, rare ou ambiguë dans ses données, il peut produire une réponse plausible mais fausse plutôt que de reconnaître qu'il ne sait pas.
Une publication de septembre 2025 signée par des chercheurs d'OpenAI et de Georgia Tech, Why Language Models Hallucinate, avance une explication complémentaire : les méthodes d'évaluation courantes récompensent la bonne réponse et ne valorisent pas l'aveu d'incertitude. Dans ces conditions, deviner devient une stratégie rationnelle pour le modèle, comme pour un élève qui tente sa chance à un examen plutôt que de laisser une question sans réponse. Les auteurs proposent de modifier la notation des évaluations pour cesser de pénaliser l'abstention.
Les garde-fous qui réduisent le risque
Le premier garde-fou consiste à limiter les réponses aux informations fournies par l'entreprise : site, documents, fiche pratique. L'agent ne puise pas dans des connaissances générales pour répondre à une question sur vos horaires ou vos tarifs ; si l'information n'est pas dans ce qu'on lui a donné, il le dit et propose une autre voie. Cette approche réduit le risque d'invention sans le supprimer.
Le deuxième garde-fou est la reformulation : avant d'enregistrer une demande ou de confirmer un créneau, l'agent répète ce qu'il a compris et demande validation. Le troisième est le transfert : pour toute question hors périmètre ou toute situation sensible, l'appel part vers une personne ou un message est pris pour rappel. Le quatrième est la transcription relisible, qui permet de vérifier après coup ce qui a été dit et de corriger les informations de référence.
Soigner les informations de référence
Un agent qui répond à partir de vos documents ne peut pas être plus fiable que ces documents. Des horaires contradictoires entre deux pages du site, un tarif périmé dans un PDF ou une prestation abandonnée mais toujours mentionnée produiront des réponses fausses, sans que le modèle ait halluciné au sens strict.
Prévoyez donc une source de vérité unique et à jour, rédigée simplement : ce que vous faites, ce que vous ne faites pas, les cas où il faut transférer. Listez aussi les questions auxquelles l'agent ne doit pas répondre, comme un diagnostic, un avis juridique ou une estimation de prix ferme, et la réponse type à donner dans ces cas.
Ce qu'aucun fournisseur honnête ne peut promettre
Méfiez-vous d'un discours promettant zéro hallucination. En l'état des connaissances publiées, aucun modèle de langage n'offre cette garantie, et les chercheurs cités plus haut décrivent les hallucinations comme une conséquence des méthodes d'entraînement et d'évaluation. Un fournisseur sérieux parle de réduction du risque, explique ses garde-fous et vous donne les moyens de contrôler ce qui a été dit.
Posez-lui des questions précises : que répond l'agent quand l'information manque ? Peut-il confirmer un rendez-vous sans l'avoir réellement inscrit dans l'agenda ? Pouvez-vous relire chaque appel ? Les réponses à ces questions en disent plus long qu'un taux de précision annoncé sans méthode.
Un agent qui répond à partir de vos informations
Alyas répond au téléphone à partir des informations que vous lui fournissez, qu'il s'agisse de votre site, d'un texte ou d'un PDF. Il transfère vers le numéro que vous avez choisi, recueille les coordonnées de l'appelant et dépose une transcription et un résumé de chaque appel dans votre espace client pour que vous puissiez vérifier ses réponses. L'essai gratuit de dix jours permet de le mettre à l'épreuve sur vos propres questions.
Questions fréquentes
Qu'est-ce qu'une hallucination en intelligence artificielle ?
C'est une réponse fausse ou inventée, présentée avec assurance par un modèle d'IA. Le NIST parle de confabulation pour désigner ces contenus erronés énoncés avec aplomb, susceptibles d'induire les utilisateurs en erreur.
Peut-on supprimer totalement les hallucinations ?
Non, en l'état des connaissances publiées. On peut en réduire le risque et les conséquences : réponses limitées aux informations fournies, reformulation des points clés, transfert vers une personne et relecture des transcriptions.
Comment vérifier qu'un agent vocal n'invente pas de réponses ?
En lui posant des questions dont la réponse ne figure pas dans vos documents, pour voir s'il reconnaît ne pas savoir, puis en relisant régulièrement les transcriptions de vrais appels.