Definición: un error dicho con aplomo
El NIST, el instituto estadounidense de normas y tecnología, emplea en su perfil de riesgos dedicado a la IA generativa, publicado en julio de 2024, el término confabulación: la producción de contenidos erróneos o falsos enunciados con seguridad, llamados coloquialmente alucinaciones, que pueden inducir a error a los usuarios. El problema no es solo el error, sino el tono: nada en la respuesta indica que sea dudosa.
Al teléfono, una alucinación puede adoptar formas muy concretas: anunciar un horario de apertura que no existe, citar una tarifa inventada, confirmar que se ofrece un servicio que no se ofrece o afirmar que una cita está reservada cuando no lo está. Para quien llama, la palabra del agente vale lo mismo que la de la empresa.
Por qué alucina un modelo de lenguaje
Un modelo de lenguaje se entrena para predecir la continuación más probable de un texto. No consulta una base de hechos verificados: genera palabras que se parecen estadísticamente a una buena respuesta. Cuando la información solicitada falta, es poco frecuente o resulta ambigua en sus datos, puede producir una respuesta plausible pero falsa en lugar de reconocer que no lo sabe.
Una publicación de septiembre de 2025 firmada por investigadores de OpenAI y de Georgia Tech, Why Language Models Hallucinate, propone una explicación complementaria: los métodos de evaluación habituales premian la respuesta correcta y no valoran que se reconozca la incertidumbre. En estas condiciones, adivinar se convierte en una estrategia racional para el modelo, como para un alumno que se arriesga en un examen en lugar de dejar una pregunta sin responder. Los autores proponen modificar la puntuación de las evaluaciones para dejar de penalizar la abstención.
Las salvaguardas que reducen el riesgo
La primera salvaguarda consiste en limitar las respuestas a la información facilitada por la empresa: sitio web, documentos, ficha práctica. El agente no recurre a conocimientos generales para responder a una pregunta sobre sus horarios o sus tarifas; si la información no está en lo que se le ha dado, lo dice y propone otra vía. Este enfoque reduce el riesgo de invención sin eliminarlo.
La segunda salvaguarda es la reformulación: antes de registrar una solicitud o de confirmar un hueco, el agente repite lo que ha entendido y pide validación. La tercera es la transferencia: ante cualquier pregunta fuera de su ámbito o cualquier situación delicada, la llamada pasa a una persona o se toma un mensaje para devolver la llamada. La cuarta es la transcripción que se puede releer, que permite comprobar después lo que se dijo y corregir la información de referencia.
Cuidar la información de referencia
Un agente que responde a partir de sus documentos no puede ser más fiable que esos documentos. Unos horarios contradictorios entre dos páginas del sitio web, una tarifa caducada en un PDF o un servicio abandonado pero todavía mencionado producirán respuestas falsas, sin que el modelo haya alucinado en sentido estricto.
Prevea, por tanto, una fuente de verdad única y actualizada, redactada con sencillez: lo que hace, lo que no hace, los casos en los que hay que transferir. Enumere también las preguntas a las que el agente no debe responder, como un diagnóstico, una opinión jurídica o un presupuesto en firme, y la respuesta tipo que debe dar en esos casos.
Lo que ningún proveedor honesto puede prometer
Desconfíe de un discurso que prometa cero alucinaciones. En el estado actual de los conocimientos publicados, ningún modelo de lenguaje ofrece esa garantía, y los investigadores citados más arriba describen las alucinaciones como una consecuencia de los métodos de entrenamiento y de evaluación. Un proveedor serio habla de reducción del riesgo, explica sus salvaguardas y le da los medios para controlar lo que se ha dicho.
Hágale preguntas precisas: ¿qué responde el agente cuando falta la información? ¿Puede confirmar una cita sin haberla anotado realmente en la agenda? ¿Puede usted releer cada llamada? Las respuestas a estas preguntas dicen más que una tasa de precisión anunciada sin metodología.
Un agente que responde a partir de su información
Alyas atiende el teléfono a partir de la información que usted le facilita, ya sea su sitio web, un texto o un PDF. Transfiere al número que usted haya elegido, recoge los datos de contacto de quien llama y deja una transcripción y un resumen de cada llamada en su área de cliente para que pueda comprobar sus respuestas. La prueba gratuita de diez días le permite ponerlo a prueba con sus propias preguntas.
Preguntas frecuentes
¿Qué es una alucinación en inteligencia artificial?
Es una respuesta falsa o inventada que un modelo de IA presenta con seguridad. El NIST habla de confabulación para designar estos contenidos erróneos enunciados con aplomo, que pueden inducir a error a los usuarios.
¿Se pueden eliminar por completo las alucinaciones?
No, en el estado actual de los conocimientos publicados. Sí se puede reducir su riesgo y sus consecuencias: respuestas limitadas a la información facilitada, reformulación de los puntos clave, transferencia a una persona y relectura de las transcripciones.
¿Cómo comprobar que un agente de voz no inventa respuestas?
Haciéndole preguntas cuya respuesta no figure en sus documentos, para ver si reconoce que no lo sabe, y releyendo con regularidad las transcripciones de llamadas reales.