Imagina que estás conversando con un agente AI y de repente te responde algo que suena convincente, pero que sabes que no es verdad: Esa respuesta es errónea, aunque esté bien redactada y estructurada.
Eso es lo que se conoce como una alucinación de IA.
En este artículo te explicamos:
Qué es realmente una alucinación.
Cómo se diferencia de un desvío natural de la conversación.
Qué puedes hacer para prevenir ambos casos desde el diseño.
¿Qué es una alucinación?
Una alucinación ocurre cuando el agente dice algo que no está respaldado por los datos disponibles ni por las reglas del flujo conversacional. La frase puede parecer segura y convincente, pero es falsa.
🔴 Ejemplo típico de alucinación:
👤 Usuario: ¿Cuánto es el interés de este crédito?
🤖 Agente: Tiene un 2% anual fijo.
⚠️ El modelo lo inventó.
No tenía ese dato en el contexto y nadie se lo indicó.
Esto puede presentarse cuando el modelo IA está mal orientado, tiene prompts poco claros o siente “presióni” por responder algo a toda costa.
¿Y qué no es una alucinación?
No todo lo inesperado es un error.
Muchas veces el usuario cambia de tema o se desvía la conversación original; Mientras el Agente IA no invente datos, no se considera una alucinación, sino una desviación natural.
🟢 Ejemplo de desviación (válida):
👤 Usuario: Hola, quiero abrir una cuenta.
🤖 Agente: Perfecto. Para empezar, ¿me puedes enviar una foto de tu cédula?
👤 Usuario: Oye, ¿ustedes también dan créditos?
🤖 Agente: Sí, trabajamos con varias opciones. ¿Quieres que te cuente más?
Aquí el Agente IA acompaña la intención del usuario, pero no se inventa nada. Este tipo de interacción puede ser positiva si está bien contenida.
Por qué puede alucinar un Agente IA
Es importante entender por qué suceden este tipo de casos. Las causas más comunes son:
Poca estructura en el prompt: El modelo no tiene instrucciones claras.
No contar datos concretos ni actualizados a en su memoria (Falta de grounding contextual).
Respuestas abiertas: El modelo intenta adivinar en lugar de decir “no sé”.
Demasiado contexto libre: Sin límites, el modelo rellena los vacíos con suposiciones.
💡 Tip: Si tu skill puede llevar al modelo a especular, vale la pena hacerle un test de precisión con preguntas límite o edge cases.
Por qué ocurren desviaciones (y por qué no son malas)
Los usuarios no piensan en flujos ni en intenciones. Hablan como quieren. Preguntan lo que quiere y cómo se les ocurra. Si un agente no puede adaptarse, la experiencia se rompe.
Ejemplos típicos en una conversación:
Se saltan pasos del flujo.
Preguntan algo que no es parte del objetivo principal.
Combinan temas (ej. abrir cuenta y pedir crédito).
Lo importante es que tu Agente IA:
No invente
No se pierda
Sepa volver al objetivo inicial
Cómo prevenir alucinaciones al diseñar un Agente IA
En Jelou tenemos varias estrategias prácticas que puedes aplicar desde la fase de diseño:
✅ Para evitar alucinaciones reales:
Define bien los intents: que sean claros y no se solapen.
Incluye el contexto necesario (ej. tasas, horarios, términos) de forma explícita. (grounding)
Ajusta tus prompts: no uses preguntas abiertas tipo “¿Quieres saber más?” sin acotar qué sí puede responder el agente.
Incluye reglas de fallback: si el modelo no sabe, que lo diga. Mejor una duda que un error.
📍Por ejemplo de fallback
“En este momento no tengo ese dato. ¿Te gustaría que alguien de tu equipo lo revise?”
o
“No tengo acceso a esa información. Puedes consultarla directamente en el portal del banco.”
✅ Para manejar desviaciones sin perder el control:
Anticipa temas cercanos: Si tu agente abre cuentas, espera preguntas sobre tarjetas o préstamos.
Entrena respuestas de redirección suave:
“Ese tema lo podemos ver más adelante. Primero necesito tu documento para seguir.”
Usa nodos de contención o bifurcación en tus skills para absorber preguntas inesperadas sin romper el flujo.
Cómo saber si tu agente está alucinando
Revisa regularmente las conversaciones reales.
Puedes tener en cuenta las siguientes señales de alerta:
El bot responde con cifras exactas que no están en el flujo.
Ofrece pasos o beneficios que no existen en el servicio.
Da consejos o recomendaciones como si fuera humano (“te conviene pedir el préstamo ahora”).
Mezcla conceptos: “Puedes abrir una cuenta en WhatsApp y retirar tu tarjeta en 1 hora”. (¿De dónde salió eso?)
📌 En caso de duda, consulta el log o pregunta a tu PM si esa info está permitida o fue aprendida accidentalmente.
Un buen agente IA debe ser útil sin inventar, y flexible sin perder el foco.
Diseña pensando en eso: no como un guión perfecto, sino como una conversación real, con caminos alternos pero bien guiados.
Si tienes dudas sobre cómo aplicar esto a tu agente actual, habla con tu PM.
Las alucinaciones de IA son errores comunes en modelos conversacionales, pero pueden prevenirse con diseño responsable y uso informado. Un agente AI bien entrenado no solo responde, sino que también sabe cuándo callar.