Alucinación factual vs de razonamiento
No todas las alucinaciones de un modelo son iguales. La alucinación factual es inventar un dato concreto falso (una fecha, una cifra, una cita legal). La alucinación de razonamiento es construir una cadena lógica que suena coherente pero llega a una conclusión inválida. Distinguirlas importa porque se detectan y se mitigan de forma distinta.
Definición rápida
No todas las alucinaciones de un modelo son iguales. La alucinación factual es inventar un dato concreto falso (una fecha, una cifra, una cita legal). La alucinación de razonamiento es construir una cadena lógica que suena coherente pero llega a una conclusión inválida. Distinguirlas importa porque se detectan y se mitigan de forma distinta.
Explicación ampliada
Por qué importa para tu empresa
Para una empresa, mezclar ambos tipos de alucinación lleva a controles insuficientes. La regla práctica: contra la factual, exigir que las afirmaciones verificables vayan ancladas a fuente (RAG con cita) y comprobar los datos críticos; contra la de razonamiento, no aceptar conclusiones de análisis sin que un humano competente revise la cadena lógica, no solo el resultado. El error de razonamiento bien escrito es el que más daño hace porque inspira confianza injustificada.
Ejemplo concreto
En una sesión de formación, una empresa puso a prueba un asistente con un caso de cálculo de indemnización. El modelo no inventó ninguna ley (cero alucinación factual) pero aplicó correctamente la norma equivocada al supuesto, llegando a una cifra plausible pero errónea con un razonamiento de seis pasos impecablemente redactado. Ningún participante sin formación jurídica detectó el fallo a primera lectura. El ejercicio se convirtió en la pieza central de su política de uso: ninguna conclusión analítica se acepta sin revisión humana de la cadena de razonamiento, no solo del resultado final.