Alucinación

Las alucinaciones son una limitación intrínseca de los modelos de lenguaje grandes (LLM), no un fallo puntual que se vaya a resolver con la próxima versión. El modelo aprende a predecir qué palabra sigue a qué otra a partir de millones de textos, pero nunca consulta una base de conocimiento en tiempo de respuesta: simplemente continúa la frase con lo que estadísticamente parece coherente. Cuando se le pide algo sobre lo que tiene poca o ninguna información, en lugar de decir "no lo sé", suele rellenar el hueco con una respuesta plausible inventada. Esto incluye nombres de personas que no existen, citas de leyes inexistentes, sentencias judiciales falsas, datos numéricos fabricados, autores atribuidos erróneamente o referencias bibliográficas inventadas con todos sus campos completos. Las técnicas RAG (búsqueda aumentada con recuperación) y el grounding con fuentes documentales reducen significativamente la frecuencia de alucinaciones, pero no las eliminan. Los agentes con búsqueda web en vivo alucinan menos cuando contestan sobre hechos verificables, pero pueden alucinar al interpretar lo que han leído. La forma operativa de gestionar este riesgo en la empresa es asumir que toda salida de IA es un primer borrador que requiere validación humana proporcional al impacto de la decisión.