Alucinación

Explicado fácil

A veces un modelo de lenguaje se inventa datos: una cita que nadie dijo, una sentencia que no existe, un libro con título creíble pero inexistente. Lo hace con el mismo tono seguro con el que dice cosas ciertas, y eso es lo que lo hace peligroso.

Una analogía

Es como alguien muy seguro de sí mismo que, al no saber algo, improvisa una respuesta que suena bien en lugar de decir “no lo sé”. No miente a propósito: simplemente completa el hueco con lo que parece más plausible.

Un ejemplo

Se le pide a un modelo “cita tres estudios sobre el efecto X” y devuelve tres títulos con autores, revistas y años que parecen reales, pero que no existen. Ha generado referencias plausibles, no verificadas.

Cómo funciona (nivel técnico)

Un LLM está entrenado para producir el texto más probable, no para verificar hechos. Si su conocimiento sobre un tema es escaso o contradictorio, sigue generando texto fluido. Entre las causas figuran datos de entrenamiento incompletos o erróneos, preguntas sobre hechos poco frecuentes, y entrenamientos que premian respuestas “útiles” frente a admitir ignorancia. Se mitiga con RAG (apoyarse en documentos reales), citar fuentes, uso de herramientas de búsqueda, mejor entrenamiento para admitir incertidumbre y verificación posterior. No existe hoy una solución definitiva.

Errores comunes

• Fiarse de datos concretos (cifras, citas, leyes, referencias) sin comprobarlos en una fuente fiable.
• Pensar que son “mentiras”. El modelo no tiene intención de engañar.
• Creer que desaparecen con un prompt del tipo “no te inventes nada”. Pueden reducirse, no eliminarse.