Temperatura
Ajuste que controla cuánta aleatoriedad usa un modelo al elegir cada palabra: baja da respuestas más predecibles, alta más variadas y creativas.
Explicado fácil
Cuando un modelo escribe, en cada paso tiene varias palabras posibles con distinta probabilidad. La temperatura decide si elige siempre la más probable (temperatura baja) o si da más opciones a las menos probables (temperatura alta).
Una analogía
Es como un termostato de la creatividad. A temperatura baja, el modelo es un oficinista metódico que repite lo habitual. A temperatura alta, es un improvisador de jazz que se arriesga, con más originalidad pero también más probabilidad de desafinar.
Un ejemplo
Con la frase “El cielo es…”, una temperatura baja dará casi siempre “azul”. Con una temperatura alta, a veces saldrá “infinito” o “un lienzo vacío”.
Cómo funciona (nivel técnico)
El modelo produce una puntuación (logit) para cada token posible. Antes del softmax, esas puntuaciones se dividen entre la temperatura T. Con T cercana a 0 la distribución se concentra en el token más probable (comportamiento casi determinista); con T = 1 se mantiene la distribución original; con T > 1 se aplana. Se combina a menudo con top-p (muestreo por núcleo) o top-k, que restringen la elección a los candidatos más probables.
Errores comunes
- Pensar que temperatura 0 garantiza la misma respuesta siempre: pequeñas diferencias numéricas en el hardware pueden alterarla.
- Creer que bajar la temperatura elimina las alucinaciones. Reduce la variabilidad, no los errores de fondo.