Fine-tuning
Reentrenar un modelo ya entrenado con un conjunto de datos más pequeño y específico para que se especialice en una tarea, un estilo o un dominio.
Explicado fácil
En lugar de entrenar un modelo desde cero (carísimo), se parte de uno que ya sabe mucho y se le da una “formación específica”. Es la diferencia entre formar a alguien desde la infancia y especializar a un graduado en un puesto concreto.
Una analogía
Un médico general que hace la especialidad de dermatología. Ya sabe medicina; solo necesita profundizar en un área con casos y práctica concretos.
Un ejemplo
Una clínica afina un modelo con miles de informes médicos anonimizados para que redacte resúmenes con la terminología y la estructura habituales de su centro.
Cómo funciona (nivel técnico)
Se continúa el entrenamiento del modelo preentrenado con un conjunto de ejemplos del dominio (pares instrucción-respuesta, por ejemplo) y una tasa de aprendizaje pequeña. El ajuste completo modifica todos los parámetros y es costoso; los métodos eficientes como LoRA solo entrenan una pequeña fracción. Es bueno para enseñar estilo, formato y comportamiento, pero poco eficaz para añadir conocimiento factual fiable y cambiante: para eso suele ser preferible el RAG. Un riesgo es el olvido catastrófico, la pérdida de capacidades generales.
Errores comunes
- Recurrir al fine-tuning cuando bastaría un buen prompt o RAG.
- Afinar con pocos datos o de mala calidad: el modelo aprende los errores.
- Pensar que el modelo afinado “sabrá” los documentos con los que se entrenó como si pudiera consultarlos.