Word2Vec
Familia de métodos que aprende vectores para palabras a partir de los contextos en que aparecen en un corpus de texto.
Explicado fácil
Word2Vec aprende a representar cada palabra con una lista de números. Durante el aprendizaje intenta predecir palabras cercanas o el contexto a partir de una palabra, de modo que los usos parecidos tienden a producir vectores relacionados.
Una analogía
Es como dibujar un mapa de palabras: las que suelen aparecer en contextos parecidos quedan cerca, aunque el mapa use muchas dimensiones que no se pueden visualizar directamente.
Un ejemplo
Un sistema puede comparar los vectores de «gato» y «perro» y encontrar que son más similares entre sí que «gato» y «satélite», según el corpus y la forma de medir distancia.
Cómo funciona (nivel técnico)
El artículo original describe dos objetivos predictivos: CBOW, que predice una palabra a partir de su contexto, y Skip-gram, que predice palabras de contexto a partir de la palabra central. El entrenamiento ajusta representaciones densas para mejorar esas predicciones, con técnicas de muestreo para reducir el coste.
Errores comunes
- Pensar que Word2Vec entiende el significado como una persona; aprende regularidades estadísticas del corpus.
- Suponer que distingue sentidos de una palabra según la frase: su vector suele ser estático y compartido entre contextos.
- Tratar sus asociaciones como verdades objetivas; los vectores pueden reflejar sesgos y limitaciones de los datos.