Embeddings (incrustaciones)
En breve
Un embedding representa un texto, una imagen u otro objeto mediante una lista de números (un vector), de modo que los elementos de significado parecido tengan vectores cercanos.
Fuentes[1]
Definición
Un embedding (en español, incrustación o representación vectorial) es la representación de un objeto (palabra, frase, documento, imagen…) en forma de vector de números. Un modelo se entrena para que los objetos con significado parecido queden cerca en ese espacio vectorial.
Para qué sirve
- Búsqueda semántica: encontrar textos por su significado y no por las palabras exactas. Se compara el vector de la consulta con los de los documentos, a menudo mediante una medida como la similitud del coseno.
- RAG: encontrar los pasajes pertinentes que se proporcionan a un modelo de lenguaje antes de que responda.
- Clasificación, agrupación, recomendación, detección de duplicados.
Hitos históricos
Los trabajos de Mikolov et al. (2013) sobre word2vec popularizaron las incrustaciones de palabras. Los modelos actuales producen incrustaciones de frases o documentos completos que tienen en cuenta el contexto.
Límites
Un embedding comprime el significado en un número fijo de dimensiones, por lo que pueden perderse matices. La calidad depende del modelo, del idioma y del ámbito; un modelo generalista puede rendir peor con un vocabulario muy especializado.
¿Un error o una idea sobre esta ficha? Cuéntanoslo