Understanding Transformers Part 6: Calculating Similarity Between Queries and Keys

Este artículo detalla el cálculo de la similitud entre consultas (queries) y claves (keys) en Transformers utilizando el producto escalar, ilustrando cómo la similitud de una palabra consigo misma es mayor que con otras. Explica que estas puntuaciones se transforman luego en pesos significativos mediante una función softmax.