Embedding Dimension Reduction: When 1536 256 Doesn't Hurt Recall

O artigo explora a redução da dimensão de embeddings de 1536 para 256 sem prejudicar a qualidade da recuperação, aproveitando a funcionalidade de truncagem da OpenAI. Essa otimização visa diminuir significativamente a pegada de memória de índices vetoriais e melhorar a latência de consulta.