Vector Index Cold Start: Why Your First Query Takes 8 Seconds

Este artigo discute o problema de "inicialização a frio" em índices de vetor para serviços RAG, onde a primeira consulta após uma implantação pode levar vários segundos devido ao carregamento do índice do disco. Embora temporário, este pico de latência afeta a experiência do usuário, especialmente em cenários de alto tráfego.