Three limitations I keep hitting with retrieval-augmented generation in production and I'm running out of ideas [D]

Um usuário descreve as limitações de um sistema RAG em produção no domínio legal, notadamente o problema de "dispersão" onde as respostas ficam incompletas ao exigir informações de muitos documentos distintos. Ele explora soluções como a decomposição de consultas para resolver este problema persistente.