What Surprised Me About Building a Python RAG Pipeline with Open-Source LLMs

O autor compartilha as surpresas e desafios na construção de um pipeline RAG com LLMs de código aberto, em vez de APIs proprietárias, para evitar custos e restrições de dados. Ele descobriu que o RAG não é uma solução mágica e planeja detalhar sua pilha tecnológica, incluindo sentence-transformers e llama.cpp.