What Surprised Me About Building a Python RAG Pipeline with Open-Source LLMs

El autor describe los desafíos inesperados al construir una tubería RAG con LLMs de código abierto, en contraste con las APIs propietarias, para eludir límites de tarifa y problemas de soberanía de datos. A pesar de la promesa de libertad, encontró que RAG no es una solución mágica y planea compartir su pila tecnológica, incluyendo sentence-transformers y llama.cpp.