Context Compression in .NET

Cette astuce rapide explique comment implémenter la compression de contexte en .NET pour les systèmes RAG, palliant l'absence d'un équivalent direct à des outils comme LLMLingua. Elle suggère d'utiliser un modèle de travail plus petit et moins cher pour prétraiter la documentation récupérée, n'extrayant que les faits essentiels afin de réduire les coûts et la latence avec les modèles d'IA premium.