Plug-and-Play Context Compression for Any LLM API — CRISP

CRISP ist eine Python-Bibliothek, die den an LLM-APIs gesendeten Kontext komprimiert, um die Informationen pro Token zu maximieren und somit Kosten und Latenz zu reduzieren. Sie bietet eine Plug-and-Play-Alternative zu komplexen Lösungen wie fortgeschrittenem RAG, um das Problem übermäßigen Kontexts anzugehen.