Token Budget Negotiator

Der „Token Budget Negotiator“ ist ein Tool zur Optimierung von LLM-Prompts, indem es nicht wesentliche Abschnitte systematisch identifiziert und entfernt. Es nutzt eine Greedy-Ablationsschleife und einen LLM-Richter, um die Prompt-Länge zu reduzieren, dabei die Qualität zu erhalten und die gewünschten Kosteneinsparungen zu erzielen.