Dieser Inhalt erörtert die Latenzherausforderung in Multi-Agenten-Anwendungen, am Beispiel von SamiWISE, einem GMAT-Vorbereitungs-Tutor. Dabei wird die Notwendigkeit eines "unsichtbaren" Routings zwischen spezialisierten Agenten betont, um eine flüssige Benutzererfahrung ohne wahrgenommene Verzögerungen zu gewährleisten.
Diese Forschungsarbeit identifiziert zwei gekoppelte Skalierungsgesetze in LLM-Agentensystemen: ein Routing-Gesetz, das den Genauigkeitsverlust mit der Bibliotheksgröße zeigt, und ein Ausführungsgesetz, das demonstriert, wie die korrekte Ausführung nachfolgende Entscheidungen verbessert. Ein Schlüsselparameter, die logarithmische Zerfallsteigung des Routings, verbindet diese Gesetze und beeinflusst sowohl den anfänglichen Zusammenbruch als auch die spätere Wiederherstellbarkeit.
Dieses Papier stellt BOHM vor, eine neuartige Methode zur kostenlosen hierarchischen Zuordnung in zusammengesetzten KI-Systemen. Im Gegensatz zu traditionellen Shapley-basierten Methoden extrahiert BOHM die Zuordnung direkt aus den Routing-Gewichten, wodurch kein interner Komponentenzugriff erforderlich ist und multi-resolutionale Einblicke geboten werden.
Ein Experiment untersuchte das Routing von KI-Anfragen an verschiedene LLMs (DeepSeek-V4 Pro, Kimi 2.6, MiniMax 2.7, Qwen3 235B) basierend auf der Aufgabe. Es zeigte sich, dass kein einzelnes Modell alle Aufgaben am besten bewältigte, und einfache YAML-Regeln effektiv waren, während komplexes Routing und Kostenprognosen fehlschlugen.