Un plugin nommé Caveman peut réduire les coûts de tokens des agents IA de 75% en supprimant les communications redondantes et en optimisant l'espace de contexte. Il apprend aux agents à communiquer efficacement, en se concentrant sur les informations essentielles pour les développeurs.
Cet article suggère que le désalignement entre les utilisateurs et les agents de codification IA est un problème d'interface utilisateur, et non de modèle, proposant que les agents émettent du HTML plutôt que du Markdown. Il introduit l'utilisation de captures d'écran pour la compression de contexte, inspirée de DeepSeek-OCR, afin de permettre l'utilisation du HTML à chaque étape du plan sans augmenter les coûts des tokens.
Une expérience a montré qu'un agent d'IA a consommé 26 000 jetons et gaspillé 0,40-0,60 $ en effectuant la même tâche de recherche de navigateur 10 fois. L'agent n'a pas appris des sessions précédentes, traitant chaque exécution comme une nouvelle phase d'exploration et démontrant une inefficacité dans les opérations répétitives.
Cet article explore la parallélisation des agents d'IA, en identifiant les approches efficaces et celles qui entraînent une forte consommation de jetons. Il examine les raisons de ces résultats pour optimiser l'efficacité et le coût.
L'article présente le protocole PAX, un format de communication structuré et compressé développé pour les systèmes multi-agents IA. Son objectif est de réduire les coûts en jetons d'environ 70 % et de maintenir le contexte entre 13 agents qui doivent communiquer constamment, en remplaçant la prose anglaise coûteuse.
Cette API optimise les prompts d'IA en les analysant pour l'efficacité des tokens, la clarté et l'efficacité, et en renvoyant des versions améliorées économisant des tokens. Elle propose divers endpoints pour l'optimisation, l'analyse et l'estimation des tokens, avec des plans d'utilisation gratuits et payants.