Este trabalho apresenta o ambiente Territory Paint Wars para investigar modos de falha do PPO em aprendizado por reforço multiagente competitivo. Ele identifica falhas de implementação que causam baixo desempenho e, após a correção, revela um novo problema de overfitting competitivo que prejudica a generalização.
L'article analyse plus de 40 compétences d'agents IA répertoriées sur ClawMart pour déterminer ce qui les rend précieuses. Il conclut qu'une compétence vaut la peine d'être achetée si elle prévient de manière fiable les modes de défaillance réels que les agents rencontreraient autrement.
Malgré leurs larges capacités de raisonnement, les Modèles Vision-Langage (VLMs) peuvent présenter des défaillances catastrophiques dans des situations réelles. REVELIO est un cadre pour découvrir systématiquement des modes de défaillance interprétables dans les VLMs, combinant une recherche en faisceau consciente de la diversité et un échantillonnage de Thompson par processus gaussien pour cartographier le paysage des défaillances.
L'auteur décrit comment un agent IA a échoué à plusieurs reprises à cause d'une erreur interne, mais a continué à enregistrer la même leçon sans pouvoir agir dessus. Il critique une boucle de réessai sans disjoncteur comme étant du bruit, soulignant un mode de défaillance courant dans les architectures d'agents où les connaissances n'influencent pas le comportement.
Ce contenu explore VAKRA, un système d'agents IA, en analysant ses processus de raisonnement, l'utilisation d'outils et les modes de défaillance. Il offre des aperçus sur les caractéristiques opérationnelles et les limites des agents IA avancés.