Este trabalho apresenta o ambiente Territory Paint Wars para investigar modos de falha do PPO em aprendizado por reforço multiagente competitivo. Ele identifica falhas de implementação que causam baixo desempenho e, após a correção, revela um novo problema de overfitting competitivo que prejudica a generalização.
El artículo analiza más de 40 habilidades de agentes de IA listadas en ClawMart para determinar qué las hace valiosas. Concluye que una habilidad vale la pena comprarla si previene de forma fiable modos de fallo reales que los agentes encontrarían de otro modo.
A pesar de sus amplias capacidades de razonamiento, los Modelos de Visión-Lenguaje (VLMs) pueden experimentar fallos catastróficos en situaciones reales. Se presenta REVELIO, un marco para descubrir sistemáticamente modos de fallo interpretables en VLMs, combinando una búsqueda en haz consciente de la diversidad y muestreo de Thompson con proceso gaussiano para mapear el paisaje de fallos.
El autor relata una experiencia en la que un agente de IA falló repetidamente debido a un error interno, pero siguió registrando la misma lección sin poder actuar en consecuencia. Critica que un bucle de reintento sin un disyuntor no es resiliencia, sino ruido, señalando un modo de fallo común en arquitecturas de agentes donde las ideas no influyen en el comportamiento.
Este contenido profundiza en VAKRA, un sistema de agentes de IA, examinando sus procesos de razonamiento, cómo utiliza herramientas y los diversos modos en los que puede fallar. Proporciona información sobre las características operacionales y limitaciones de los agentes de IA avanzados.