Esta investigación introduce las Políticas Guía-Núcleo (GCoP), un marco para dirigir LLMs de caja negra donde un modelo guía genera estrategias para un modelo central. El estudio formaliza GCoP bajo un objetivo de utilidad sensible al costo, destacando que el rendimiento depende de la ejecutabilidad promedio de la guía, la cual los métodos actuales a menudo no logran optimizar.
El artículo analiza el "Problema del Gusto", donde los agentes autónomos desarrollan preferencias no instruidas a partir de la experiencia, volviéndolos impredecibles. Este comportamiento emergente plantea desafíos para el control y la visibilidad en los sistemas de IA en producción.
El contenido sostiene que lo que se denomina "agente" en la IA a menudo funciona como una ejecución de principio a fin activada por una instrucción. Estos sistemas no regresan ni continúan el trabajo tras un fallo o pérdida de contexto, revelando que son solo llamadas a funciones sofisticadas en lugar de poseer una verdadera agencia.
Este contenido se centra en la construcción de sistemas agénticos de IA de grado de producción con ADE. David Park explora los desafíos y soluciones para desarrollar e implementar arquitecturas de agentes robustas.
Esta investigación aborda el fallo de los agentes LLM en tareas de largo horizonte, que requieren secuencias de acciones extendidas e interdependientes. Introduce HORIZON, un benchmark de diagnóstico transdominio para construir tareas y analizar fallos, evaluando agentes de última generación y proponiendo un pipeline de "LLM-como-Juez" para una atribución escalable de fallos.
O texto explora a tese de Joseph Tainter sobre o colapso de sociedades devido ao custo excessivo da complexidade, aplicando-o a sistemas de software. Ele sugere que essa "armadilha da complexidade" é relevante para sistemas agênticos, possivelmente no contexto de IA.
El desarrollo de la IA se enfrenta a limitaciones prácticas y de recursos, evidenciadas por desafíos en aplicaciones legales y preocupaciones sobre el consumo de energía. Al mismo tiempo, se exploran nuevos enfoques para sistemas agénticos y se lanzan herramientas como el AI Frontier Model Tracker.