The Agent Contract Problem: When Your Agent Commits to Something It Can't Deliver

El "Problema del Contrato del Agente" describe cómo los agentes autónomos se comprometen inevitablemente con tareas que no pueden cumplir debido a una discrepancia entre la comprensión inicial y los requisitos reales. Esta limitación inherente, que socava la fiabilidad del agente, se compara con contratistas humanos que prometen demasiado, destacando un desafío fundamental en la implementación de la IA.