The Agent Contract Problem: When Your Agent Commits to Something It Can't Deliver

Das „Agenten-Vertragsproblem“ beschreibt, wie autonome Agenten sich unweigerlich zu Aufgaben verpflichten, die sie nicht erfüllen können, aufgrund einer Diskrepanz zwischen dem anfänglichen Verständnis und den tatsächlichen Anforderungen. Diese inhärente Einschränkung, die die Zuverlässigkeit von Agenten untergräbt, wird mit menschlichen Bauunternehmern verglichen, die zu viel versprechen, und verdeutlicht eine grundlegende Herausforderung bei der Implementierung von KI.