Human-Guided Harm Recovery for Computer Use Agents

Diese Forschung formalisiert die „Schadenswiederherstellung“ für KI-Agenten, die Aktionen auf Computersystemen ausführen, und befasst sich mit der Herausforderung, einen Agenten optimal von einem schädlichen in einen sicheren Zustand zu lenken. Sie untermauert die präferenzbasierte Wiederherstellung durch eine Benutzerstudie und ein Belohnungsmodell zur Bewertung von Wiederherstellungsplänen.