automation safety

Approval Gates for AI Agents: Draft Approval Is Not Publish Approval

El artículo advierte sobre el peligro de aprobaciones humanas vagas para los agentes de IA, destacando la necesidad de diferenciar claramente entre la aprobación de borrador y la de publicación. Sostiene que la mala interpretación de comandos como "ok" por parte de los agentes es un problema de diseño de flujo de trabajo, no de inteligencia del modelo, lo que puede llevar a acciones no deseadas.