automation safety

Approval Gates for AI Agents: Draft Approval Is Not Publish Approval

O artigo alerta para o perigo de aprovações humanas vagas para agentes de IA, destacando a necessidade de diferenciar claramente entre a aprovação de rascunho e a aprovação de publicação. Argumenta que a interpretação incorreta de comandos como "ok" pelos agentes é um problema de design de fluxo de trabalho, e não de inteligência do modelo, que pode levar a ações indesejadas.