Cet article décrit un modèle pour implémenter la "délégation basée sur la confiance" dans AWS Bedrock, comblant le vide où CloudTrail enregistre les appels d'outils des agents mais pas leur fiabilité. Il utilise l'Agent Veil Protocol (AVP) pour permettre à un agent orchestrateur de vérifier la réputation et les niveaux de confiance d'autres agents avant de déléguer des tâches.
DecisionBench est introduit comme une nouvelle référence pour la délégation émergente dans les workflows agentiques à long terme. Il comprend une suite de tâches fixe, un pool de modèles pairs et une suite de métriques multi-axes pour évaluer la qualité et le coût de la délégation.
Le titre explore la question de savoir si un agent IA peut déléguer son propre travail. Cela soulève des discussions sur l'autonomie et les capacités d'organisation des systèmes d'intelligence artificielle.
Cet article traite du problème de la délégation dans l'IA multi-agents, où les agents prennent des décisions et accèdent aux systèmes internes au nom de l'utilisateur. Cela soulève des questions cruciales de sécurité et d'autorisation auxquelles les équipes de sécurité ont du mal à répondre.
L'auteur décrit l'expérience transformative de la délégation de tâches de codage à des agents d'IA en arrière-plan, qui fonctionnent de manière autonome. Cela marque un changement significatif dans la nature du travail de développement logiciel, exigeant une nouvelle approche quant à quoi et comment déléguer.
Cet article aborde le défi critique de l'autorisation pour les agents d'IA, soulignant que les capacités éclipsent souvent les contraintes nécessaires. L'auteur présente "Vouch", une solution conçue pour offrir une délégation délimitée avec des jetons liés à la session pour une interaction sécurisée des agents avec les services.
Il est crucial que les agents d'IA disposent de preuves avant de déléguer des tâches payantes à des outils ou d'autres compétences. Actuellement, les agents se basent sur des descriptions et des évaluations limitées, ce qui conduit à des choix non éclairés. De nouvelles approches, comme les formats de reçus signés et les fonctions de pré-vérification, émergent pour offrir la transparence nécessaire.