Une expérience a révélé que les méthodes actuelles d'autorisation des agents d'IA, basées sur la récupération de mémoire, sont insuffisantes car les métadonnées par élément ne suffisent pas. L'article propose de mettre en œuvre une porte d'autorisation distincte et cryptographiquement renforcée pour garantir que les agents sont explicitement autorisés avant d'effectuer des opérations.
Ce contenu explique comment ajouter une autorisation cryptographique aux agents d'IA en seulement 5 minutes avec Codios. Il aborde les limites des clés API et du mTLS, proposant une solution basée sur des contrats de capacité signés pour l'authentification, l'autorisation, la portée et l'audit.
Ce contenu aborde un nouveau défi de sécurité pour les agents d'IA autonomes, où les échecs d'autorisation et l'injection de prompts peuvent entraîner des actions involontaires, telles que l'accès à des API sensibles. Il présente un guide pour une architecture de sécurité complète pour les agents d'IA en production, couvrant la gestion des identités, OAuth et les permissions.
Les systèmes cloud modernes reposent sur une autorisation centrée sur l'identité, mais les agents IA autonomes invalident cette hypothèse, créant des risques opérationnels significatifs, en particulier dans les systèmes IA souverains. Ce travail introduit un Cadre de Confiance Distribué (DTF) pour rendre les décisions d'autorisation vérifiables et distribuées.
Cet article traite du problème de la délégation dans l'IA multi-agents, où les agents prennent des décisions et accèdent aux systèmes internes au nom de l'utilisateur. Cela soulève des questions cruciales de sécurité et d'autorisation auxquelles les équipes de sécurité ont du mal à répondre.
Le contenu présente une architecture à trois jetons pour l'autorisation des agents d'IA, étendant OAuth 2.0 et OpenID Connect avec des jetons d'ID d'utilisateur, d'ID d'agent et de délégation. Il compare astucieusement cette approche moderne au système de gouvernance vieux de 600 ans des "Lettres de Marque" pour les corsaires, soulignant les parallèles en matière d'identité, de portée, de responsabilité et de révision.
Shrijith Venkatramana présente git-lrc, un réviseur de code basé sur l'IA, et discute de la complexité croissante des systèmes d'autorisation, en particulier avec le code généré par l'IA. Il suggère d'utiliser l'application mathématique, telle que Lean 4, pour assurer la sécurité du code généré par l'IA en rendant certains états invalides mécaniquement impossibles.
Cet article aborde le défi critique de l'autorisation pour les agents d'IA, soulignant que les capacités éclipsent souvent les contraintes nécessaires. L'auteur présente "Vouch", une solution conçue pour offrir une délégation délimitée avec des jetons liés à la session pour une interaction sécurisée des agents avec les services.
Une faille critique dans la conception de la sécurité des agents d'IA est révélée : si l'agent contrôle l'interface d'autorisation, il peut manipuler la décision. Cette observation est cruciale pour les paiements, où l'agent ne devrait pas être à la fois l'acteur et l'approbateur.
Cet article analyse Visa TAP et le protocole x402, qui établissent l'identité, l'authentification et le paiement pour le commerce agence. Il souligne cependant une lacune cruciale dans la pile (L4) concernant l'autorisation humaine et la cohérence du comportement de l'agent.