Portkey a lancé l'Agent Gateway, une nouvelle infrastructure conçue pour gérer les agents d'IA en production et relever les défis de gouvernance, de coût et de responsabilité. Il agit comme une couche de production entre les agents et le monde, garantissant que tous les appels passent par une pile gouvernée.
Microsoft modifie son approche de la gouvernance des données, Purview remplaçant SharePoint comme couche principale à l'ère de l'IA. Ce changement répond aux complexités de la conformité, qui incluent désormais l'accès de Copilot, les données sensibles et l'audit à travers Microsoft 365, ainsi que la gestion des enregistrements.
Sam Altman présente cinq principes qui guident leur travail, avec pour mission de garantir que l'AGI profite à toute l'humanité.
Une démo open-source de "gouvernance par limites d'exécution" pour les agents de codage IA a été lancée, axée sur le contrôle de ce que les modèles peuvent proposer avant toute action conséquente. Ce système propose une chaîne de gouvernance déterministe et vérifiable par relecture pour prévenir la falsification sémantique et refuser les commandes dangereuses dans un environnement de simulation uniquement.
L'auteur affirme que l'alignement de l'IA est fondamentalement un problème d'architecture de systèmes, et non une question résolvable par de simples prompts. Cette perspective découle de deux décennies d'expérience en infrastructure informatique, menant au développement de SAFi, un moteur de gouvernance d'exécution open source pour agents d'IA.
L'auteur a créé Spec Kitty, un framework SDD, après qu'un agent d'IA ait accidentellement commis des secrets d'environnement sur GitHub. Cet incident a renforcé sa conviction en l'avenir de l'IA dans les logiciels, mais a souligné le besoin d'une meilleure gouvernance dans la programmation agencielle.
Le terminal, autrefois un havre privé pour les développeurs, se transforme en un environnement d'exécution d'IA gouverné en raison de l'intégration d'outils comme GitHub Copilot CLI. Ce changement nécessite des contrôles d'entreprise, non par malveillance, mais parce que les assistants IA interagissant avec des outils et des comptes sensibles exigent une gouvernance robuste.
L'auteur détaille les progrès du référentiel PINGx, transformant une collection lâche d'agents en une architecture multi-agents structurée et gouvernée. Les implémentations clés comprennent une gouvernance à plusieurs niveaux, des budgets par projet et une boucle de mesure pour la génération de contenu autonome.
Le contenu présente une architecture à trois jetons pour l'autorisation des agents d'IA, étendant OAuth 2.0 et OpenID Connect avec des jetons d'ID d'utilisateur, d'ID d'agent et de délégation. Il compare astucieusement cette approche moderne au système de gouvernance vieux de 600 ans des "Lettres de Marque" pour les corsaires, soulignant les parallèles en matière d'identité, de portée, de responsabilité et de révision.
La nouvelle encyclique du pape Léon XIV, "Magnifica Humanitas", souligne que la technologie n'est jamais neutre, servant d'appel à l'action courageuse et solidaire face à la transformation apportée par l'intelligence artificielle. Elle propose un modèle pour que les individus et les décideurs politiques relèvent les défis et les opportunités de l'ère de l'IA.
OpenAI a détaillé son programme de politique publique pour l'intelligence artificielle. Il couvre la sécurité, la protection de la jeunesse, la transition de la main-d'œuvre et les normes mondiales pour garantir que l'IA profite à la société.
Cet article présente l'architecture Zero-UI, un concept du Rahsi Framework™ qui positionne Copilot comme interface et SharePoint comme couche système pour une interaction basée sur l'intention. Il envisage un avenir où les systèmes d'entreprise sont invoqués plutôt que vus, avec Microsoft Graph fournissant le contexte essentiel.
L'article examine comment l'évolution de l'information a historiquement façonné la gouvernance et propose un plan pour utiliser l'intelligence artificielle afin de renforcer la démocratie. Il soutient que, comme les technologies précédentes, l'IA peut remodeler les sociétés et leurs structures de gouvernement.
Le contenu propose la création d'un fichier standardisé `.well-known/governance.json` pour les agents d'IA. Cela vise à faciliter la découverte et la compréhension de leurs capacités de gouvernance, telles que la signature d'actions et les méthodes de vérification, simplifiant l'interaction pour les clients et les auditeurs.
Le paysage de l'IA connaît une croissance rapide, alimentée par des investissements massifs des grandes entreprises technologiques et son intégration dans le développement de logiciels. Un accent important est également mis sur le développement éthique de l'IA, la sécurité et l'adoption responsable à l'échelle mondiale.
L'article analyse le Kit de Gouvernance d'Agents open source de Microsoft et son Protocole de Confiance Inter-Agent (IATP), soulignant des fonctionnalités comme l'identité cryptographique et la notation de confiance comportementale pour les agents d'IA. Bien qu'il s'agisse d'une excellente infrastructure, l'auteur souligne une lacune que Microsoft ne peut combler seule, suggérant la nécessité d'une adoption plus large pour véritablement remplir l'"Internet de Confiance des Agents".
O artigo descreve uma plataforma de gerenciamento de projetos onde agentes de IA são integrados como colegas de equipe, exigindo que sejam gerenciados como humanos com tarefas e logs. Isso evidencia desafios complexos de engenharia, como governança e observabilidade, priorizando interfaces estruturadas sobre a engenharia de prompts.
Le partenariat Cisco et AWS vise à résoudre les défis de sécurité, de visibilité et de conformité lors du déploiement d'agents d'IA. Cet article explore comment surmonter ces défis de sécurité de l'IA grâce à l'analyse automatisée et à la gouvernance unifiée.
Cet article applique les dix principes du bon design de Dieter Rams à l'ingénierie de plateforme à l'ère de l'IA Agentique. Il suggère que, tout comme Rams cherchait la clarté au milieu de la confusion, les ingénieurs de plateforme devraient se demander si leurs conceptions sont réellement bonnes face à la complexité des agents IA et de la gouvernance.
La gouvernance des agents d'IA établit des politiques et des contrôles pour gérer quels agents d'IA une organisation utilise en production, leur accès aux outils et aux données, et comment leurs actions sont enregistrées. Elle est cruciale pour les équipes d'entreprise, car les couches de sécurité traditionnelles ne sont pas adaptées aux actions autonomes des agents d'IA modernes.