La version 0.6.1 de la bibliothèque `air-trust` introduit des preuves cryptographiques (signatures Ed25519) pour les transferts de données entre agents dans les systèmes d'IA multi-agents en Python. Cette fonctionnalité vise à résoudre les problèmes d'audit et de sécurité, en garantissant l'authenticité des données et la responsabilité des agents dans les pipelines d'IA.
Cet article propose une architecture d'IA multi-agents unifiée pour automatiser la génération de pipelines d'apprentissage automatique (ML) de bout en bout à partir de jeux de données et d'objectifs en langage naturel. Le système à cinq agents intègre RAG, un recommandeur hybride explicable et un mécanisme d'auto-réparation basé sur les LLM, atteignant un taux de réussite de 84,7% et une robustesse améliorée.
Cet article traite du problème de la délégation dans l'IA multi-agents, où les agents prennent des décisions et accèdent aux systèmes internes au nom de l'utilisateur. Cela soulève des questions cruciales de sécurité et d'autorisation auxquelles les équipes de sécurité ont du mal à répondre.
Un nouveau projet de recherche développe un système d'IA multi-agents pour découvrir et corriger automatiquement les vulnérabilités de sécurité dans les logiciels. Ce système imite les équipes de cybersécurité, utilisant des agents d'IA pour scanner et reproduire les faiblesses que les pirates informatiques pourraient exploiter.
L'article explore trois problèmes de sécurité spécifiques aux systèmes d'IA multi-agents, qui découlent des limites de confiance implicites entre les agents. Il aborde les vulnérabilités documentées dans l'OWASP Agentic AI Top 10, comme l'interprétation par un LLM des données renvoyées par des outils comme des instructions.
Story Swarm est une expérience d'orchestration multi-agents pour la narration collaborative, gérant les tensions narratives et techniques. Le système utilise Zustand pour la gestion d'état et effectue une détection de genre en temps réel via des appels Gemini secondaires.
O artigo destaca que a segurança em sistemas de IA multiagente falha devido à gestão de identidade e permissões, e não à qualidade do modelo. Sem respostas claras sobre a identidade e as permissões de cada agente, as frotas de IA se tornam vulneráveis e operam como contas root compartilhadas, carecendo de trilhas de auditoria e proteção contra injeção de prompt.
Este artigo detalha a construção de sistemas de IA multiagente para produção, enfatizando a confiabilidade e o trabalho especializado. Ele descreve uma arquitetura com papéis definidos e o protocolo A2A do Google para delegação estruturada e interoperabilidade entre agentes.
L'auteur explique comment il a construit un système d'IA à cinq agents pour automatiser son processus de création de contenu, réduisant le temps de 12 heures à moins de deux par semaine. Le système résout le problème de la
Les systèmes d'IA multi-agents impliquent des agents IA spécialisés collaborant pour gérer des tâches complexes, en divisant le travail entre des rôles comme la recherche ou la révision de code. Ils sont utilisés en production pour divers flux de travail, y compris le développement logiciel et la création de contenu, avec une orchestration fournie par des frameworks tels qu'OpenClaw et CrewAI.