La versión 0.6.1 de la biblioteca `air-trust` introduce pruebas criptográficas (firmas Ed25519) para transferencias de datos entre agentes en sistemas de IA multiagente en Python. Esto resuelve problemas de auditoría y seguridad, garantizando la autenticidad de los datos y la responsabilidad de cada agente en los pipelines de IA.
Este artículo propone una arquitectura unificada de IA multiagente para automatizar la generación de pipelines de aprendizaje automático (ML) de principio a fin a partir de conjuntos de datos y objetivos en lenguaje natural. El sistema de cinco agentes integra RAG, un recomendador híbrido explicable y un mecanismo de auto-curación basado en LLM, logrando una tasa de éxito del 84,7% y una mayor robustez.
Este artículo aborda el problema de la delegación en la IA multiagente, donde los agentes toman decisiones y acceden a sistemas internos en nombre del usuario. Esto plantea preguntas críticas de seguridad y autorización que los equipos de seguridad tienen dificultades para responder.
Un nuevo proyecto de investigación está desarrollando un sistema de IA multiagente para descubrir y corregir automáticamente vulnerabilidades de seguridad en software. Este sistema imita a los equipos de ciberseguridad, utilizando agentes de IA para escanear y reproducir debilidades que los hackers podrían explotar.
El artículo explora tres problemas de seguridad específicos en sistemas de IA multiagente, que surgen debido a límites de confianza implícitos entre los agentes. Discute vulnerabilidades documentadas en el OWASP Agentic AI Top 10, como la interpretación de datos devueltos por herramientas como instrucciones para el LLM.
Story Swarm es un experimento de orquestación multiagente para la narración colaborativa, centrado en gestionar la tensión narrativa y técnica. El sistema utiliza Zustand para la gestión de estados y realiza detección de género en tiempo real mediante llamadas secundarias a Gemini.
O artigo destaca que a segurança em sistemas de IA multiagente falha devido à gestão de identidade e permissões, e não à qualidade do modelo. Sem respostas claras sobre a identidade e as permissões de cada agente, as frotas de IA se tornam vulneráveis e operam como contas root compartilhadas, carecendo de trilhas de auditoria e proteção contra injeção de prompt.
Este artigo detalha a construção de sistemas de IA multiagente para produção, enfatizando a confiabilidade e o trabalho especializado. Ele descreve uma arquitetura com papéis definidos e o protocolo A2A do Google para delegação estruturada e interoperabilidade entre agentes.
El autor explica cómo construyó un sistema de IA de cinco agentes para automatizar su proceso de creación de contenido, reduciendo el tiempo de 12 a menos de dos horas semanales. El sistema aborda la
Los sistemas de IA multiagente implican agentes de IA especializados que colaboran para manejar tareas complejas, dividiendo el trabajo en roles como investigación o revisión de código. Se utilizan en producción para varios flujos de trabajo, incluyendo desarrollo de software y creación de contenido, con orquestación proporcionada por frameworks como OpenClaw y CrewAI.