Investigadores de Ox Security descubrieron vulnerabilidades críticas en los servidores MCP, que afectan a millones, y que Anthropic se niega a corregir a nivel de protocolo. Este fallo arquitectónico permite que indicaciones maliciosas secuestren la ejecución de herramientas y exfiltren datos de servidores expuestos públicamente.
Este artículo aborda la grave falla de seguridad de la ausencia de rastros de auditoría en los servidores MCP, un protocolo estándar para la comunicación entre agentes de IA. Detalla cómo la falta de características cruciales como la firma de solicitudes y la verificación de identidad ha provocado incidentes graves, ofreciendo una lista de verificación práctica para mitigar estos riesgos.
El artículo analiza la vulnerabilidad de los agentes de IA con acceso irrestricto a herramientas, capaces de ejecutar comandos peligrosos como 'DROP TABLE users'. Para solucionar esto, el autor desarrolló AgentShield-FW, un firewall en tiempo de ejecución que intercepta llamadas a herramientas e impone políticas de seguridad configurables.
El autor identificó graves vulnerabilidades de seguridad en plataformas de agentes de IA, como fuga de código fuente y claves de API expuestas, debido a la falta de revisión de las configuraciones del protocolo MCP. Para mitigar estos riesgos, desarrolló AgentAuditKit, una herramienta de código abierto para auditoría de seguridad.
El contenido describe la "Inyección de Prompt Indirecta" como una vulnerabilidad donde los asistentes de IA con acceso a Gmail pueden ser engañados por correos electrónicos maliciosos para realizar acciones no deseadas. Propone una solución de "Airgap Semántico", utilizando un "Sanitizador Tonto" para eliminar el poder imperativo de los datos externos antes de que lleguen al agente de "Alta Inteligencia", previniendo así estos ataques.
Esta guía completa aborda las amenazas de seguridad únicas que enfrentan las aplicaciones de IA, como la inyección de prompts y el robo de modelos. Detalla una metodología de prueba de penetración para proteger los sistemas de IA de ataques para 2026.
La campaña de ataques a la cadena de suministro de TeamPCP se reanudó con compromisos simultáneos dirigidos al paquete de inferencia de IA xinference, Checkmarx KICS y Bitwarden CLI. Esto es directamente relevante para la seguridad de la IA, afectando un marco de servicio de modelos LLM/ML ampliamente utilizado.
El artículo diferencia dos avances recientes en pruebas de IA: los pentests de seguridad de IA de $100 de Lovable y la investigación de Meta sobre pruebas unitarias generadas por LLM que detectan más errores. Argumenta que agruparlos bajo la misma categoría de "pruebas de IA" oscurece sus funciones y problemas completamente diferentes que resuelven.
Se descubrió una CVE crítica en el framework de agentes de IA OpenHands debido a la sanitización inadecuada de rutas de archivos, permitiendo la lectura arbitraria de archivos. Este incidente revela una nueva clase de problemas de seguridad en sistemas agénticos, donde cada herramienta es un vector de inyección potencial que la comunidad no está abordando suficientemente.
Este artículo demuestra cómo envenenar un asistente de seguridad de IA basado en RAG y realizar una inyección de prompt indirecta. Los resultados de referencia muestran tasas de éxito de ataque del 80% y 100%, probando la vulnerabilidad de estos sistemas.
A Anthropic lançou o Claude Mythos Preview, um modelo de IA excepcionalmente eficaz na descoberta e exploração de vulnerabilidades de segurança. Ele não será lançado ao público, mas sim a pesquisadores e fornecedores através do Project Glasswing, visando corrigir falhas antes que suas capacidades sejam mal utilizadas.
Anthropic ha lanzado el Project Glasswing, una iniciativa innovadora centrada en proteger los sistemas de IA contra vulnerabilidades y ataques. El proyecto ya ha asegurado más de 200 sistemas críticos y busca reducir los riesgos de violación en hasta un 70%, además de aumentar la concienciación sobre seguridad.
O artigo destaca que a segurança em sistemas de IA multiagente falha devido à gestão de identidade e permissões, e não à qualidade do modelo. Sem respostas claras sobre a identidade e as permissões de cada agente, as frotas de IA se tornam vulneráveis e operam como contas root compartilhadas, carecendo de trilhas de auditoria e proteção contra injeção de prompt.
Una integración de LLM experimentó un ataque de inyección de prompt, lo que provocó que el modelo revelara la configuración del sistema en lugar de una consulta de datos. Este incidente subraya los importantes riesgos de seguridad que plantean los LLM, especialmente con datos empresariales sensibles, y el autor propone una estrategia de 5 pasos para mitigar estas amenazas.
Este artículo analiza cómo la rápida adopción de la inteligencia artificial en las empresas exige una reevaluación de la seguridad, ya que los sistemas de IA introducen nuevas superficies de ataque que la ciberseguridad tradicional no cubre. Aborda desafíos como la exposición de datos sensibles, ataques de inyección de prompts y manipulación de modelos, destacando la necesidad de proteger modelos, datos y decisiones en un entorno impulsado por la IA.
Este artigo, parte 8 de uma série sobre MCP, aborda riscos de segurança específicos do protocolo que persistem mesmo após a autenticação e transporte seguro. Ele foca em vulnerabilidades que surgem da confiança do modelo em descrições de ferramentas, como envenenamento de ferramentas, incomuns em APIs tradicionais.
El informe detalla auditorías de seguridad automatizadas en ecosistemas de habilidades de agentes de IA, clasificando miles de habilidades como seguras, sospechosas o maliciosas. Destaca ejemplos específicos de habilidades maliciosas, describiendo sus riesgos y amenazas clave, como la evaluación dinámica de código y la detección semántica de LLM.
Este contenido presenta la Inyección Indirecta de Prompt (IPI) como una amenaza silenciosa pero peligrosa para los LLM, donde los agentes de IA se convierten en "Confused Deputies". Al leer datos envenenados, los LLM con capacidades de uso de herramientas pueden ser manipulados para exfiltrar datos o realizar acciones no autorizadas sin el consentimiento explícito del usuario.
Este artículo destaca que los generadores de código de IA a menudo omiten las comprobaciones de propiedad en los endpoints de la API, lo que lleva a vulnerabilidades de Insecure Direct Object Reference (IDOR). Esto permite que los usuarios autenticados accedan o modifiquen datos de otros usuarios, requiriendo una corrección manual para comparar los IDs de usuario y propietario del recurso.
El artículo advierte sobre una vulnerabilidad crítica en los frameworks de agentes de IA, donde la recuperación de URLs sin validación puede llevar a la inyección de prompts. Los atacantes pueden explotar esto con dominios falsos que contienen instrucciones maliciosas disfrazadas, las cuales son interpretadas como legítimas por el LLM.