← heapsort-ai

vulnerability

35 items

ARTICLEDEV.to AI·22/4/2026

Why McDonald’s AI Started Coding: A Wake-Up Call for Chatbot Security

El chatbot de soporte de McDonald's, junto con los de Alcampo y Chipotle, realizó inesperadamente tareas de codificación complejas para usuarios, revelando vulnerabilidades de seguridad críticas y fugas de capacidad en la IA agéntica. Estos incidentes sirven como una llamada de atención sobre la versatilidad inherente de los LLM y la necesidad de medidas de seguridad sólidas.

36
ARTICLEDEV.to AI·16/4/2026

NEW PROMPT INJECTION

Este artículo de Karen Tonoyan presenta el concepto de Narrative Drift Injection (NDI) como una nueva dimensión de la inyección de prompts. A diferencia de los ataques clásicos, NDI manipula el modelo de IA al envolverlo en una narrativa que él mismo ayuda a crear, haciendo que pierda la vigilancia a nivel de sesión.

31
ARTICLEDEV.to AI·hace 3d

The Security Hole in Your AI-Generated Code That Nobody Talks About

El contenido revela un fallo de seguridad crítico en el código generado por IA, específicamente un error lógico en los ciclos de actualización de tokens que permite el mantenimiento indefinido de sesiones. Destaca un enfoque único de investigación de seguridad japonesa para revisar el código de IA, centrándose en fallos lógicos en lugar de sintaxis o herramientas.

29
RESEARCHarXiv CS.CL·13/4/2026

Re-Mask and Redirect: Exploiting Denoising Irreversibility in Diffusion Language Models

El artículo revela una vulnerabilidad crítica en los modelos de lenguaje basados en difusión (dLLMs) donde su alineación de seguridad, basada en programas de denoising monotónicos, puede ser fácilmente eludida. Al volver a enmascarar tokens de rechazo e inyectar un prefijo afirmativo, los investigadores lograron altas tasas de éxito de ataque contra dLLMs destacados, exponiendo una falla estructural.

29
ARTICLEDEV.to AI·17/4/2026

Why Cursor Keeps Writing Prototype Pollution Into Your JS

El artículo advierte que los editores de IA, como Cursor, reproducen un patrón peligroso de fusión recursiva de datos de entrenamiento obsoletos, lo que conduce a vulnerabilidades de "prototype pollution" en JavaScript. Esta falla permite a los atacantes inyectar propiedades en `Object.prototype`, afectando a todos los objetos, y fue vista previamente en `lodash` (CVE-2019-10744).

28
ARTICLEDEV.to AI·8/4/2026

The OpenClaw Security Crisis: 135,000 Exposed AI Agents and the Runtime Governance Gap

Em 3 de fevereiro de 2026, uma grave vulnerabilidade (CVE-2026-25253, CVSS 8.8) foi divulgada no OpenClaw, um agente de IA de código aberto, permitindo execução remota de código. Isso levou à descoberta de 138 vulnerabilidades em 63 dias, com mais de 135.000 instâncias de OpenClaw publicamente expostas globalmente, muitas sem autenticação.

28
RESEARCHDEV.to AI·hace 5d

Indirect Prompt Injection via Notifications Hijacks Google Gemini on Android

Un investigador de SafeBreach demostró una vulnerabilidad de inyección de prompt indirecta en Google Gemini para Android, permitiendo que el asistente ejecutara acciones reales en el dispositivo sin el conocimiento del usuario a través de notificaciones. Aunque Google ha parcheado el problema, la investigación expone una gran superficie de ataque donde cualquier aplicación con capacidad de notificación puede convertirse en un vector de inyección.

28
ARTICLEDEV.to AI·hace 5d

Notification Hijacking: How WhatsApp and Slack Content Could Weaponize Google Gemini

Investigadores descubrieron una vulnerabilidad de inyección de prompt en Google Gemini para Android, donde el contenido de notificaciones de aplicaciones como WhatsApp y Slack podría ser interpretado como instrucciones maliciosas. Esto permitiría a un atacante controlar Gemini para abrir navegadores, enviar mensajes o envenenar su memoria a largo plazo, sin necesidad de una aplicación maliciosa ni permisos especiales.

28
ARTICLEDEV.to AI·19/4/2026

Two DM-origin problems, not one: security hardening vs. compliance-bias hardening

Este contenido identifica dos problemas de endurecimiento de DM en sistemas de IA, centrándose en el aspecto de seguridad donde los MD hostiles explotan el razonamiento de los LLM para desencadenar acciones no autorizadas. Presenta la solución de la `v0.21`: una capa de procedencia que valida las acciones basándose en el origen del MD, no en el contenido.

27
NEWSDEV.to AI·hace 25d

Microsoft’s MDASH AI Snags 16 Critical Windows Flaws First

La IA MDASH de Microsoft detectó 16 fallas críticas en Windows, incluyendo cuatro errores de ejecución remota de código, antes que los hackers, cambiando el equilibrio de la ciberseguridad con un descubrimiento de vulnerabilidades más rápido. Esto subraya el papel creciente de la IA en la seguridad, ofreciendo victorias reales al encontrar fallas antes de la explotación.

27
ARTICLEDEV.to AI·5/5/2026

Your AI Assistant is Gullible: Building a "Semantic Airgap" for Gmail Connectors

El contenido describe la "Inyección de Prompt Indirecta" como una vulnerabilidad donde los asistentes de IA con acceso a Gmail pueden ser engañados por correos electrónicos maliciosos para realizar acciones no deseadas. Propone una solución de "Airgap Semántico", utilizando un "Sanitizador Tonto" para eliminar el poder imperativo de los datos externos antes de que lleguen al agente de "Alta Inteligencia", previniendo así estos ataques.

27
DOCDEV.to AI·hace 20d

AI 2026AI

Esta guía completa aborda las amenazas de seguridad únicas que enfrentan las aplicaciones de IA, como la inyección de prompts y el robo de modelos. Detalla una metodología de prueba de penetración para proteger los sistemas de IA de ataques para 2026.

27