← heapsort-ai

vulnerability

35 items

ARTICLEDEV.to AI·16/04/2026

NEW PROMPT INJECTION

Cet article de Karen Tonoyan introduit le concept de Narrative Drift Injection (NDI) comme une nouvelle dimension de l'injection de prompt. Contrairement aux attaques classiques, le NDI manipule le modèle d'IA en l'entraînant dans un récit qu'il co-crée, lui faisant perdre sa vigilance au niveau de la session.

31
NEWSDEV.to AI·il y a 3j

Meta's AI Chatbot Just Became a Password-Reset Backdoor for 20,000+ Instagram Accounts

Meta a confirmé qu'un bug dans son chatbot IA a permis à des attaquants de pirater plus de 20 000 comptes Instagram, en exploitant une vulnérabilité de "récupération de compte assistée par IA". Cet incident souligne les risques d'intégrer des modèles linguistiques dans des processus d'authentification de haute confiance sans mesures de sécurité appropriées.

31
ARTICLEDEV.to AI·il y a 3j

The Security Hole in Your AI-Generated Code That Nobody Talks About

Le contenu révèle une faille de sécurité critique dans le code généré par l'IA, notamment un bug logique dans les cycles de rafraîchissement des jetons permettant une maintenance de session indéfinie. Il met en évidence une approche unique de recherche en sécurité japonaise pour examiner le code IA, se concentrant sur les failles logiques plutôt que sur la syntaxe ou les outils.

29
RESEARCHarXiv CS.CL·13/04/2026

Re-Mask and Redirect: Exploiting Denoising Irreversibility in Diffusion Language Models

Cet article révèle une vulnérabilité critique dans les modèles de langage basés sur la diffusion (dLLMs) où leur alignement de sécurité, reposant sur des calendriers de débruitage monotones, peut être facilement contourné. En masquant à nouveau les jetons de refus et en injectant un préfixe affirmatif, les chercheurs ont obtenu des taux de réussite d'attaque élevés contre des dLLMs proéminents, exposant une faille structurelle.

29
ARTICLEDEV.to AI·17/04/2026

Why Cursor Keeps Writing Prototype Pollution Into Your JS

L'article alerte que les éditeurs d'IA, tel que Cursor, reproduisent un motif de fusion récursive dangereux issu de données d'entraînement antérieures à 2019, provoquant des vulnérabilités de "pollution de prototype" en JavaScript. Cette faille de sécurité permet aux attaquants d'injecter des propriétés dans `Object.prototype`, affectant tous les objets, et a été précédemment identifiée dans `lodash` (CVE-2019-10744).

28
ARTICLEDEV.to AI·08/04/2026

The OpenClaw Security Crisis: 135,000 Exposed AI Agents and the Runtime Governance Gap

Em 3 de fevereiro de 2026, uma grave vulnerabilidade (CVE-2026-25253, CVSS 8.8) foi divulgada no OpenClaw, um agente de IA de código aberto, permitindo execução remota de código. Isso levou à descoberta de 138 vulnerabilidades em 63 dias, com mais de 135.000 instâncias de OpenClaw publicamente expostas globalmente, muitas sem autenticação.

28
RESEARCHDEV.to AI·il y a 5j

Indirect Prompt Injection via Notifications Hijacks Google Gemini on Android

Un chercheur de SafeBreach a démontré une vulnérabilité d'injection de prompt indirecte dans Google Gemini sur Android, permettant à l'assistant d'exécuter des actions réelles sur l'appareil à l'insu de l'utilisateur via des notifications. Bien que Google ait corrigé le problème, la recherche expose une vaste surface d'attaque où toute application capable d'envoyer une notification devient un vecteur d'injection potentiel.

28
ARTICLEDEV.to AI·il y a 15j

The Three-Body Problem: AI Code, Supply Chain Attacks, and the Talent Exodus

La sécurité logicielle est confrontée à un "problème à trois corps" en raison de la convergence du code généré par l'IA avec plus de vulnérabilités, de l'escalade des attaques de la chaîne d'approvisionnement et de l'effondrement de la filière des talents en sécurité. Ces forces interagissent de manière chaotique, rendant le système imprévisible.

28
ARTICLEDEV.to AI·il y a 5j

Notification Hijacking: How WhatsApp and Slack Content Could Weaponize Google Gemini

Des chercheurs ont découvert une vulnérabilité par injection de prompt dans Google Gemini sur Android, où le contenu des notifications d'applications comme WhatsApp et Slack pourrait être interprété comme des instructions malveillantes. Cela permettrait à un attaquant de contrôler Gemini pour ouvrir des navigateurs, envoyer des messages ou empoisonner sa mémoire à long terme, sans nécessiter d'application malveillante ni de permissions spéciales.

28
ARTICLEDEV.to AI·19/04/2026

Two DM-origin problems, not one: security hardening vs. compliance-bias hardening

Ce contenu identifie deux problèmes de durcissement des MD dans les systèmes d'IA, se concentrant sur l'aspect sécurité où les MD hostiles exploitent le raisonnement des LLM pour déclencher des actions non autorisées. Il présente la solution de la `v0.21`: une couche de provenance qui valide les actions en fonction de l'origine du MD plutôt que de son contenu.

27
ARTICLEDEV.to AI·20/04/2026

Anthropic Won't Fix the MCP Vulnerability — Here's How to Protect Your Server

Des chercheurs d'Ox Security ont découvert des vulnérabilités critiques dans les serveurs MCP, affectant des millions, qu'Anthropic refuse de corriger au niveau du protocole. Cette faille architecturale permet à des invites malveillantes de détourner l'exécution d'outils et d'exfiltrer des données des serveurs exposés publiquement.

27
ARTICLEDEV.to AI·il y a 21j

Your AI Agent's Memory is a Security Hole — Here's the Fix

L'article traite de l'empoisonnement de la mémoire comme une vulnérabilité de sécurité critique et souvent négligée dans les agents d'IA dotés de mémoire persistante. Cette attaque implique l'injection de contenu malveillant dans la mémoire d'un agent, entraînant un comportement adversarial lors de sessions futures, une menace distincte de l'injection d'invites.

27
NEWSDEV.to AI·il y a 25j

Microsoft’s MDASH AI Snags 16 Critical Windows Flaws First

L'IA MDASH de Microsoft a détecté 16 failles critiques de Windows, dont quatre bogues d'exécution de code à distance, avant les pirates, déplaçant l'équilibre de la cybersécurité grâce à une découverte plus rapide des vulnérabilités. Cela souligne le rôle croissant de l'IA dans la sécurité, offrant de réelles victoires en détectant les failles avant leur exploitation.

27
ARTICLEDEV.to AI·05/05/2026

Your AI Assistant is Gullible: Building a "Semantic Airgap" for Gmail Connectors

Le contenu décrit l'"Injection de Prompt Indirecte" comme une vulnérabilité où les assistants IA ayant accès à Gmail peuvent être trompés par des e-mails malveillants pour effectuer des actions indésirables. Il propose une solution de "Semantic Airgap", utilisant un "Sanitizer Idiot" pour supprimer le pouvoir impératif des données externes avant qu'elles n'atteignent l'agent de "Haute Intelligence", prévenant ainsi de telles attaques.

27
DOCDEV.to AI·il y a 20j

AI 2026AI

Ce guide complet traite des menaces de sécurité uniques auxquelles sont confrontées les applications d'IA, telles que l'injection de prompts et le vol de modèles. Il détaille une méthodologie de test d'intrusion pour protéger les systèmes d'IA contre les attaques d'ici 2026.

27