À proposTopCours
← heapsort-ai

AI security

70 items

ARTICLEDEV.to AI·14/04/2026

We Built an MCP Security Scanner — Here's What We Found Scanning 50+ Servers

Un scan de sécurité de plus de 50 serveurs MCP open-source a révélé que 72% présentaient des vulnérabilités critiques ou de haute gravité, telles que des clés API codées en dur et une exécution de commandes non sécurisée. Cela souligne une lacune de sécurité importante dans les serveurs MCP, de plus en plus utilisés par les assistants IA mais souvent développés sans mesures de défense adéquates.

Hardcoded SecretsMCPvulnerability scanningInput Validation
60
ARTICLE↑ trendingReddit r/MachineLearning·20/04/2026

Runtime security for AI agents: risk scoring, policy enforcement, and rollback for production agent pipeline [P]

Ce contenu présente un système de sécurité d'exécution pour les agents IA, conçu pour prévenir les actions involontaires et les fuites de PII en production. Il utilise une évaluation des risques en temps réel sur cinq dimensions (type d'action, sensibilité des ressources, rayon d'explosion, fréquence et déviation contextuelle), ainsi que l'application de politiques et le retour en arrière.

risk managementAI securityAI agents
Runtime security for AI agents: risk scoring, policy enforcement, and rollback for production agent pipeline [P]
42
ARTICLEDEV.to AI·19/04/2026

How to Safely Execute LLM Commands in Production Systems

Cet article aborde les risques critiques des agents LLM qui déclenchent des actions de backend dans les systèmes de production, soulignant que traiter la sortie brute du modèle comme des instructions exécutables est dangereux. Il présente le défi comme un problème d'interface, plaidant pour des limites déterministes afin de valider, rejeter et auditer les commandes générées par les LLM pour la sécurité.

LLM Agentsproduction systemsAI safetyAI security
33
ARTICLEDEV.to AI·16/04/2026

NEW PROMPT INJECTION

Cet article de Karen Tonoyan introduit le concept de Narrative Drift Injection (NDI) comme une nouvelle dimension de l'injection de prompt. Contrairement aux attaques classiques, le NDI manipule le modèle d'IA en l'entraînant dans un récit qu'il co-crée, lui faisant perdre sa vigilance au niveau de la session.

vulnerabilityprompt injectionAI security
31
ARTICLEDEV.to AI·15/04/2026

OpenAI's Promptfoo deal puts evaluation and red-teaming at the centre of the agent stack

L'acquisition de Promptfoo par OpenAI marque un virage dans l'évaluation de la qualité des agents IA, désormais jugée par la capacité à tester et maîtriser les défaillances avant le déploiement. Cela permet de gérer les risques opérationnels critiques tels que l'injection de prompt et l'utilisation abusive d'outils, garantissant la robustesse des systèmes en production.

red-teamingLLM Agentsevaluationprompt injection
30
ARTICLEDEV.to AI·11/04/2026

Cryptographic Proof of Agent-to-Agent Handoffs in Python

La version 0.6.1 de la bibliothèque `air-trust` introduit des preuves cryptographiques (signatures Ed25519) pour les transferts de données entre agents dans les systèmes d'IA multi-agents en Python. Cette fonctionnalité vise à résoudre les problèmes d'audit et de sécurité, en garantissant l'authenticité des données et la responsabilité des agents dans les pipelines d'IA.

multi-agent AIaudit trailPythonCryptographic Proof
29
ARTICLEDEV.to AI·17/04/2026

Why Cursor Keeps Writing Prototype Pollution Into Your JS

L'article alerte que les éditeurs d'IA, tel que Cursor, reproduisent un motif de fusion récursive dangereux issu de données d'entraînement antérieures à 2019, provoquant des vulnérabilités de "pollution de prototype" en JavaScript. Cette faille de sécurité permet aux attaquants d'injecter des propriétés dans `Object.prototype`, affectant tous les objets, et a été précédemment identifiée dans `lodash` (CVE-2019-10744).

AI modelsSoftware DevelopmentvulnerabilityJavaScript
28
ARTICLEDEV.to AI·08/04/2026

The OpenClaw Security Crisis: 135,000 Exposed AI Agents and the Runtime Governance Gap

Em 3 de fevereiro de 2026, uma grave vulnerabilidade (CVE-2026-25253, CVSS 8.8) foi divulgada no OpenClaw, um agente de IA de código aberto, permitindo execução remota de código. Isso levou à descoberta de 138 vulnerabilidades em 63 dias, com mais de 135.000 instâncias de OpenClaw publicamente expostas globalmente, muitas sem autenticação.

vulnerabilitycybersecurityopen-source AIAI security
28
ARTICLEDEV.to AI·15/04/2026

A Complete Guide to Securing AI-Generated Code: From Pre-LLM Sanitization to AI-Native SAST (2026)

Cet article analyse les risques de sécurité liés à l'utilisation d'assistants de codage IA, tels que GitHub Copilot, en soulignant deux directions principales : la génération de code avec des failles de sécurité et l'exposition de données sensibles (clés API, PII) lorsque les développeurs collent leur code dans ces outils. Il note que la plupart des équipes de sécurité se concentrent sur le premier problème, mais peu ont un plan pour la fuite de données du second.

data leakagecode securitySoftware Development SecurityAI coding assistants
28
ARTICLEDEV.to AI·16/04/2026

Securing AI Agents: A Practical Guide for IT Leaders

Cet article propose un guide pratique pour les leaders informatiques sur la sécurisation des agents d'IA, répondant aux exigences opérationnelles immédiates. Il souligne les défis uniques de la sécurité des agents d'IA par rapport aux applications traditionnelles en raison de leur comportement imprévisible.

cybersecurityAI securityAI agents
28
ARTICLEDEV.to AI·19/04/2026

Two DM-origin problems, not one: security hardening vs. compliance-bias hardening

Ce contenu identifie deux problèmes de durcissement des MD dans les systèmes d'IA, se concentrant sur l'aspect sécurité où les MD hostiles exploitent le raisonnement des LLM pour déclencher des actions non autorisées. Il présente la solution de la `v0.21`: une couche de provenance qui valide les actions en fonction de l'origine du MD plutôt que de son contenu.

vulnerabilitysystem hardeningLLM securitydirect messages
27