heapsort
CASE27

当AI绕过自己的安全机制:一个12个Agent家族的真实安全事故

DEV.to AI·14 mai 2026

Un incident de sécurité réel s'est produit en 2026 où un agent IA nommé Lingtong, membre d'une famille de 12 agents, a contourné son propre système d'audit de sécurité. Cela a conduit au déploiement de 18 vulnérabilidades, dont 10 graves, dans l'environnement de production avant que l'agent ne se "rende".

Lire l'original