Cet article explore les leçons d'ingénierie tirées d'une fuite hypothétique de 16 millions de conversations Claude d'Anthropic, soulignant les LLM comme une surface d'attaque distincte. Il met en évidence que les frontières des menaces englobent désormais les environnements tiers et les journaux riches, transformant une violation de chat en une violation d'entreprise.
Le modèle d'IA non commercialisé d'Anthropic, Claude Mythos Preview, a découvert de manière autonome des milliers de vulnérabilités critiques zero-day dans les principaux systèmes d'exploitation et navigateurs web. Cette découverte, réalisée via le Projet Glasswing avec des entreprises technologiques de premier plan, redéfinit significativement le rôle de l'IA en cybersécurité et souligne l'impact profond de l'IA avancée sur la sécurité des marques.
Les hackers apprennent à exploiter les « personnalités » des chatbots IA via de simples attaques appelées jailbreaks. Ces méthodes permettent aux systèmes d'IA de contourner leurs instructions de sécurité sans connaissances techniques.