Der Inhalt besagt, dass struktureller Ausschluss die einzige Verteidigungsstrategie ist, die effektiv skalierbar ist. Es wird als die einzige Form des Schutzes dargestellt, die signifikant erweitert werden kann.
Diese Forschung befasst sich mit der wachsenden Bedrohung durch versteckte bösartige Absichten in mehrstufigen Dialogen mit großen Sprachmodellen (LLMs), bei denen Angreifer ihre schädlichen Ziele über mehrere Interaktionen verteilen. Sie schlägt einen Frühwarnmechanismus vor, um den Zeitpunkt zu identifizieren, an dem eine Antwort schädliche Aktionen ermöglichen könnte, und führt auch den Multi-Turn Intent Dataset (MTID) für Training und Evaluierung ein.
Dieser Artikel vergleicht drei Sicherheitsscanner (Cisco mcp-scanner, Snyk agent-scan und Pipelock) für den MCP-Agenten-Stack und beschreibt deren Funktionalitäten und Unterschiede. Er analysiert, wie diese Tools KI-Modelle vor Angriffen wie bösartigen Tool-Beschreibungen oder vergifteten Antworten schützen, sowohl vor der Bereitstellung als auch in Echtzeit.