Confused Deputy Problem

Indirect Prompt Injection: The XSS of the AI Era

Dieser Inhalt stellt Indirect Prompt Injection (IPI) als eine stille, aber gefährliche Bedrohung für LLMs vor, bei der KI-Agenten zu „Confused Deputies“ werden. Durch das Lesen vergifteter Daten können LLMs mit Werkzeugnutzungsfähigkeiten manipuliert werden, um Daten zu exfiltrieren oder nicht autorisierte Aktionen ohne explizite Benutzerzustimmung durchzuführen.