Indirect Prompt Injection

Indirect Prompt Injection: The XSS of the AI Era

Este contenido presenta la Inyección Indirecta de Prompt (IPI) como una amenaza silenciosa pero peligrosa para los LLM, donde los agentes de IA se convierten en "Confused Deputies". Al leer datos envenenados, los LLM con capacidades de uso de herramientas pueden ser manipulados para exfiltrar datos o realizar acciones no autorizadas sin el consentimiento explícito del usuario.