adversarial AI

3 items

RESEARCHarXiv CS.LG·17/4/2026

Optimistic Policy Learning under Pessimistic Adversaries with Regret and Violation Guarantees

Esta investigación aborda el desafío de la toma de decisiones en entornos con adversarios estratégicos o factores externos, donde las políticas tradicionales pueden fallar catastróficamente en entornos críticos para la seguridad. Propone un enfoque optimista de aprendizaje de políticas diseñado para tener en cuenta estas interacciones y proporcionar garantías de arrepentimiento y violación.

reinforcement learning robust AI adversarial AI

DOCDEV.to AI·3/5/2026

DeepRobust: A PyTorch Library for Adversarial Attacks and Defenses

DeepRobust es una biblioteca de PyTorch diseñada para la investigación y el desarrollo de ataques y defensas adversarias. Ofrece herramientas para probar la robustez de los modelos de aprendizaje profundo contra manipulaciones maliciosas.

deep learning security machine learning adversarial AI

NEWSDEV.to AI·21/4/2026

BotConduct Training Center: free adversarial evaluation for your AI agent

BotConduct Training Center lanzó un nivel gratuito para la evaluación adversaria de agentes de IA. La plataforma prueba la robustez de los agentes contra ataques como la extracción de prompts, la suplantación de autoridad y la información contradictoria, revelando sus puntos de fallo antes de la producción.

security adversarial AI AI testing