adversarial AI

3 items

RESEARCHarXiv CS.LG·4/17/2026

Optimistic Policy Learning under Pessimistic Adversaries with Regret and Violation Guarantees

Diese Forschung befasst sich mit der Herausforderung der Entscheidungsfindung in Umgebungen mit strategischen Gegnern oder externen Faktoren, wo traditionelle Strategien in sicherheitskritischen Umfeldern katastrophal versagen können. Sie schlägt einen optimistischen Policy-Lernansatz vor, der darauf abzielt, diese Interaktionen zu berücksichtigen und Regret- sowie Verletzungsgarantien zu bieten.

reinforcement learning robust AI adversarial AI

DOCDEV.to AI·5/3/2026

DeepRobust: A PyTorch Library for Adversarial Attacks and Defenses

DeepRobust ist eine PyTorch-Bibliothek, die für Forschung und Entwicklung im Bereich adversarieller Angriffe und Verteidigungen entwickelt wurde. Sie bietet Werkzeuge, um die Robustheit von Deep-Learning-Modellen gegen bösartige Manipulationen zu testen.

deep learning security machine learning adversarial AI

NEWSDEV.to AI·4/21/2026

BotConduct Training Center: free adversarial evaluation for your AI agent

Das BotConduct Training Center hat einen kostenlosen Zugang zur adversariellen Bewertung von KI-Agenten eingeführt. Die Plattform testet die Robustheit von Agenten gegen Angriffe wie Prompt-Extraktion, Autoritäts-Imitation und widersprüchliche Informationen und zeigt, wo sie vor der Produktion versagen.

security adversarial AI AI testing