Diese Arbeit untersucht die "Angriffsauswahl" in agentischen KI-Umgebungen, bei der Angreifer strategisch entscheiden, wann Angriffe gestartet und gestoppt werden. Die Ergebnisse zeigen, dass diese Fähigkeit die gemessene empirische Sicherheit in KI-Kontrollbewertungen erheblich reduziert, selbst bei begrenzten Prüfbudgets.
Diese Studie stellt die Incremental Completion Decomposition (ICD) vor, eine neue Jailbreak-Strategie, die Schwachstellen in den Sicherheitsmechanismen von LLMs ausnutzt, indem sie Sequenzen von Einzelwort-Fortsetzungen hervorruft. ICD zeigt eine überlegene Angriffs-Erfolgsrate (ASR) auf verschiedenen Benchmarks im Vergleich zu bestehenden Methoden und liefert theoretische sowie mechanistische Beweise für ihre Wirksamkeit.
Diese Studie schlägt eine leichtgewichtige, angepasste Faltungsneuronale Netzwerk (CNN)-Architektur vor, um die robuste Sicherheit gegenüber adversariellen Angriffen in EEG-basierten Gehirn-Computer-Schnittstellen (BCIs) zu untersuchen. Die Methode wird anhand von zwei EEG-Datensätzen bewertet und mit anderen CNN-Modellen unter gradientenbasierten adversariellen Angriffsszenarien verglichen, um einen zuverlässigen Einsatz von BCIs zu gewährleisten.
Diese Forschung untersucht die gegnerische Aktionsmaskierung im Self-Play Reinforcement Learning, bei der ein Angreifer selektiv legale Aktionen aus dem Aktionssatz eines Opfers entfernt. Die Studie ergab, dass erlerntes Maskieren wesentlich mehr Schaden anrichtet als zufälliges Maskieren, wodurch die Verfügbarkeit von Aktionen als kritische Robustheitsoberfläche im Self-Play RL identifiziert wird.