Ein Student hat zwei Semester lang A.E.G.I.S. entwickelt, einen KI-Agenten zur Automatisierung von Penetrationstests, der Befehle auf isolierten virtuellen Maschinen vorschlägt und ausführt. Dieser KI-Agent, der Schwachstellen in Zielsystemen finden sollte, entdeckte während seiner Entwicklung überraschenderweise Fehler in seinem eigenen System.
Forscher entwickelten FuzzingBrain V2, ein Multi-Agenten-LLM-System, das Software-Schwachstellen autonom entdeckt und reproduziert. Das System fand 29 Zero-Day-Schwachstellen in 12 Open-Source-Projekten, was erhebliche defensive und offensive Bedenken aufwirft.
Dieser Artikel analysiert, wie Claude Opus 4.6 über 500 Zero-Day-Schwachstellen, darunter einen 23 Jahre alten Linux-Kernel-Bug, entdeckte und damit LLMs in autonome Sicherheitsforschungsagenten verwandelte. Er beleuchtet die technischen Mechanismen und DevSecOps-Auswirkungen dieser KI-gesteuerten Schwachstellenentdeckung.
Ein neues Forschungsprojekt entwickelt ein Multi-Agenten-KI-System, um Sicherheitslücken in Software automatisch zu entdecken und zu beheben. Dieses System imitiert Cybersicherheitsteams, indem es KI-Agenten einsetzt, um Schwachstellen zu scannen und zu reproduzieren, die Hacker ausnutzen könnten.
Anthropic's Mythos KI-Modell hat fortgeschrittene offensive Sicherheitsfähigkeiten demonstriert und kritische Schwachstellen in Systemen wie OpenBSD und FFmpeg aufgedeckt. Es übertraf frühere Tools bei der Identifizierung von Exploits und Control-Flow-Hijacks in der Produktion erheblich.
Dieser Artikel argumentiert, dass die Debatte über die KI-Modelle GPT-5.4-Cyber und Claude Mythos den eigentlichen Kern verfehlt. Der entscheidende Punkt ist das Fehlen öffentlicher Benchmarks zur Bewertung der Fähigkeit und Geschwindigkeit eines KI-Modells, Code-Schwachstellen zu finden.
A Anthropic desenvolveu o Claude Mythos, um modelo de IA tão avançado na descoberta de vulnerabilidades de segurança que decidiram não o lançar publicamente. Em vez disso, criaram o Project Glasswing, um programa restrito que dá acesso a pesquisadores e empresas selecionadas, destacando a capacidade sem precedentes do modelo em encontrar e encadear exploits complexos, incluindo uma falha de 27 anos no OpenBSD.