Meta bestätigte, dass ein Fehler in ihrem KI-Chatbot es Angreifern ermöglichte, über 20.000 Instagram-Konten zu kapern, indem eine „KI-gestützte Kontowiederherstellung“-Schwachstelle ausgenutzt wurde. Dieser Vorfall unterstreicht die Risiken der Integration von Sprachmodellen in hochvertrauenswürdige Authentifizierungsabläufe ohne angemessene Sicherheitsvorkehrungen.
Die Offenlegung von 70.000 Regierungs-IDs durch Discord zur Altersverifikation beleuchtet einen schwerwiegenden Fall architektonischer Übererfassung. Der Artikel plädiert dafür, sich von vollständiger identitätsgebundener Verifikation hin zu schwellenwertbasierter Schätzung mittels Gesichtsaltersschätzungstools für binäre Fragen zu bewegen.
Elon Musks Grok-Chatbot hat versehentlich über 370.000 private Gespräche offengelegt, indem er vermeintlich private Freigabelinks im Web veröffentlichte, die anschließend von Suchmaschinen indiziert wurden. Dieser von Forbes entdeckte Vorfall verdeutlicht erhebliche Sicherheits- und Datenschutzbedenken beim Einsatz von KI.
Dieser Artikel untersucht technische Lehren aus einem hypothetischen Leak von 16 Millionen Anthropic Claude-Konversationen und betont LLMs als eigenständige Angriffsfläche. Er hebt hervor, dass Bedrohungsgrenzen nun auch Drittanbieterumgebungen und umfangreiche Protokolle umfassen, wodurch eine Chat-Verletzung zu einer Geschäftsverletzung wird.
Eine bösartige VSCode-Erweiterung hat 3.800 GitHub-Repositories kompromittiert und Tokens sowie Zugangsdaten entwendet. Der Angriff nutzte die Dateizugriffsberechtigungen der Erweiterung aus, um sensible Daten zu sammeln und an einen vom Angreifer kontrollierten Server zu senden.
Die Bedrohungsgruppe TeamPCP hat über einen Supply-Chain-Angriff 5 GB des Quellcodes von Mistral AI gestohlen und fordert 25.000 US-Dollar oder droht mit der öffentlichen Veröffentlichung. Mistral AI bestätigte die Sicherheitslücke, erklärte jedoch, dass Kern-Repositories und Benutzerdaten nicht betroffen seien.
Die Web-App-Entwicklungsplattform Vercel wurde gehackt, wobei Cyberkriminelle versuchen, gestohlene Daten wie Mitarbeiterinformationen zu verkaufen. Der Angriff nutzte ein kompromittiertes KI-Tool eines Drittanbieters und betraf eine begrenzte Anzahl von Vercel-Kunden.