OpenAI hat einen Entwurf für die demokratische Steuerung von Frontier-KI vorgestellt, der einen Rahmen für die Kontrolle und Verwaltung fortschrittlicher künstlicher Intelligenzsysteme skizziert. Diese Initiative zielt darauf ab, Sicherheit und Verantwortlichkeit durch gesellschaftliche Beteiligung und demokratische Prinzipien zu gewährleisten.
Dieses Papier plädiert für „Open-World-Evaluierungen“ als Ergänzung zu traditionellen Benchmarks zur Messung von Grenz-KI-Fähigkeiten. Es stellt CRUX vor, ein Projekt zur Durchführung dieser regelmäßigen, langfristigen und realitätsnahen Aufgabenbewertungen, veranschaulicht durch einen KI-Agenten, der erfolgreich eine iOS-App veröffentlichte.
Anthropic kündigte Mythos an, sein leistungsfähigstes KI-Modell, dessen Existenz durch ein Datenleck von seinen Servern enthüllt wurde. Die Veröffentlichung des Modells ist stark eingeschränkt, und dessen Bekanntgabe wirkte sich negativ auf Cybersicherheitsaktien aus.
Es ist eine erhebliche Spannung zwischen Anthropic und OpenAI hinsichtlich der Sicherheit von Frontier-KI entstanden. Anthropic beschränkte Claude Mythos auf eine kleine Unternehmensgruppe, während OpenAI GPT-5.5 allgemein verfügbar machte, was zu Vergleichen mit „Mythos-ähnlichem Hacking“, das allen zugänglich ist, führte.
Dieses Papier behandelt offene Probleme im Risikomanagement von Frontier-KI, wobei das Fehlen wissenschaftlichen Konsenses und die Diskrepanz zu bestehenden Praktiken hervorgehoben werden. Es analysiert systematisch jede Phase des Risikomanagementprozesses, identifiziert Herausforderungen und klassifiziert Probleme nach ihrer Ursache.
Google DeepMind geht Partnerschaften mit globalen Beratungsunternehmen ein. Diese Zusammenarbeit soll die Leistungsfähigkeit der Spitzen-KI weltweit in Unternehmen bringen.
