OpenAI a dévoilé un plan pour la gouvernance démocratique de l'IA de pointe, décrivant un cadre pour le contrôle et la gestion des systèmes d'intelligence artificielle avancés. Cette initiative vise à assurer la sécurité et la responsabilité grâce à l'apport sociétal et aux principes démocratiques.
Cet article préconise les "évaluations en monde ouvert" en complément des benchmarks traditionnels pour mesurer les capacités de l'IA de pointe. Il présente CRUX, un projet visant à mener régulièrement ces évaluations à long terme et en situation réelle, illustré par un agent IA qui a publié avec succès une application iOS.
Anthropic a annoncé Mythos, son modèle d'IA le plus performant, dont l'existence a été révélée par une fuite de données de ses serveurs. Le lancement du modèle est extrêmement restreint et sa révélation a eu un impact négatif sur les actions de cybersécurité.
Une tension significative est apparue entre Anthropic et OpenAI concernant la sécurité de l'IA de pointe. Anthropic a restreint Claude Mythos à une petite cohorte d'entreprises, tandis qu'OpenAI a rendu GPT-5.5 généralement disponible, suscitant des comparaisons avec le "hacking de type Mythos" ouvert à tous.
Cet article aborde les problèmes ouverts dans la gestion des risques de l'IA de pointe, soulignant le manque de consensus scientifique et le désalignement avec les pratiques existantes. Il examine systématiquement chaque étape du processus de gestion des risques, identifiant les défis et classant les problèmes par leur nature.
Google DeepMind s'associe à des cabinets de conseil mondiaux. Cette collaboration vise à apporter la puissance de l'IA de pointe aux organisations du monde entier.
