OpenAI ha presentado un plan para la gobernanza democrática de la IA de frontera, delineando un marco sobre cómo los sistemas avanzados de inteligencia artificial pueden ser controlados y gestionados. Esta iniciativa busca garantizar la seguridad y la rendición de cuentas mediante la participación social y principios democráticos.
Este artículo aboga por las "evaluaciones de mundo abierto" como complemento a los benchmarks tradicionales para medir las capacidades de la IA de frontera. Introduce CRUX, un proyecto para realizar estas evaluaciones regulares, a largo plazo y en el mundo real, ejemplificado por un agente de IA que publicó con éxito una aplicación para iOS.
Anthropic anunció Mythos, su modelo de IA más capaz, cuya existencia fue revelada por una filtración de datos de sus servidores. El lanzamiento del modelo es extremadamente restringido y su revelación impactó negativamente las acciones de ciberseguridad.
Ha surgido una tensión significativa entre Anthropic y OpenAI con respecto a la seguridad de la IA de frontera. Anthropic restringió Claude Mythos a una pequeña cohorte corporativa, mientras que OpenAI lanzó GPT-5.5 para disponibilidad general, lo que llevó a comparaciones de "hacking Mythos-like" abierto a todos.
Este artículo aborda problemas abiertos en la gestión de riesgos de la IA de frontera, señalando la falta de consenso científico y el desalineamiento con las prácticas existentes. Examina sistemáticamente cada etapa del proceso de gestión de riesgos, identificando desafíos y clasificando los problemas según su origen.
Google DeepMind se asocia con consultoras globales. Esta colaboración busca llevar el poder de la IA de vanguardia a organizaciones de todo el mundo.
