Anthropic Urges Global Pause in AI Development, Flags 'Self-Improvement' Risk

Anthropic insta a una pausa global en el desarrollo de la IA, advirtiendo que los sistemas están avanzando tan rápidamente que pronto podrían mejorarse a sí mismos sin intervención humana. La empresa sugiere que esta "auto-mejora recursiva" plantea riesgos sociales significativos y una oportunidad para que las estructuras sociales se alineen.