Anthropic Urges Global Pause in AI Development, Flags 'Self-Improvement' Risk

Anthropic exhorte à une pause mondiale dans le développement de l'IA, avertissant que les systèmes progressent si rapidement qu'ils pourraient bientôt s'améliorer sans intervention humaine. La société suggère que cette "auto-amélioration récursive" pose des risques sociétaux importants et une opportunité pour l'alignement des structures sociales.