Anthropic Urges Global Pause in AI Development, Flags 'Self-Improvement' Risk

Anthropic fordert eine weltweite Pause in der KI-Entwicklung und warnt, dass Systeme so schnell voranschreiten, dass sie sich bald ohne menschliches Eingreifen selbst verbessern könnten. Das Unternehmen schlägt vor, dass diese "rekursive Selbstverbesserung" erhebliche gesellschaftliche Risiken birgt und eine Gelegenheit für die Angleichung gesellschaftlicher Strukturen bietet.