Causal Foundations of Collective Agency

Esta pesquisa aborda o desafio de agentes de IA mais simples formarem inadvertidamente um agente coletivo com objetivos distintos, crucial para a segurança de IA avançada. Propõe definir agência coletiva comportamentalmente, vendo um grupo como um agente unificado quando suas ações conjuntas parecem racionais e direcionadas a objetivos, formalizadas através de jogos causais e abstração.