Causal Foundations of Collective Agency

Cette recherche aborde le défi des agents d'IA plus simples formant par inadvertance un agent collectif avec des objectifs distincts, essentiel pour la sécurité des IA avancées. Elle propose de définir l'agence collective de manière comportementale, considérant un groupe comme un agent unifié lorsque ses actions conjointes semblent rationnelles et orientées vers un but, formalisées par des jeux causaux et l'abstraction.