Cet article propose une analyse causale des Réseaux Neuronaux Binaires à Spikes (BSNNs) pour expliquer leur comportement, en représentant leur activité comme un modèle causal binaire. En utilisant des solveurs SAT et SMT, il calcule des explications abductives pour les classifications du réseau et démontre que, contrairement à SHAP, ces explications ne contiennent pas de caractéristiques complètement inutiles.
Le prototype logiciel `FairMind` automatise l'analyse de l'équité causale au niveau de l'ensemble de données, comblant le manque de considération d'équité dans la plupart des frameworks AutoML. Il utilise le modèle d'équité standard et les LLM pour générer des rapports précis sur l'équité basés sur des effets causaux contrefactuels.
Cette recherche aborde le défi des agents d'IA plus simples formant par inadvertance un agent collectif avec des objectifs distincts, essentiel pour la sécurité des IA avancées. Elle propose de définir l'agence collective de manière comportementale, considérant un groupe comme un agent unifié lorsque ses actions conjointes semblent rationnelles et orientées vers un but, formalisées par des jeux causaux et l'abstraction.