Este artículo ofrece un análisis causal de las Redes Neuronales Binarias de Impulsos (BSNNs) para explicar su comportamiento, representándolas como un modelo causal binario. Utilizando solvers SAT y SMT, se computan explicaciones abductivas para las clasificaciones de la red y se demuestra que, a diferencia de SHAP, estas explicaciones no contienen características irrelevantes.
El prototipo de software `FairMind` automatiza el análisis de equidad causal a nivel de conjunto de datos, abordando la falta de consideración de equidad en la mayoría de los frameworks de AutoML. Utiliza el modelo estándar de equidad y LLMs para generar informes precisos sobre la equidad basados en efectos causales contrafactuales.
Esta investigación aborda el desafío de que agentes de IA más simples formen inadvertidamente un agente colectivo con objetivos distintos, crucial para la seguridad de la IA avanzada. Propone definir la agencia colectiva de forma conductual, viendo a un grupo como un agente unificado cuando sus acciones conjuntas parecen racionales y orientadas a objetivos, formalizadas mediante juegos causales y abstracción.