Dieses Papier bietet eine kausale Analyse von Binären Spiking Neural Networks (BSNNs) zur Erklärung ihres Verhaltens, indem ihre Spiking-Aktivität als binäres kausales Modell dargestellt wird. Mithilfe von SAT- und SMT-Lösern werden abduktive Erklärungen für Netzwerklassifikationen berechnet, die im Gegensatz zu SHAP keine völlig irrelevanten Merkmale enthalten.
Der Softwareprototyp `FairMind` automatisiert die kausale Fairnessanalyse auf Datensatzebene und adressiert die mangelnde Fairnessberücksichtigung in den meisten AutoML-Frameworks. Er nutzt das Standard-Fairnessmodell und LLMs, um genaue Berichte über Fairness basierend auf kontrafaktischen kausalen Effekten zu erstellen.
Diese Forschung befasst sich mit der Herausforderung, dass einfachere KI-Agenten unbeabsichtigt einen kollektiven Agenten mit eigenständigen Fähigkeiten und Zielen bilden könnten, was für die Sicherheit fortgeschrittener KI-Systeme entscheidend ist. Sie schlägt vor, kollektive Handlungsfähigkeit verhaltensbasiert zu definieren, indem eine Gruppe als einheitlicher kollektiver Agent betrachtet wird, wenn ihre gemeinsamen Handlungen rational und zielgerichtet erscheinen, formalisiert durch kausale Spiele und Abstraktion.