Explainable AI

28 items

RESEARCHarXiv CS.LG·4/17/2026

Shapley Value-Guided Adaptive Ensemble Learning for Explainable Financial Fraud Detection with U.S. Regulatory Compliance Validation

Diese Forschung befasst sich mit der Herausforderung der Erklärbarkeit in der KI zur Erkennung von Finanzbetrug, was für die Einhaltung US-amerikanischer Vorschriften entscheidend ist. Sie stellt die SHAP-Guided Adaptive Ensemble (SGAE)-Methode vor, die Ensemble-Gewichtungen dynamisch basierend auf der Übereinstimmung der SHAP-Attribution anpasst und so hohe Leistung und Transparenz erreicht.

regulatory compliance Financial services machine learning Explainable AI

RESEARCHarXiv CS.LG·vor 5T

Early Detection of Alzheimer's Disease Using Explainable Machine Learning on Clinical Biomarkers: A Multi-Class Classification Study Using the Alzheimer's Disease Neuroimaging Initiative (ADNI) Dataset

Ein XGBoost-Klassifikator wurde unter Verwendung klinischer Merkmale aus dem ADNI-Datensatz zur Mehrklassen-Erkennung von normaler Kognition, leichter kognitiver Beeinträchtigung und Alzheimer-Krankheit entwickelt. Das Modell erreichte einen hohen mittleren Makro-AUC von 0,983 und eine Genauigkeit von 0,944, wobei SHAP-Werte die Merkmalserklärbarkeit lieferten.

machine learning Alzheimer's disease Explainable AI XGBoost

RESEARCHarXiv CS.AI·4/14/2026

Explainable Planning for Hybrid Systems

Diese Arbeit präsentiert eine umfassende Studie zur erklärbaren künstlichen Intelligenzplanung (XAIP) für hybride Systeme, die dem wachsenden Bedarf an Erklärungserzeugung für KI-basierte Systeme Rechnung trägt. Sie konzentriert sich darauf, wie automatische Planung in komplexen und sicherheitskritischen Domänen wie intelligenten Energienetzen und selbstfahrenden Autos angewendet wird.

Autonomous systems Hybrid Systems XAI Planning Explainable AI

ARTICLEDEV.to AI·4/23/2026

Explainable Causal Reinforcement Learning for smart agriculture microgrid orchestration with zero-trust governance guarantees

Dieser Artikel schildert die Erkenntnis eines Entwicklers, der einen Black-Box-Reinforcement-Learning-Agenten bei der Orchestrierung intelligenter landwirtschaftlicher Mikronetze debuggte. Die Einsicht, dass dem Agenten ein kausales Verständnis fehlte, führte zur Erforschung von Erklärbarer KI und kausalen Inferenz-Frameworks, um kaskadierende Stromausfälle zu verhindern.

smart agriculture microgrids reinforcement learning Explainable AI

RESEARCHarXiv CS.AI·4/7/2026

Explainable Model Routing for Agentic Workflows

Este conteúdo descreve o Topaz, um framework para roteamento auditável em fluxos de trabalho de agentes de IA. Ele visa resolver a falta de transparência na seleção de modelos, que atualmente prioriza custo e desempenho sem registrar as compensações subjacentes, utilizando perfis de habilidades e algoritmos de roteamento rastreáveis.

model routing Agentic Workflows Explainable AI

NEWSDEV.to AI·4/22/2026

Blaze Balance Engine SaaS

Blaze Balance Engine SaaS ist ein KI-gesteuertes System für Überwachung, Prognose, Erklärbarkeit und operative Steuerung. Es umfasst Live-Zustandsabbildung und erklärbare Entscheidungsbelege und wurde in einer realen Hochaktivitätsumgebung entwickelt und erprobt, bevor es als SaaS angeboten wird.

SaaS forecasting monitoring Explainable AI

RESEARCHarXiv CS.LG·4/17/2026

Explainable Graph Neural Networks for Interbank Contagion Surveillance: A Regulatory-Aligned Framework for the U.S. Banking Sector

Das ST-GAT-Framework bietet eine erklärbare Graph Neural Network-Lösung zur Früherkennung von Bankenproblemen und zur Überwachung von Interbanken-Ansteckung im US-Bankensektor. Es modelliert über 8.000 FDIC-Institutionen mittels dynamischer Graphen, erzielt eine hohe Leistung (AUPRC 0.939) und identifiziert wichtige prädiktive Faktoren wie ROA und NPL-Verhältnis.

Graph Neural Networks machine learning banking Explainable AI

ARTICLEDEV.to AI·4/15/2026

SHAP Is Not Production-Ready — And We Need to Stop Pretending It Is

Der Artikel argumentiert, dass SHAP aufgrund von Problemen wie Langsamkeit, Inkonsistenz und der Entkopplung vom Hauptmodell nicht produktionsreif ist. Der Autor kritisiert die separate Erklärungsarchitektur und schlägt einen Ansatz vor, bei dem Erklärungen parallel zur Inferenz des Modells generiert werden.

MLOps production ML xAI SHAP

RESEARCHarXiv CS.AI·4/16/2026

ReSS: Learning Reasoning Models for Tabular Data Prediction via Symbolic Scaffold

ReSS ist ein Framework, das symbolische und neuronale Inferenzmodelle für die Vorhersage tabellarischer Daten verbindet, mit dem Ziel hoher Genauigkeit und nachvollziehbarer Begründungen. Es nutzt Entscheidungsbäume, um symbolische Gerüste zu extrahieren, die ein LLM zur Generierung natürlichsprachiger Begründungen anleiten, welche anschließend zur Feinabstimmung spezialisierter LLMs für tabellarisches Reasoning verwendet werden.

machine learning Explainable AI tabular data large language models

RESEARCHarXiv CS.LG·5/5/2026

Agentopic: A Generative AI Agent Workflow for Explainable Topic Modeling

Agentopic ist ein neuartiger agentenbasierter Workflow für erklärbare Themenmodellierung, der die Denkfähigkeiten großer Sprachmodelle (LLMs) nutzt. Er verbessert die Transparenz, indem er es ermöglicht, die Argumentation hinter Themenzuweisungen nachzuvollziehen, und erreicht einen F1-Score von 0,95, vergleichbar mit GPT-4.1.

LLMs Topic Modeling Explainable AI AI agents

ARTICLEDEV.to AI·vor 17T

AITracer and the Coming War Against Invisible AI

Die KI-Industrie hat leistungsstarke Systeme entwickelt, die komplexe Arbeitsabläufe automatisieren können, doch es ist eine erhebliche Herausforderung entstanden: die Unfähigkeit, ihre Aktionen vollständig zu erklären. Diese "agentische Infrastruktur" wirft Bedenken hinsichtlich der operativen Verantwortlichkeit und Sicherheit auf, weshalb Lösungen wie AITracer notwendig sind.

AI Monitoring security Explainable AI agentic infrastructure

ARTICLEDEV.to AI·vor 9T

Explainable Causal Reinforcement Learning for circular manufacturing supply chains for low-power autonomous deployments

Der Autor untersucht die Schnittstelle von kausaler Inferenz und Reinforcement Learning zur Optimierung zirkulärer Fertigungslieferketten. Dieser Ansatz zielt darauf ab, robustere und erklärbarere RL-Agenten für autonome Implementierungen mit geringem Stromverbrauch zu entwickeln.

sustainability Explainable AI Supply Chains Causal Reinforcement Learning

RESEARCHDEV.to AI·4/12/2026

Explainable Causal Reinforcement Learning for wildfire evacuation logistics networks in carbon-negative infrastructure

Diese Forschung konzentriert sich auf die Überwindung der Einschränkungen standardmäßiger Reinforcement-Learning-Modelle bei der Optimierung von Evakuierungen bei Waldbränden. Der Verfasser wendet kausale Inferenz, inspiriert von Judea Pearl und Bernhard Schölkopf, an, um unerklärlichen Empfehlungen und Störvariablen zu begegnen.

wildfire evacuation reinforcement learning Explainable AI Causal Reinforcement Learning

RESEARCHDEV.to AI·4/21/2026

Explainable Causal Reinforcement Learning for satellite anomaly response operations under multi-jurisdictional compliance

Der Text behandelt die Notwendigkeit erklärbarer und kausaler KI für Raumfahrtoperationen, illustriert durch einen Satellitenvorfall, bei dem eine automatische Korrektur Datenschutzbestimmungen verletzte. Er hebt das Versagen traditioneller KI-Ansätze hervor, die Komplexität technischer Einschränkungen, operationeller Prioritäten und juristischer Grenzen zu bewältigen.

Anomaly Detection Aerospace AI reinforcement learning Explainable AI

ARTICLEDEV.to AI·5/10/2026

I Built an AI News Site That Actually Explains Things in Plain English

Der Autor hat eine KI-Nachrichtenseite erstellt, um die Lücke zwischen übermäßig vereinfachten und akademisch dichten KI-Inhalten zu schließen. Ziel ist es, Praktikern, die täglich KI-Tools nutzen, klare und praktische Informationen zu bieten.

AI news content strategy Explainable AI Communication

CASEDEV.to AI·4/26/2026

NeuroCloak: Cognitive Digital Twin (CDT) for AI Systems

Vier Studenten entwickelten eine Produktions-KI-Governance-Plattform unter Nutzung der kostenlosen Stufe von MongoDB, um den kritischen Bedarf an erklärbaren und nachvollziehbaren KI-Entscheidungen zu decken. Diese Lösung ermöglicht Compliance-Beauftragten, das „Warum“ einer KI-Entscheidung zu verstehen, eine Herausforderung, die durch zunehmende regulatorische Überprüfung und DSGVO-Strafen verschärft wird.

regulation Explainable AI compliance AI Governance

RESEARCHarXiv CS.AI·5/1/2026

Binary Spiking Neural Networks as Causal Models

Dieses Papier bietet eine kausale Analyse von Binären Spiking Neural Networks (BSNNs) zur Erklärung ihres Verhaltens, indem ihre Spiking-Aktivität als binäres kausales Modell dargestellt wird. Mithilfe von SAT- und SMT-Lösern werden abduktive Erklärungen für Netzwerklassifikationen berechnet, die im Gegensatz zu SHAP keine völlig irrelevanten Merkmale enthalten.

neural networks causal AI Explainable AI

RESEARCHarXiv CS.AI·4/17/2026

Interpretable and Explainable Surrogate Modeling for Simulations: A State-of-the-Art Survey and Perspectives on Explainable AI for Decision-Making

Diese Studie untersucht die Integration von Surrogatmodellierung und Erklärbarer KI (XAI) für komplexe Systemsimulationen und adressiert dabei die inhärente Black-Box-Natur dieser Modelle. Sie zielt darauf ab, diese komplementären Bereiche wieder zu verbinden, indem sie aufzeigt, wie XAI Surrogatmodelle trotz technischer Einschränkungen entschlüsseln kann.

simulations Surrogate Models Decision Making machine learning

RESEARCHarXiv CS.LG·4/17/2026

Towards Verified and Targeted Explanations through Formal Methods

Dieses Papier stellt ViTaX vor, ein formales XAI-Framework, das zur Generierung zielgerichteter semifaktischer Erklärungen mit mathematischen Garantien entwickelt wurde. Es behebt die Mängel bestehender XAI-Methoden bei der Bereitstellung vertrauenswürdiger Erklärungen für tiefe neuronale Netze in sicherheitskritischen Bereichen wie autonomes Fahren und medizinische Diagnose.

deep learning formal methods Explainable AI Safety-Critical Systems

RESEARCHarXiv CS.CL·4/20/2026

Applied Explainability for Large Language Models: A Comparative Study

Diese Studie vergleicht drei Erklärbarkeitstechniken (Integrated Gradients, Attention Rollout und SHAP) an einem fein abgestimmten DistilBERT-Modell für die Sentimentklassifikation. Die Ergebnisse zeigen, dass gradientenbasierte Ansätze stabilere und intuitivere Erklärungen liefern, während auf Aufmerksamkeit basierende Methoden zwar effizient, aber weniger auf vorhersagerelevante Merkmale abgestimmt sind.

Comparative Study natural language processing Explainable AI large language models