Explainable AI

28 items

RESEARCHarXiv CS.LG·17/04/2026

Shapley Value-Guided Adaptive Ensemble Learning for Explainable Financial Fraud Detection with U.S. Regulatory Compliance Validation

Cette recherche aborde le défi de l'explicabilité de l'IA pour la détection de la fraude financière, essentielle pour la conformité réglementaire américaine. Elle introduit la méthode SHAP-Guided Adaptive Ensemble (SGAE), qui ajuste dynamiquement les poids de l'ensemble basé sur l'accord d'attribution SHAP, atteignant des performances et une transparence élevées.

regulatory compliance Financial services machine learning Explainable AI

RESEARCHarXiv CS.LG·il y a 5j

Early Detection of Alzheimer's Disease Using Explainable Machine Learning on Clinical Biomarkers: A Multi-Class Classification Study Using the Alzheimer's Disease Neuroimaging Initiative (ADNI) Dataset

Un classificateur XGBoost a été développé en utilisant des caractéristiques cliniques de l'ensemble de données ADNI pour la détection multi-classes de la cognition normale, du trouble cognitif léger et de la maladie d'Alzheimer. Le modèle a atteint une AUC macro moyenne élevée de 0,983 et une précision de 0,944, avec des valeurs SHAP fournissant une explicabilité des caractéristiques.

machine learning Alzheimer's disease Explainable AI XGBoost

RESEARCHarXiv CS.AI·14/04/2026

Explainable Planning for Hybrid Systems

Cette thèse présente une étude approfondie sur la planification explicable de l'intelligence artificielle (XAIP) pour les systèmes hybrides, répondant au besoin croissant de générer des explications pour les systèmes basés sur l'IA. Elle se concentre sur l'application de la planification automatisée dans des domaines complexes et critiques, tels que les réseaux énergétiques intelligents et les voitures autonomes.

Autonomous systems Hybrid Systems XAI Planning Explainable AI

ARTICLEDEV.to AI·23/04/2026

Explainable Causal Reinforcement Learning for smart agriculture microgrid orchestration with zero-trust governance guarantees

Cet article décrit l'épiphanie d'un développeur alors qu'il déboguait un agent d'apprentissage par renforcement « boîte noire » qui ne parvenait pas à synchroniser des microréseaux agricoles intelligents. La prise de conscience que l'agent manquait de compréhension causale l'a conduit à explorer l'IA explicable et les frameworks d'inférence causale pour éviter les pannes de courant en cascade.

smart agriculture microgrids reinforcement learning Explainable AI

RESEARCHarXiv CS.AI·07/04/2026

Explainable Model Routing for Agentic Workflows

Este conteúdo descreve o Topaz, um framework para roteamento auditável em fluxos de trabalho de agentes de IA. Ele visa resolver a falta de transparência na seleção de modelos, que atualmente prioriza custo e desempenho sem registrar as compensações subjacentes, utilizando perfis de habilidades e algoritmos de roteamento rastreáveis.

model routing Agentic Workflows Explainable AI

NEWSDEV.to AI·22/04/2026

Blaze Balance Engine SaaS

Blaze Balance Engine SaaS est un système guidé par l'IA pour le suivi, la prévision, l'explicabilité et le contrôle opérationnel. Il comprend la cartographie d'état en direct et des reçus de décision explicables, ayant été développé et prouvé dans un environnement réel de forte activité avant d'être proposé en tant que SaaS.

SaaS forecasting monitoring Explainable AI

RESEARCHarXiv CS.LG·17/04/2026

Explainable Graph Neural Networks for Interbank Contagion Surveillance: A Regulatory-Aligned Framework for the U.S. Banking Sector

Le framework ST-GAT, un réseau neuronal graphique explicable, offre une solution d'alerte précoce pour la détection de la détresse bancaire et la surveillance de la contagion interbancaire aux États-Unis. Il modélise plus de 8 000 institutions du FDIC, atteignant des performances élevées (AUPRC de 0.939) et identifiant des facteurs prédictifs clés tels que le ROA et le Ratio NPL.

Graph Neural Networks machine learning banking Explainable AI

ARTICLEDEV.to AI·15/04/2026

SHAP Is Not Production-Ready — And We Need to Stop Pretending It Is

L'article affirme que SHAP n'est pas prêt pour la production en raison de problèmes tels que la lenteur, l'incohérence et la déconnexion du modèle principal. L'auteur critique l'architecture de l'explainer séparé et propose une approche où les explications sont générées en même temps que l'inférence du modèle.

MLOps production ML xAI SHAP

RESEARCHarXiv CS.AI·16/04/2026

ReSS: Learning Reasoning Models for Tabular Data Prediction via Symbolic Scaffold

ReSS est un cadre qui relie les modèles de raisonnement symboliques et neuronaux pour la prédiction de données tabulaires, visant à la fois une grande précision et un raisonnement compréhensible. Il exploite des arbres de décision pour extraire des échafaudages symboliques qui guident un LLM à générer un raisonnement en langage naturel, utilisé ensuite pour l'affinement des LLM spécialisés dans le raisonnement tabulaire.

machine learning Explainable AI tabular data large language models

RESEARCHarXiv CS.LG·05/05/2026

Agentopic: A Generative AI Agent Workflow for Explainable Topic Modeling

Agentopic est un nouveau flux de travail basé sur des agents pour la modélisation de sujets explicables, exploitant les capacités de raisonnement des Grands Modèles de Langage (LLM). Il améliore la transparence en permettant de retracer le raisonnement derrière les attributions de sujets, atteignant un score F1 de 0,95, égalant GPT-4.1.

LLMs Topic Modeling Explainable AI AI agents

ARTICLEDEV.to AI·il y a 17j

AITracer and the Coming War Against Invisible AI

L'industrie de l'IA a développé des systèmes puissants capables d'automatiser des flux de travail complexes, mais un défi majeur est apparu : l'incapacité d'expliquer pleinement leurs actions. Cette "infrastructure agentique" soulève des préoccupations concernant la responsabilité opérationnelle et la sécurité, rendant des solutions comme AITracer indispensables.

AI Monitoring security Explainable AI agentic infrastructure

ARTICLEDEV.to AI·il y a 9j

Explainable Causal Reinforcement Learning for circular manufacturing supply chains for low-power autonomous deployments

L'auteur explore l'intersection de l'inférence causale et de l'apprentissage par renforcement pour optimiser les chaînes d'approvisionnement manufacturières circulaires. Cette approche vise à développer des agents de RL plus robustes et explicables pour des déploiements autonomes à faible consommation.

sustainability Explainable AI Supply Chains Causal Reinforcement Learning

RESEARCHDEV.to AI·12/04/2026

Explainable Causal Reinforcement Learning for wildfire evacuation logistics networks in carbon-negative infrastructure

Cette recherche vise à surmonter les limitations des modèles standards de Reinforcement Learning pour l'optimisation des évacuations en cas d'incendie de forêt. L'auteur applique l'inférence causale, inspirée par Judea Pearl et Bernhard Schölkopf, pour gérer les recommandations inexplicables et les variables de confusion.

wildfire evacuation reinforcement learning Explainable AI Causal Reinforcement Learning

RESEARCHDEV.to AI·21/04/2026

Explainable Causal Reinforcement Learning for satellite anomaly response operations under multi-jurisdictional compliance

Le texte aborde la nécessité d'une IA explicable et causale pour les opérations spatiales, illustrant avec un incident de satellite où une correction automatisée a violé les réglementations de souveraineté des données. Il souligne l'échec des approches traditionnelles de l'IA à gérer la complexité des contraintes techniques, des priorités opérationnelles et des frontières juridictionnelles.

Anomaly Detection Aerospace AI reinforcement learning Explainable AI

ARTICLEDEV.to AI·10/05/2026

I Built an AI News Site That Actually Explains Things in Plain English

L'auteur a créé un site d'actualités sur l'IA pour combler le fossé entre le contenu d'IA trop simplifié et celui académiquement dense. Il vise à fournir des informations pratiques et claires aux professionnels qui utilisent quotidiennement les outils d'IA.

AI news content strategy Explainable AI Communication

CASEDEV.to AI·26/04/2026

NeuroCloak: Cognitive Digital Twin (CDT) for AI Systems

Quatre étudiants ont développé une plateforme de gouvernance d'IA en production en utilisant la version gratuite de MongoDB pour répondre au besoin critique de décisions d'IA explicables et auditables. Cette solution permet aux responsables de la conformité de comprendre "pourquoi" une IA a pris une décision spécifique, un défi intensifié par la surveillance réglementaire croissante et les pénalités du RGPD.

regulation Explainable AI compliance AI Governance

RESEARCHarXiv CS.AI·01/05/2026

Binary Spiking Neural Networks as Causal Models

Cet article propose une analyse causale des Réseaux Neuronaux Binaires à Spikes (BSNNs) pour expliquer leur comportement, en représentant leur activité comme un modèle causal binaire. En utilisant des solveurs SAT et SMT, il calcule des explications abductives pour les classifications du réseau et démontre que, contrairement à SHAP, ces explications ne contiennent pas de caractéristiques complètement inutiles.

neural networks causal AI Explainable AI

RESEARCHarXiv CS.AI·17/04/2026

Interpretable and Explainable Surrogate Modeling for Simulations: A State-of-the-Art Survey and Perspectives on Explainable AI for Decision-Making

Cette étude explore l'intégration de la modélisation de substitution et de l'IA Explicable (XAI) pour les simulations de systèmes complexes, abordant la nature de boîte noire de ces modèles. Elle vise à reconnecter ces domaines complémentaires, montrant comment l'XAI peut décortiquer les modèles de substitution malgré les contraintes d'ingénierie.

simulations Surrogate Models Decision Making machine learning

RESEARCHarXiv CS.LG·17/04/2026

Towards Verified and Targeted Explanations through Formal Methods

Cet article introduit ViTaX, un cadre XAI formel qui génère des explications contrefactuelles ciblées avec des garanties mathématiques. Il comble les lacunes des méthodes XAI existantes qui n'offrent pas de garanties de confiance pour les réseaux neuronaux dans des domaines critiques comme la conduite autonome et le diagnostic médical.

deep learning formal methods Explainable AI Safety-Critical Systems

RESEARCHarXiv CS.CL·20/04/2026

Applied Explainability for Large Language Models: A Comparative Study

Cet article présente une étude comparative de trois techniques d'explicabilité (Integrated Gradients, Attention Rollout et SHAP) appliquées à un modèle DistilBERT pour la classification de sentiments. L'étude conclut que les méthodes basées sur le gradient offrent des explications plus stables et intuitives, tandis que celles basées sur l'attention sont efficaces mais moins alignées avec les caractéristiques prédictives.

Comparative Study Natural Language Processing Explainable AI large language models