Explainable AI

28 items

RESEARCHarXiv CS.LG·17/04/2026

Shapley Value-Guided Adaptive Ensemble Learning for Explainable Financial Fraud Detection with U.S. Regulatory Compliance Validation

Esta pesquisa aborda o desafio da explicabilidade em IA para detecção de fraudes financeiras, essencial para a conformidade regulatória nos EUA. Ela introduz o método SHAP-Guided Adaptive Ensemble (SGAE), que ajusta dinamicamente os pesos do ensemble com base no acordo de atribuição SHAP, alcançando alto desempenho e transparência.

regulatory compliance Financial services machine learning Explainable AI

RESEARCHarXiv CS.LG·5d atrás

Early Detection of Alzheimer's Disease Using Explainable Machine Learning on Clinical Biomarkers: A Multi-Class Classification Study Using the Alzheimer's Disease Neuroimaging Initiative (ADNI) Dataset

Um classificador XGBoost foi desenvolvido usando características clínicas do conjunto de dados ADNI para detecção multiclasse de cognição normal, comprometimento cognitivo leve e doença de Alzheimer. O modelo alcançou um alto AUC macro médio de 0.983 e uma precisão de 0.944, com valores SHAP fornecendo explicabilidade das características.

machine learning Alzheimer's disease Explainable AI XGBoost

RESEARCHarXiv CS.AI·14/04/2026

Explainable Planning for Hybrid Systems

Esta tese apresenta um estudo abrangente sobre o planejamento explicável da inteligência artificial (XAIP) para sistemas híbridos, abordando a crescente necessidade de gerar explicações para sistemas baseados em IA. Ela se foca em como o planejamento automatizado é aplicado em domínios complexos e críticos, como redes de energia inteligentes e carros autônomos.

Autonomous systems Hybrid Systems XAI Planning Explainable AI

ARTICLEDEV.to AI·23/04/2026

Explainable Causal Reinforcement Learning for smart agriculture microgrid orchestration with zero-trust governance guarantees

Este artigo descreve a epifania de um desenvolvedor ao depurar um agente de Reinforcement Learning de caixa-preta que falhava na orquestração de microrredes agrícolas inteligentes. A percepção de que o agente carecia de compreensão causal levou à exploração de IA Explicável e frameworks de inferência causal para evitar falhas de energia em cascata.

smart agriculture microgrids reinforcement learning Explainable AI

RESEARCHarXiv CS.AI·07/04/2026

Explainable Model Routing for Agentic Workflows

Este conteúdo descreve o Topaz, um framework para roteamento auditável em fluxos de trabalho de agentes de IA. Ele visa resolver a falta de transparência na seleção de modelos, que atualmente prioriza custo e desempenho sem registrar as compensações subjacentes, utilizando perfis de habilidades e algoritmos de roteamento rastreáveis.

model routing Agentic Workflows Explainable AI

NEWSDEV.to AI·22/04/2026

Blaze Balance Engine SaaS

Blaze Balance Engine SaaS é um sistema guiado por IA para monitoramento, previsão, explicabilidade e controle operacional. Ele incorpora mapeamento de estado ao vivo e recibos de decisão explicáveis, sendo desenvolvido e provado em um ambiente de alta atividade real antes de ser oferecido como SaaS.

SaaS forecasting monitoring Explainable AI

RESEARCHarXiv CS.LG·17/04/2026

Explainable Graph Neural Networks for Interbank Contagion Surveillance: A Regulatory-Aligned Framework for the U.S. Banking Sector

O framework ST-GAT, uma Rede Neural Gráfica explicável, oferece uma solução de alerta precoce para a detecção de risco bancário e vigilância de contágio interbancário nos EUA. Ele modela mais de 8.000 instituições financeiras, alcançando alta performance (AUPRC de 0.939) e identificando fatores preditivos cruciais como ROA e NPL.

Graph Neural Networks machine learning banking Explainable AI

ARTICLEDEV.to AI·15/04/2026

SHAP Is Not Production-Ready — And We Need to Stop Pretending It Is

O artigo argumenta que SHAP não está pronto para produção devido a problemas como lentidão, inconsistência e desconexão do modelo principal. O autor critica a arquitetura de explainer separado e propõe uma abordagem onde as explicações são geradas junto com a inferência do modelo.

MLOps production ML xAI SHAP

RESEARCHarXiv CS.AI·16/04/2026

ReSS: Learning Reasoning Models for Tabular Data Prediction via Symbolic Scaffold

ReSS é uma estrutura que une modelos de raciocínio simbólicos e neurais para predição de dados tabulares, visando alta precisão e raciocínio compreensível. Ela usa árvores de decisão para criar andaimes simbólicos que guiam um LLM a gerar raciocínio em linguagem natural, usado para o ajuste fino de LLMs em tarefas de raciocínio tabular.

machine learning Explainable AI tabular data large language models

RESEARCHarXiv CS.LG·05/05/2026

Agentopic: A Generative AI Agent Workflow for Explainable Topic Modeling

Agentopic é um novo fluxo de trabalho baseado em agentes para modelagem de tópicos explicável, que utiliza as capacidades de raciocínio de Grandes Modelos de Linguagem (LLMs). Ele melhora a transparência ao permitir o rastreamento do raciocínio por trás das atribuições de tópicos, alcançando uma pontuação F1 de 0,95, equivalente ao GPT-4.1.

LLMs Topic Modeling Explainable AI AI agents

ARTICLEDEV.to AI·16d atrás

AITracer and the Coming War Against Invisible AI

A indústria de IA desenvolveu sistemas poderosos que automatizam fluxos de trabalho complexos, mas enfrenta um desafio crucial: a incapacidade de explicar totalmente suas ações. Essa "infraestrutura agêntica" levanta preocupações sobre a responsabilidade operacional e a segurança, tornando soluções como o AITracer essenciais.

AI Monitoring security Explainable AI agentic infrastructure

ARTICLEDEV.to AI·9d atrás

Explainable Causal Reinforcement Learning for circular manufacturing supply chains for low-power autonomous deployments

O autor explora a interseção da inferência causal e do aprendizado por reforço para otimizar cadeias de suprimentos de manufatura circular. Esta abordagem visa desenvolver agentes de RL mais robustos e explicáveis para implantações autônomas de baixa potência.

sustainability Explainable AI Supply Chains Causal Reinforcement Learning

RESEARCHDEV.to AI·12/04/2026

Explainable Causal Reinforcement Learning for wildfire evacuation logistics networks in carbon-negative infrastructure

O texto descreve uma pesquisa focada em superar as limitações de modelos padrão de Reinforcement Learning na otimização de evacuações por incêndios florestais. O autor buscou soluções em inferência causal, inspirando-se em Judea Pearl e Bernhard Schölkopf, para lidar com recomendações inexplicáveis e variáveis de confusão.

wildfire evacuation reinforcement learning Explainable AI Causal Reinforcement Learning

RESEARCHDEV.to AI·21/04/2026

Explainable Causal Reinforcement Learning for satellite anomaly response operations under multi-jurisdictional compliance

O texto aborda a necessidade de IA explicável e causal para operações espaciais, ilustrando com um incidente de satélite onde uma correção automática violou regulamentações de soberania de dados. Ele destaca a falha das abordagens tradicionais de IA em lidar com a complexidade de restrições técnicas, prioridades operacionais e limites jurisdicionais.

Anomaly Detection Aerospace AI reinforcement learning Explainable AI

ARTICLEDEV.to AI·10/05/2026

I Built an AI News Site That Actually Explains Things in Plain English

O autor criou um site de notícias sobre IA para preencher a lacuna entre o conteúdo de IA excessivamente simplificado e o academicamente denso. O objetivo é fornecer informações práticas e claras para profissionais que utilizam ferramentas de IA diariamente.

AI news content strategy Explainable AI Communication

CASEDEV.to AI·26/04/2026

NeuroCloak: Cognitive Digital Twin (CDT) for AI Systems

Quatro estudantes desenvolveram uma plataforma de governança de IA em produção usando o nível gratuito do MongoDB para abordar a necessidade crítica de decisões de IA explicáveis e auditáveis. Esta solução permite que oficiais de conformidade compreendam o "porquê" das decisões da IA, uma questão urgente devido ao aumento da fiscalização regulatória e multas do GDPR.

regulation Explainable AI compliance AI Governance

RESEARCHarXiv CS.AI·01/05/2026

Binary Spiking Neural Networks as Causal Models

Este artigo propõe uma análise causal de Redes Neurais Binárias de Spiking (BSNNs) para explicar seu comportamento, representando sua atividade como um modelo causal binário. Utilizando solvers SAT e SMT, o método gera explicações abdutivas para classificações de redes, demonstrando que estas não contêm características irrelevantes ao contrário do SHAP.

neural networks causal AI Explainable AI

RESEARCHarXiv CS.AI·17/04/2026

Interpretable and Explainable Surrogate Modeling for Simulations: A State-of-the-Art Survey and Perspectives on Explainable AI for Decision-Making

Esta pesquisa explora a integração da modelagem de substituição e da IA Explicável (XAI) para simulações de sistemas complexos, abordando a natureza de caixa preta desses modelos. O objetivo é reconectar esses campos complementares, mostrando como a XAI pode desvendar modelos de substituição apesar das restrições de engenharia.

simulations Surrogate Models Decision Making machine learning

RESEARCHarXiv CS.LG·17/04/2026

Towards Verified and Targeted Explanations through Formal Methods

Este artigo introduz o ViTaX, uma estrutura XAI formal que gera explicações semifactuais direcionadas com garantias matemáticas. Ele aborda a lacuna das explicações atuais que não oferecem garantias de confiança para redes neurais em domínios críticos como direção autônoma e diagnóstico médico.

deep learning formal methods Explainable AI Safety-Critical Systems

RESEARCHarXiv CS.CL·20/04/2026

Applied Explainability for Large Language Models: A Comparative Study

Este artigo apresenta um estudo comparativo de três técnicas de explicabilidade (Integrated Gradients, Attention Rollout e SHAP) aplicadas a um modelo DistilBERT para classificação de sentimento. A pesquisa conclui que métodos baseados em gradientes oferecem explicações mais estáveis e intuitivas, enquanto os baseados em atenção são eficientes, mas menos alinhados com as previsões.

Comparative Study natural language processing Explainable AI large language models