Explainable AI

28 items

RESEARCHarXiv CS.LG·17/4/2026

Shapley Value-Guided Adaptive Ensemble Learning for Explainable Financial Fraud Detection with U.S. Regulatory Compliance Validation

Esta investigación aborda el desafío de la explicabilidad en la IA para la detección de fraudes financieros, crucial para el cumplimiento normativo en EE. UU. Introduce el método SHAP-Guided Adaptive Ensemble (SGAE), que ajusta dinámicamente los pesos del conjunto basándose en el acuerdo de atribución SHAP, logrando un alto rendimiento y transparencia.

regulatory compliance Financial services machine learning Explainable AI

RESEARCHarXiv CS.LG·hace 5d

Early Detection of Alzheimer's Disease Using Explainable Machine Learning on Clinical Biomarkers: A Multi-Class Classification Study Using the Alzheimer's Disease Neuroimaging Initiative (ADNI) Dataset

Se desarrolló un clasificador XGBoost utilizando características clínicas del conjunto de datos ADNI para la detección multiclase de cognición normal, deterioro cognitivo leve y enfermedad de Alzheimer. El modelo logró un alto AUC macro medio de 0.983 y una precisión de 0.944, con valores SHAP que proporcionaron explicabilidad de las características.

machine learning Alzheimer's disease Explainable AI XGBoost

RESEARCHarXiv CS.AI·14/4/2026

Explainable Planning for Hybrid Systems

Esta tesis presenta un estudio exhaustivo sobre la planificación explicable de inteligencia artificial (XAIP) para sistemas híbridos, abordando la creciente necesidad de generar explicaciones para sistemas basados en IA. Se centra en cómo se aplica la planificación automatizada en dominios complejos y críticos, como redes de energía inteligentes y coches autónomos.

Autonomous systems Hybrid Systems XAI Planning Explainable AI

ARTICLEDEV.to AI·23/4/2026

Explainable Causal Reinforcement Learning for smart agriculture microgrid orchestration with zero-trust governance guarantees

Este artículo narra la epifanía de un desarrollador al depurar un agente de Aprendizaje por Refuerzo de caja negra que fallaba al sincronizar microrredes agrícolas inteligentes. La comprensión de que el agente carecía de entendimiento causal llevó a explorar la IA Explicable y marcos de inferencia causal para prevenir fallas de energía en cascada.

smart agriculture microgrids reinforcement learning Explainable AI

RESEARCHarXiv CS.AI·7/4/2026

Explainable Model Routing for Agentic Workflows

Este conteúdo descreve o Topaz, um framework para roteamento auditável em fluxos de trabalho de agentes de IA. Ele visa resolver a falta de transparência na seleção de modelos, que atualmente prioriza custo e desempenho sem registrar as compensações subjacentes, utilizando perfis de habilidades e algoritmos de roteamento rastreáveis.

model routing Agentic Workflows Explainable AI

NEWSDEV.to AI·22/4/2026

Blaze Balance Engine SaaS

Blaze Balance Engine SaaS es un sistema guiado por IA para monitoreo, pronóstico, explicabilidad y control operativo. Incluye mapeo de estado en vivo y recibos de decisión explicables, habiendo sido desarrollado y probado en un entorno real de alta actividad antes de su lanzamiento como SaaS.

SaaS forecasting monitoring Explainable AI

RESEARCHarXiv CS.LG·17/4/2026

Explainable Graph Neural Networks for Interbank Contagion Surveillance: A Regulatory-Aligned Framework for the U.S. Banking Sector

El framework ST-GAT, una Red Neuronal Gráfica explicable, presenta una solución de alerta temprana para la detección de problemas bancarios y la vigilancia del contagio interbancario en EE. UU. Modela más de 8.000 instituciones del FDIC, logrando un alto rendimiento (AUPRC de 0.939) e identificando factores predictivos clave como ROA y NPL.

Graph Neural Networks machine learning banking Explainable AI

ARTICLEDEV.to AI·15/4/2026

SHAP Is Not Production-Ready — And We Need to Stop Pretending It Is

El artículo sostiene que SHAP no está listo para producción debido a problemas como la lentitud, la inconsistencia y la desconexión del modelo principal. El autor critica la arquitectura de explicador separado y propone un enfoque donde las explicaciones se generan junto con la inferencia del modelo.

MLOps production ML xAI SHAP

RESEARCHarXiv CS.AI·16/4/2026

ReSS: Learning Reasoning Models for Tabular Data Prediction via Symbolic Scaffold

ReSS es un marco que une modelos de razonamiento simbólicos y neuronales para la predicción de datos tabulares, buscando alta precisión y razonamiento comprensible. Utiliza árboles de decisión para extraer andamios simbólicos que guían a un LLM a generar razonamiento en lenguaje natural, que se utiliza para el ajuste fino de LLMs en tareas de razonamiento tabular.

machine learning Explainable AI tabular data large language models

RESEARCHarXiv CS.LG·5/5/2026

Agentopic: A Generative AI Agent Workflow for Explainable Topic Modeling

Agentopic es un nuevo flujo de trabajo basado en agentes para modelado de temas explicable que aprovecha las capacidades de razonamiento de los Grandes Modelos de Lenguaje (LLM). Mejora la transparencia al permitir rastrear el razonamiento detrás de las asignaciones de temas, logrando una puntuación F1 de 0,95, igualando a GPT-4.1.

LLMs Topic Modeling Explainable AI AI agents

ARTICLEDEV.to AI·hace 17d

AITracer and the Coming War Against Invisible AI

La industria de la IA ha desarrollado sistemas potentes capaces de automatizar flujos de trabajo complejos, pero ha surgido un desafío significativo: la incapacidad de explicar completamente sus acciones. Esta "infraestructura agéntica" plantea preocupaciones sobre la responsabilidad operativa y la seguridad, lo que hace que soluciones como AITracer sean necesarias.

AI Monitoring security Explainable AI agentic infrastructure

ARTICLEDEV.to AI·hace 9d

Explainable Causal Reinforcement Learning for circular manufacturing supply chains for low-power autonomous deployments

El autor explora la intersección de la inferencia causal y el aprendizaje por refuerzo para optimizar las cadenas de suministro de fabricación circular. Este enfoque busca desarrollar agentes de RL más robustos y explicables para implementaciones autónomas de bajo consumo.

sustainability Explainable AI Supply Chains Causal Reinforcement Learning

RESEARCHDEV.to AI·12/4/2026

Explainable Causal Reinforcement Learning for wildfire evacuation logistics networks in carbon-negative infrastructure

Esta investigación se centra en superar las limitaciones de los modelos estándar de Reinforcement Learning en la optimización de evacuaciones por incendios forestales. El autor aplica inferencia causal, inspirándose en Judea Pearl y Bernhard Schölkopf, para abordar recomendaciones inexplicables y variables de confusión.

wildfire evacuation reinforcement learning Explainable AI Causal Reinforcement Learning

RESEARCHDEV.to AI·21/4/2026

Explainable Causal Reinforcement Learning for satellite anomaly response operations under multi-jurisdictional compliance

El texto aborda la necesidad de una IA explicable y causal para operaciones espaciales, ilustrando con un incidente satelital donde una corrección automatizada violó las regulaciones de soberanía de datos. Destaca el fracaso de los enfoques tradicionales de IA para manejar la complejidad de las restricciones técnicas, las prioridades operativas y los límites jurisdiccionales.

Anomaly Detection Aerospace AI reinforcement learning Explainable AI

ARTICLEDEV.to AI·10/5/2026

I Built an AI News Site That Actually Explains Things in Plain English

El autor creó un sitio de noticias de IA para cerrar la brecha entre el contenido de IA excesivamente simplificado y el académicamente denso. Su objetivo es proporcionar información práctica y clara para los profesionales que utilizan herramientas de IA a diario.

AI news content strategy Explainable AI Communication

CASEDEV.to AI·26/4/2026

NeuroCloak: Cognitive Digital Twin (CDT) for AI Systems

Cuatro estudiantes desarrollaron una plataforma de gobernanza de IA en producción utilizando la capa gratuita de MongoDB para abordar la necesidad crítica de decisiones de IA explicables y auditables. Esta solución permite a los oficiales de cumplimiento entender "por qué" una IA tomó una decisión específica, un desafío intensificado por el creciente escrutinio regulatorio y las multas del GDPR.

regulation Explainable AI compliance AI Governance

RESEARCHarXiv CS.AI·1/5/2026

Binary Spiking Neural Networks as Causal Models

Este artículo ofrece un análisis causal de las Redes Neuronales Binarias de Impulsos (BSNNs) para explicar su comportamiento, representándolas como un modelo causal binario. Utilizando solvers SAT y SMT, se computan explicaciones abductivas para las clasificaciones de la red y se demuestra que, a diferencia de SHAP, estas explicaciones no contienen características irrelevantes.

neural networks causal AI Explainable AI

RESEARCHarXiv CS.AI·17/4/2026

Interpretable and Explainable Surrogate Modeling for Simulations: A State-of-the-Art Survey and Perspectives on Explainable AI for Decision-Making

Esta encuesta explora la integración del modelado de sustitución y la IA Explicable (XAI) para simulaciones de sistemas complejos, abordando la naturaleza de caja negra de estos modelos. Su objetivo es reconectar estos campos complementarios, mostrando cómo la XAI puede desglosar los modelos de sustitución a pesar de las restricciones de ingeniería.

simulations Surrogate Models Decision Making machine learning

RESEARCHarXiv CS.LG·17/4/2026

Towards Verified and Targeted Explanations through Formal Methods

Este artículo presenta ViTaX, un marco XAI formal que genera explicaciones semifactuales dirigidas con garantías matemáticas. Aborda la deficiencia de los métodos XAI existentes al no ofrecer garantías de confianza para redes neuronales en dominios críticos como la conducción autónoma y el diagnóstico médico.

deep learning formal methods Explainable AI Safety-Critical Systems

RESEARCHarXiv CS.CL·20/4/2026

Applied Explainability for Large Language Models: A Comparative Study

Este artículo presenta un estudio comparativo de tres técnicas de explicabilidad (Integrated Gradients, Attention Rollout y SHAP) aplicadas a un modelo DistilBERT para clasificación de sentimientos. Los resultados muestran que la atribución basada en gradientes proporciona explicaciones más estables e intuitivas, mientras que los métodos basados en atención son eficientes pero menos alineados con las características predictivas.

Comparative Study Natural Language Processing Explainable AI large language models