Explainable AI

28 items

RESEARCHarXiv CS.LG·hace 7d

Hoeffding Concept Bottleneck Models with Applications to Overhead Images

Se presentan los Modelos de Cuello de Botella de Concepto de Hoeffding (HCBM) para ofrecer agregaciones no lineales y dispersas de puntuaciones de concepto, mejorando la explicabilidad y precisión de las predicciones de aprendizaje profundo. Este método aprovecha la descomposición funcional de Hoeffding de árboles de gradiente impulsado para superar las limitaciones de los CBM lineales existentes, que adolecen de un gran número de conceptos y posible fuga de información.

deep learning machine learning computer vision Explainable AI

RESEARCHarXiv CS.AI·hace 15d

BOHM: Zero-Cost Hierarchical Attribution for Compound AI Systems

Este artículo introduce BOHM, un método novedoso para la atribución jerárquica de costo cero en sistemas de IA compuestos. A diferencia de los métodos tradicionales basados en Shapley, BOHM extrae la atribución directamente de los pesos de enrutamiento, eliminando la necesidad de acceso interno a los componentes y proporcionando información multi-resolución.

attribution routing machine learning Explainable AI

CASEDEV.to AI·12/4/2026

Building a Frontend That Makes AI Decisions Understandable

El contenido describe el desarrollo de un frontend que busca hacer comprensibles las decisiones de IA, incorporando funciones como el seguimiento del razonamiento y paneles de comparación. Detalla los principios de diseño, los desafíos técnicos y la pila tecnológica utilizada, incluyendo Next.js y FastAPI.

web development UX Explainable AI Frontend

RESEARCHDEV.to AI·9/4/2026

Announcing the OpenAI Safety Fellowship

O OpenAI Safety Fellowship é um programa focado em pesquisa para aprimorar a segurança e confiabilidade de sistemas de IA. Seus objetivos técnicos incluem o desenvolvimento de robustez adversarial, alinhamento de valores com humanos e promoção da explicabilidade e transparência da IA.

adversarial-robustness Explainable AI AI ethics Value Alignment

RESEARCHarXiv CS.LG·30/4/2026

A Multimodal and Explainable Machine Learning Approach to Diagnosing Multi-Class Ejection Fraction from Electrocardiograms

Esta investigación desarrolló un marco de aprendizaje automático multimodal que combina características de ECG y datos de EHR para diagnosticar la fracción de eyección ventricular izquierda multiclasa. El modelo logró AUROC altas y utilizó SHAP para la explicabilidad, superando a los modelos de referencia.

machine learning Explainable AI medical AI

RESEARCHarXiv CS.AI·23/4/2026

Explainable AML Triage with LLMs: Evidence Retrieval and Counterfactual Checks

Este trabajo presenta un marco de triaje AML explicable con LLMs para superar los riesgos de la generación no restringida, como las alucinaciones. Combina evidencia aumentada por recuperación, salidas estructuradas de LLM con citas explícitas y verificaciones contrafactuales para decisiones auditables.

LLMs Financial services Explainable AI fraud detection

ARTICLEDEV.to AI·24/4/2026

"Top 5 AI Automation Mistakes Enterprises Make and How to Avoid Them"

Las empresas que adoptan la automatización de IA a menudo cometen errores como la calidad insuficiente de los datos y la falta de transparencia. Abordar estos problemas mediante controles de datos y la comprensión de las decisiones del modelo es crucial para evitar altas tasas de error y desconfianza.

AI automation Explainable AI AI ethics Enterprise AI

ARTICLEDEV.to AI·2/5/2026

Scaling AI: The Unintended Consequences of Over-Reliance on Artificial Intelligence

Este artículo explora las consecuencias no deseadas de la dependencia excesiva de la IA, destacando el desafío de la falta de transparencia y explicabilidad en modelos complejos. Sugiere implementar técnicas como la importancia de las características, los valores SHAP y LIME para proporcionar información sobre los procesos de toma de decisiones de la IA y generar confianza.

Explainable AI AI ethics AI Governance