Explainable AI

28 items

RESEARCHarXiv CS.LG·il y a 8j

Hoeffding Concept Bottleneck Models with Applications to Overhead Images

Les Modèles de Goulot d'Étranglement de Concept de Hoeffding (HCBM) sont introduits pour fournir des agrégations non linéaires et éparses des scores de concept, améliorant l'explicabilité et la précision des prédictions d'apprentissage profond. Cette méthode utilise la décomposition fonctionnelle de Hoeffding des arbres boostés par gradient pour surmonter les limitations des CBM linéaires existants, qui souffrent d'un grand nombre de concepts et de fuites d'informations potentielles.

deep learning machine learning computer vision Explainable AI

RESEARCHarXiv CS.AI·il y a 16j

BOHM: Zero-Cost Hierarchical Attribution for Compound AI Systems

Cet article présente BOHM, une nouvelle méthode d'attribution hiérarchique à coût nul pour les systèmes d'IA composés. Contrairement aux méthodes traditionnelles basées sur Shapley, BOHM extrait l'attribution directement des poids de routage, éliminant le besoin d'accès interne aux composants et offrant des aperçus multi-résolution.

attribution routing machine learning Explainable AI

CASEDEV.to AI·12/04/2026

Building a Frontend That Makes AI Decisions Understandable

Le contenu décrit le développement d'un frontend visant à rendre les décisions d'IA compréhensibles, en intégrant des fonctionnalités comme le suivi du raisonnement et des tableaux de bord comparatifs. Il détaille les principes de conception, les défis techniques et la pile technologique utilisée, y compris Next.js et FastAPI.

web development UX Explainable AI Frontend

RESEARCHDEV.to AI·09/04/2026

Announcing the OpenAI Safety Fellowship

O OpenAI Safety Fellowship é um programa focado em pesquisa para aprimorar a segurança e confiabilidade de sistemas de IA. Seus objetivos técnicos incluem o desenvolvimento de robustez adversarial, alinhamento de valores com humanos e promoção da explicabilidade e transparência da IA.

adversarial-robustness Explainable AI AI ethics Value Alignment

RESEARCHarXiv CS.LG·30/04/2026

A Multimodal and Explainable Machine Learning Approach to Diagnosing Multi-Class Ejection Fraction from Electrocardiograms

Cette recherche a développé un cadre d'apprentissage automatique multimodal combinant des caractéristiques d'ECG et des données EHR pour diagnostiquer la fraction d'éjection ventriculaire gauche multi-classes. Le modèle a atteint des AUROC élevées et a utilisé SHAP pour l'explicabilité, surpassant les modèles de référence.

machine learning Explainable AI medical AI

RESEARCHarXiv CS.AI·23/04/2026

Explainable AML Triage with LLMs: Evidence Retrieval and Counterfactual Checks

Cet article propose un cadre explicable de triage AML utilisant des LLM, atténuant les risques de génération non contrainte comme les hallucinations. La méthode intègre l'agrégation de preuves, des sorties structurées avec citations et des vérifications contrefactuelles pour des décisions auditables.

LLMs Financial services Explainable AI fraud detection

ARTICLEDEV.to AI·24/04/2026

"Top 5 AI Automation Mistakes Enterprises Make and How to Avoid Them"

Les entreprises adoptant l'automatisation de l'IA commettent souvent des erreurs telles qu'une qualité de données insuffisante et un manque de transparence. Il est crucial d'y remédier par des vérifications de données et une compréhension des décisions du modèle pour éviter des taux d'erreur élevés et la méfiance.

AI automation Explainable AI AI ethics Enterprise AI

ARTICLEDEV.to AI·02/05/2026

Scaling AI: The Unintended Consequences of Over-Reliance on Artificial Intelligence

Cet article explore les conséquences imprévues de la dépendance excessive à l'IA, soulignant le défi majeur du manque de transparence et d'explicabilité des modèles complexes. Il suggère d'implémenter des techniques telles que l'importance des caractéristiques, les valeurs SHAP et LIME pour fournir des aperçus des processus de décision de l'IA et renforcer la confiance.

Explainable AI AI ethics AI Governance