Explainable AI

28 items

RESEARCHarXiv CS.LG·7d atrás

Hoeffding Concept Bottleneck Models with Applications to Overhead Images

Modelos Hoeffding de Gargalo de Conceito (HCBM) são introduzidos para fornecer agregações não lineares e esparsas de pontuações de conceito, melhorando a explicabilidade e precisão das previsões de deep learning. Este método utiliza a decomposição funcional de Hoeffding de árvores de gradiente impulsionado para superar as limitações dos CBMs lineares existentes, que sofrem com um grande número de conceitos e possível vazamento de informações.

deep learning machine learning computer vision Explainable AI

RESEARCHarXiv CS.AI·15d atrás

BOHM: Zero-Cost Hierarchical Attribution for Compound AI Systems

Este artigo apresenta BOHM, um método inovador para atribuição hierárquica de custo zero em sistemas de IA compostos. Ao contrário dos métodos tradicionais baseados em Shapley, BOHM extrai a atribuição diretamente dos pesos de roteamento, eliminando a necessidade de acesso interno aos componentes e fornecendo insights multi-resolução.

attribution routing machine learning Explainable AI

CASEDEV.to AI·12/04/2026

Building a Frontend That Makes AI Decisions Understandable

O conteúdo detalha a criação de um frontend que visa tornar as decisões de IA compreensíveis através de funcionalidades como rastreamento do raciocínio e dashboards de comparação. Ele aborda os princípios de design, os desafios técnicos e a pilha tecnológica utilizada, incluindo Next.js e FastAPI.

web development UX Explainable AI Frontend

RESEARCHDEV.to AI·09/04/2026

Announcing the OpenAI Safety Fellowship

O OpenAI Safety Fellowship é um programa focado em pesquisa para aprimorar a segurança e confiabilidade de sistemas de IA. Seus objetivos técnicos incluem o desenvolvimento de robustez adversarial, alinhamento de valores com humanos e promoção da explicabilidade e transparência da IA.

adversarial-robustness Explainable AI AI ethics Value Alignment

RESEARCHarXiv CS.LG·30/04/2026

A Multimodal and Explainable Machine Learning Approach to Diagnosing Multi-Class Ejection Fraction from Electrocardiograms

Esta pesquisa desenvolveu uma estrutura de aprendizado de máquina multimodal que combina características de ECG e dados de prontuários eletrônicos para diagnosticar a fração de ejeção ventricular esquerda em várias classes. O modelo alcançou altas AUROCs e usou SHAP para explicabilidade, superando os modelos de linha de base.

machine learning Explainable AI medical AI

RESEARCHarXiv CS.AI·23/04/2026

Explainable AML Triage with LLMs: Evidence Retrieval and Counterfactual Checks

Este artigo propõe uma estrutura explicável para a triagem de alertas de combate à lavagem de dinheiro (AML) usando LLMs, mitigando riscos como alucinações. O método combina agregação de evidências, saídas estruturadas com citações explícitas e verificações contrafactuais para garantir decisões auditáveis.

LLMs Financial services Explainable AI fraud detection

ARTICLEDEV.to AI·24/04/2026

"Top 5 AI Automation Mistakes Enterprises Make and How to Avoid Them"

Empresas que adotam automação de IA frequentemente cometem erros como dados de baixa qualidade e falta de transparência. É crucial investir em qualidade de dados e compreender os modelos para evitar altas taxas de erro e desconfiança.

AI automation Explainable AI AI ethics Enterprise AI

ARTICLEDEV.to AI·02/05/2026

Scaling AI: The Unintended Consequences of Over-Reliance on Artificial Intelligence

Este artigo explora as consequências não intencionais da dependência excessiva da IA, destacando o desafio da falta de transparência e explicabilidade em modelos complexos. Ele sugere a implementação de técnicas como importância de features, valores SHAP e LIME para fornecer insights sobre os processos de tomada de decisão da IA e construir confiança.

Explainable AI AI ethics AI Governance