Explainable AI

28 items

RESEARCHarXiv CS.LG·vor 7T

Hoeffding Concept Bottleneck Models with Applications to Overhead Images

Hoeffding Concept Bottleneck Modelle (HCBM) werden vorgestellt, um nicht-lineare und sparse Aggregationen von Konzept-Scores zu liefern, die die Erklärbarkeit und Genauigkeit von Deep-Learning-Vorhersagen verbessern. Diese Methode nutzt die Hoeffding-Funktionszerlegung von gradientenverstärkten Bäumen, um die Einschränkungen bestehender linearer CBMs zu überwinden, die unter einer großen Anzahl von Konzepten und potenziellen Informationslecks leiden.

deep learning machine learning computer vision Explainable AI

RESEARCHarXiv CS.AI·vor 15T

BOHM: Zero-Cost Hierarchical Attribution for Compound AI Systems

Dieses Papier stellt BOHM vor, eine neuartige Methode zur kostenlosen hierarchischen Zuordnung in zusammengesetzten KI-Systemen. Im Gegensatz zu traditionellen Shapley-basierten Methoden extrahiert BOHM die Zuordnung direkt aus den Routing-Gewichten, wodurch kein interner Komponentenzugriff erforderlich ist und multi-resolutionale Einblicke geboten werden.

attribution routing machine learning Explainable AI

CASEDEV.to AI·4/12/2026

Building a Frontend That Makes AI Decisions Understandable

Der Inhalt beschreibt die Entwicklung eines Frontends, das KI-Entscheidungen durch Funktionen wie Begründungsverfolgung und Vergleichsdashboards verständlich machen soll. Er behandelt dabei Designprinzipien, technische Herausforderungen und den verwendeten Tech-Stack, inklusive Next.js und FastAPI.

web development UX Explainable AI Frontend

RESEARCHDEV.to AI·4/9/2026

Announcing the OpenAI Safety Fellowship

O OpenAI Safety Fellowship é um programa focado em pesquisa para aprimorar a segurança e confiabilidade de sistemas de IA. Seus objetivos técnicos incluem o desenvolvimento de robustez adversarial, alinhamento de valores com humanos e promoção da explicabilidade e transparência da IA.

adversarial-robustness Explainable AI AI ethics Value Alignment

RESEARCHarXiv CS.LG·4/30/2026

A Multimodal and Explainable Machine Learning Approach to Diagnosing Multi-Class Ejection Fraction from Electrocardiograms

Diese Forschung entwickelte ein multimodales maschinelles Lernframework, das EKG-Merkmale und EHR-Daten kombiniert, um die mehrklassige linksventrikuläre Ejektionsfraktion zu diagnostizieren. Das Modell erreichte hohe AUROCs und nutzte SHAP zur Erklärbarkeit, wodurch es Basismodelle übertraf.

machine learning Explainable AI medical AI

RESEARCHarXiv CS.AI·4/23/2026

Explainable AML Triage with LLMs: Evidence Retrieval and Counterfactual Checks

Dieses Papier schlägt ein erklärbares AML-Triage-Framework mit LLMs vor, um Risiken unbegrenzter Generierung wie Halluzinationen zu mindern. Es kombiniert evidenzgestützte Bündelung, strukturierte LLM-Ausgaben mit Zitaten und kontrafaktische Überprüfungen für nachvollziehbare Entscheidungen.

LLMs Financial services Explainable AI fraud detection

ARTICLEDEV.to AI·4/24/2026

"Top 5 AI Automation Mistakes Enterprises Make and How to Avoid Them"

Unternehmen, die KI-Automatisierung einführen, machen oft Fehler wie unzureichende Datenqualität und mangelnde Transparenz. Investitionen in Datenprüfung und das Verständnis von Modellentscheidungen sind entscheidend, um hohe Fehlerraten und Misstrauen zu vermeiden.

AI automation Explainable AI AI ethics Enterprise AI

ARTICLEDEV.to AI·5/2/2026

Scaling AI: The Unintended Consequences of Over-Reliance on Artificial Intelligence

Dieser Artikel untersucht die unbeabsichtigten Folgen einer übermäßigen Abhängigkeit von KI und beleuchtet die Herausforderung mangelnder Transparenz und Erklärbarkeit in komplexen KI-Modellen. Es wird vorgeschlagen, Techniken wie Feature-Wichtigkeit, SHAP-Werte und LIME zu implementieren, um Einblicke in KI-Entscheidungsprozesse zu geben und Vertrauen aufzubauen.

Explainable AI AI ethics AI Governance