causality

3 items

RESEARCHarXiv CS.AI·il y a 22j

Fair outputs, Biased Internals: Causal Potency and Asymmetry of Latent Bias in LLMs for High-Stakes Decisions

Cet article de recherche explore la déconnexion entre les résultats équitables des modèles linguistiques et leurs biais internes latents dans les décisions à enjeux élevés comme la souscription de prêts hypothécaires. Il démontre que, bien que les LLM puissent ne pas présenter de biais de sortie, ils retiennent et amplifient les représentations démographiques qui peuvent provoquer des inversions de décision, et ce biais est asimétrique.

LLM bias machine learning causality AI ethics

ARTICLEDEV.to AI·il y a 20j

Judea Pearl's Ladder of Causation and the Limits of LLM Reasoning

Cet article explore les limitations fondamentales des grands modèles de langage (LLM) en matière de raisonnement causal, en se référant à l'Échelle de la Causalité de Judea Pearl. Il souligne que les LLM opèrent souvent au plus bas échelon de l'association, ne parvenant pas à identifier les vraies causes et se contentant de corriger des corrélations, ce qui explique les erreurs courantes des outils d'IA.

AI limitations Judea Pearl causality AI Reasoning

RESEARCHDEV.to AI·11/04/2026

Learning Neural Causal Models from Unknown Interventions

Ce travail explore des méthodes permettant aux modèles neuronaux d'apprendre des relations de cause à effet, même lorsque les interventions générant les données sont inconnues. La recherche vise à améliorer la capacité de l'intelligence artificielle à inférer la causalité à partir de données complexes.

neural networks machine learning causality causal inference