Cette recherche formalise le biais dans les systèmes d'apprentissage automatique comme une rupture de symétrie, définissant l'équité comme l'invariance sous l'opération contrefactuelle de changement d'attribut sensible. Elle met en œuvre une régularisation basée sur la perte pour restaurer la symétrie, réduisant la violation du biais de plus de 90% avec un coût de précision d'environ 5%.
Cette recherche propose un cadre d'alignement enseignant guidé par Pareto pour atténuer les disparités démographiques dans la génération personnalisée de texte persuasif. L'étude aborde l'équité comme un problème d'alignement multi-objectif contraint, en préservant la fidélité de la personnalisation.
Cet article de recherche explore la déconnexion entre les résultats équitables des modèles linguistiques et leurs biais internes latents dans les décisions à enjeux élevés comme la souscription de prêts hypothécaires. Il démontre que, bien que les LLM puissent ne pas présenter de biais de sortie, ils retiennent et amplifient les représentations démographiques qui peuvent provoquer des inversions de décision, et ce biais est asimétrique.
Cet article souligne le caractère non optionnel du développement responsable de l'IA en raison de son impact sur les décisions et des réglementations émergentes. Il propose des techniques pratiques, y compris des exemples de code pour quantifier les biais à l'aide de métriques d'équité standard, afin de créer des applications d'IA responsables.
Cette recherche examine la fiabilité et l'équité des modèles de survie profonde non paramétriques pour analyser la progression de la maladie d'Alzheimer (MA). Elle aborde le manque d'études prenant en compte les biais appris dans les modèles d'apprentissage profond pour la MA et propose de nouvelles métriques d'équité pour des prédictions fiables.
FASE est un cadre de graphe d'événements spatio-temporels soucieux de l'équité, conçu pour intégrer la prédiction de la criminalité avec une allocation de patrouille contrainte par l'équité afin d'atténuer les disparités raciales dans la police prédictive. Il utilise un réseau neuronal graphique spatio-temporel et un processus de Hawkes multivarié pour modéliser les incidents criminels à Baltimore, abordant les biais de données via un simulateur de déploiement en boucle fermée.
Cet article étudie l'iniquité contrefactuelle dans les LLM en observant comment leurs réponses à l'humour changent lorsque les identités de l'orateur et de l'interlocuteur sont échangées. Les expériences révèlent des disparités relationnelles cohérentes : les blagues racontées par des orateurs privilégiés sont plus souvent refusées ou jugées malveillantes.
Une étude sur le biais de genre en traitement du langage naturel analyse comment les stéréotypes de genre sont perpétués dans les modèles d'IA. L'étude discute des méthodes pour atténuer ces biais et explore les défis liés à la création de systèmes de PNL plus équitables.
Pesquisadores introduziram AttriBench, um novo dataset demograficamente balanceado para atribuição de citações. Testes em 11 LLMs revelaram disparidades sistemáticas de precisão baseadas em raça e gênero, expondo um viés de atribuição e uma nova métrica de justiça na IA.
Cet article affirme que l'évaluation de l'équité, notamment la parité démographique, est une contrainte de déploiement critique et non négociable pour les systèmes d'IA dans la sécurité des enfants. Ignorer cette question cause des préjudices aux utilisateurs, des risques juridiques et une perte de confiance, tout en manquant des menaces dans les groupes sous-représentés à cause de données biaisées.
Cette recherche propose un cadre léger et au moment de l'inférence pour atténuer le biais de représentation démographique dans les modèles texte-image, comme Stable Diffusion, sans nécessiter de réentraînement. L'approche permet aux utilisateurs de choisir leurs propres spécifications d'équité pour générer des résultats plus justes dans diverses professions.
Le prototype logiciel `FairMind` automatise l'analyse de l'équité causale au niveau de l'ensemble de données, comblant le manque de considération d'équité dans la plupart des frameworks AutoML. Il utilise le modèle d'équité standard et les LLM pour générer des rapports précis sur l'équité basés sur des effets causaux contrefactuels.
Un nouveau cadre de "red teaming" multi-domaine a été développé pour évaluer la sécurité, la robustesse et l'équité des grands modèles linguistiques (LLM) médicaux sur 690 scénarios cliniques. La recherche a révélé une variance de performance substantielle et des défaillances critiques dans des scénarios de sécurité, même pour les systèmes très performants.
Le développement rapide des Modèles de Diffusion de Langage (LDMs) introduit de nouveaux défis de fiabilité. TrustLDM est un benchmark complet évaluant la sécurité, la confidentialité et l'équité dans les LDMs, révélant que leur comportement d'alignement se dégrade sensiblement avec des contextes malveillants, quelle que soit la longueur du contexte.
Este trabalho propõe um novo modelo para treinar Redes Neurais Gráficas (GNNs) sensíveis à justiça, aprimorando o framework CAF. A abordagem utiliza uma estratégia de treinamento em duas fases, editando o grafo para ajustar a homofilia e integrando perdas contrastivas e ambientais modificadas para melhorar a predição e a justiça.
L'article aborde la question complexe de la responsabilité lorsque l'IA commet des erreurs, illustrant comment le blâme se fragmente entre diverses parties prenantes comme les banques, les fournisseurs et les distributeurs de données. Il définit l'IA Responsable comme la pratique de construire et de déployer des systèmes d'IA justes, transparents, sûrs et responsables.