AI bias

11 items

ARTICLEDEV.to AI·il y a 2j

Day 49: The Unseen Layers of Building Health AI for 22+ Indian Languages

Les LLM actuels comme GPT-4 peinent avec les requêtes médicales nuancées dans les langues indiennes en raison d'un biais fondamental dans leurs données d'entraînement, fortement orientées vers l'anglais. GoDavaii vise à combler cette lacune en développant une IA de Santé avancée pour plus de 22 langues indiennes, en se concentrant sur la pertinence contextuelle et l'accessibilité des connaissances médicales dans divers contextes linguistiques.

Multilingual AI India AI bias Health AI

RESEARCHarXiv CS.AI·il y a 29j

More Thinking, More Bias: Length-Driven Position Bias in Reasoning Models

Une nouvelle recherche indique que le biais de position dans les modèles de raisonnement, tels que Chain-of-thought, augmente avec la longueur de la trajectoire de raisonnement. Cet effet a été observé dans diverses configurations de modèles et benchmarks, suggérant que « penser davantage » peut exacerber certains biais.

AI bias natural language processing reasoning models Machine learning research

RESEARCHDEV.to AI·il y a 24j

A Survey on Gender Bias in Natural Language Processing

Une étude sur le biais de genre en traitement du langage naturel analyse comment les stéréotypes de genre sont perpétués dans les modèles d'IA. L'étude discute des méthodes pour atténuer ces biais et explore les défis liés à la création de systèmes de PNL plus équitables.

AI bias natural language processing AI ethics gender bias

ARTICLEDEV.to AI·il y a 16j

Deux IA d'accord = une source : la règle qui m'a évité un pipeline bâti sur du vide

L'auteur a soumis son Counterpart Toolkit à ChatGPT-4o et Claude.ai pour relecture, recevant des notes et des critiques quasi identiques des deux IA. Cette convergence l'a fait douter si "deux IA d'accord" équivaut vraiment à deux sources indépendantes, suggérant un biais partagé ou une source de raisonnement commune.

AI bias AI reliability large language models AI evaluation

ARTICLEDEV.to AI·02/05/2026

The Aunty Test - what Marathi-speaking patients see when they ask Health AI in their own language

Cet article souligne comment la plupart des IA de santé, conçues en anglais, échouent à gérer les requêtes médicales dans des langues locales comme le marathi. Il insiste sur la nécessité d'IA qui raisonnent nativement dans plusieurs langues pour fournir des conseils précis, par opposition aux approches de traduction ou de "vernissage" localisé.

language models Multilingual AI AI bias healthcare AI

ARTICLEDEV.to AI·25/04/2026

Fairness in Child Safety AI: Why Demographic Parity Audits Are Not Optional

Cet article affirme que l'évaluation de l'équité, notamment la parité démographique, est une contrainte de déploiement critique et non négociable pour les systèmes d'IA dans la sécurité des enfants. Ignorer cette question cause des préjudices aux utilisateurs, des risques juridiques et une perte de confiance, tout en manquant des menaces dans les groupes sous-représentés à cause de données biaisées.

ethics AI bias child safety content moderation

RESEARCHarXiv CS.CL·05/05/2026

Compared to What? Baselines and Metrics for Counterfactual Prompting

Ce travail soutient que les effets observés du "prompting contrefactuel" dans les LLM ne peuvent être attribués à un facteur ciblé sans tenir compte des modifications de texte préservant le sens qui établissent la sensibilité générale du modèle. La recherche montre que les taux d'inversion de prédiction lors du changement chirurgical du sexe du patient sont statistiquement indiscernables des taux induits par de simples paraphrases, suggérant qu'une sensibilité particulière au sexe du patient ne peut être conclue.

counterfactual prompting model robustness AI bias natural language processing

RESEARCHarXiv CS.CL·il y a 8j

Your Multimodal Speech Model Says I Have a Face for Radio

Cet article propose la première évaluation des biais dans la reconnaissance vocale multimodale, mettant en évidence des différences significatives de qualité de service entre les modèles mWhisper-Flamingo et Gemini, basées sur le genre et l'ethnie autodéclarés. Ces résultats soulignent la nécessité pour les développeurs d'évaluer, de corriger et de communiquer ces biais.

multimodal AI AI bias ethnicity bias gender bias

ARTICLEDEV.to AI·02/05/2026

The Aunty Test - what Bengali-speaking patients see when they ask Health AI in their own language

L'IA de santé conçue principalement en anglais échoue à traiter les requêtes médicales en langues comme le bengali, offrant des conseils inappropriés. En revanche, GoDavaii raisonne nativement dans 22 langues indiennes, fournissant des conseils médicaux précis et culturellement pertinents.

Multilingual AI Healthcare technology AI bias natural language processing

NEWSThe Verge AI·27/04/2026

Canva apologizes after its AI tool replaces ‘Palestine’ in designs

Canva s'est excusé après que l'un de ses nouveaux outils d'IA, « Magic Layers », ait été surpris en train de remplacer le mot « Palestine » par « Ukraine » dans les designs des utilisateurs. L'entreprise déclare avoir résolu le problème, qui semblait spécifique au mot « Palestine », et prend des mesures pour éviter de futures occurrences.

AI bias security content moderation AI ethics

ARTICLEDEV.to AI·il y a 12j

What if AI Rejected Your Code Wrongly?

L'article examine les biais cachés dans les outils de révision de code automatisés par l'IA, remettant en question leur objectivité supposée. Il souligne la crainte que l'IA puisse rejeter à tort du code optimisé en raison de biais inhérents plutôt que d'une inefficacité réelle, impactant la productivité des développeurs.

Software Development AI bias code review