AI bias

11 items

ARTICLEDEV.to AI·vor 2T

Day 49: The Unseen Layers of Building Health AI for 22+ Indian Languages

Aktuelle LLMs wie GPT-4 haben Schwierigkeiten mit nuancierten medizinischen Anfragen in indischen Sprachen, bedingt durch eine grundlegende Voreingenommenheit in ihren englischlastigen Trainingsdaten. GoDavaii zielt darauf ab, diese Lücke zu schließen, indem es fortschrittliche Gesundheits-KI für über 22 indische Sprachen entwickelt, wobei der Fokus darauf liegt, medizinisches Wissen in verschiedenen sprachlichen Kontexten relevant und zugänglich zu machen.

Multilingual AI India AI bias Health AI

RESEARCHarXiv CS.AI·vor 29T

More Thinking, More Bias: Length-Driven Position Bias in Reasoning Models

Eine neue Forschung zeigt, dass die Positionsverzerrung in Schlussfolgerungsmodellen, wie Chain-of-thought, mit der Länge der Schlussfolgerungstrajektorie skaliert. Dieser Effekt wurde über verschiedene Modellkonfigurationen und Benchmarks hinweg beobachtet, was darauf hindeutet, dass „mehr Nachdenken“ bestimmte Verzerrungen verstärken kann.

AI bias natural language processing reasoning models Machine learning research

RESEARCHDEV.to AI·vor 24T

A Survey on Gender Bias in Natural Language Processing

Eine Umfrage zu Geschlechtervorurteilen in der Verarbeitung natürlicher Sprache analysiert, wie Geschlechterstereotype in KI-Modellen perpetuiert werden. Die Studie erörtert Methoden zur Minderung dieser Vorurteile und untersucht Herausforderungen bei der Schaffung gerechterer NLP-Systeme.

AI bias natural language processing AI ethics gender bias

ARTICLEDEV.to AI·vor 16T

Deux IA d'accord = une source : la règle qui m'a évité un pipeline bâti sur du vide

Der Autor legte sein Counterpart Toolkit ChatGPT-4o und Claude.ai zur Überprüfung vor und erhielt von beiden KIs nahezu identische Bewertungen und Kritiken. Diese Konvergenz ließ ihn hinterfragen, ob „zwei übereinstimmende KIs“ wirklich zwei unabhängige Quellen darstellen, was auf eine gemeinsame Voreingenommenheit oder eine gemeinsame Argumentationsquelle hindeutet.

AI bias AI reliability large language models AI evaluation

ARTICLEDEV.to AI·5/2/2026

The Aunty Test - what Marathi-speaking patients see when they ask Health AI in their own language

Dieser Artikel beleuchtet, wie die meisten englischsprachigen KI-Gesundheitssysteme bei medizinischen Anfragen in lokalen Sprachen wie Marathi versagen. Er betont die Notwendigkeit von KI, die nativ in mehreren Sprachen argumentiert, anstatt sich auf Übersetzungs- oder lokalisierungsbasierte Ansätze zu verlassen, um genaue Gesundheitsberatung zu bieten.

language models Multilingual AI AI bias healthcare AI

ARTICLEDEV.to AI·4/25/2026

Fairness in Child Safety AI: Why Demographic Parity Audits Are Not Optional

Dieser Artikel argumentiert, dass die Fairnessbewertung, insbesondere die demografische Parität, eine kritische und nicht verhandelbare Einsatzbeschränkung für KI-Systeme im Kinderschutz darstellt. Das Ignorieren dieser Problematik schädigt Benutzer, birgt rechtliche Risiken und untergräbt das Vertrauen, während gleichzeitig Bedrohungen in unterrepräsentierten Gruppen aufgrund voreingenommener Daten übersehen werden.

ethics AI bias child safety content moderation

RESEARCHarXiv CS.CL·5/5/2026

Compared to What? Baselines and Metrics for Counterfactual Prompting

Diese Arbeit argumentiert, dass die beobachteten Effekte von "kontrafaktuellem Prompting" in LLMs nicht einem gezielten Faktor zugeschrieben werden können, ohne bedeutungserhaltende Textmodifikationen zu berücksichtigen, die die allgemeine Modellsensitivität festlegen. Die Forschung zeigt, dass die Vorhersageumkehrraten beim chirurgischen Ändern des Patientengeschlechts statistisch nicht von den durch einfaches Paraphrasieren der Eingaben induzierten Raten unterscheidbar sind, was darauf hindeutet, dass keine besondere Sensitivität gegenüber dem Patientengeschlecht geschlossen werden kann.

counterfactual prompting model robustness AI bias natural language processing

RESEARCHarXiv CS.CL·vor 8T

Your Multimodal Speech Model Says I Have a Face for Radio

Dieser Artikel schlägt die erste Bias-Evaluierung für multimodale Spracherkennung vor, die erhebliche Qualitätsunterschiede bei mWhisper-Flamingo- und Gemini-Modellen basierend auf selbst angegebenem Geschlecht und Ethnizität aufzeigt. Die Ergebnisse weisen darauf hin, dass Entwickler der Bewertung, Behebung und Kommunikation dieser Verzerrungen Priorität einräumen müssen.

multimodal AI AI bias ethnicity bias gender bias

ARTICLEDEV.to AI·5/2/2026

The Aunty Test - what Bengali-speaking patients see when they ask Health AI in their own language

Bestehende englischsprachige Gesundheits-KI versagt bei medizinischen Anfragen in Sprachen wie Bengali, was zu unzureichender Beratung führt. Im Gegensatz dazu argumentiert GoDavaii nativ in 22 indischen Sprachen und liefert präzise und kulturell relevante medizinische Ratschläge.

Multilingual AI Healthcare technology AI bias natural language processing

NEWSThe Verge AI·4/27/2026

Canva apologizes after its AI tool replaces ‘Palestine’ in designs

Canva hat sich entschuldigt, nachdem eines seiner neuen KI-Tools, „Magic Layers“, dabei ertappt wurde, das Wort „Palestine“ in Benutzerdesigns durch „Ukraine“ zu ersetzen. Das Unternehmen gibt an, das Problem, das auf das Wort „Palestine“ beschränkt schien, gelöst zu haben und Maßnahmen zu ergreifen, um zukünftige Vorkommnisse zu verhindern.

AI bias security content moderation AI ethics

ARTICLEDEV.to AI·vor 12T

What if AI Rejected Your Code Wrongly?

Der Artikel untersucht die versteckten Voreingenommenheiten in automatisierten KI-Code-Review-Tools und hinterfragt deren angebliche Objektivität. Es wird die Sorge hervorgehoben, dass KI optimierten Code fälschlicherweise aufgrund inhärenter Voreingenommenheiten und nicht wegen tatsächlicher Ineffizienz ablehnen könnte, was die Entwicklerproduktivität beeinträchtigt.

Software Development AI bias code review