AI bias

11 items

ARTICLEDEV.to AI·hace 2d

Day 49: The Unseen Layers of Building Health AI for 22+ Indian Languages

Los LLM actuales, como GPT-4, tienen dificultades con consultas médicas matizadas en idiomas indios debido a un sesgo fundamental en sus datos de entrenamiento, muy inclinados hacia el inglés. GoDavaii busca cerrar esta brecha desarrollando IA de Salud avanzada para más de 22 idiomas indios, centrándose en hacer el conocimiento médico contextualmente relevante y accesible en diversos entornos lingüísticos.

Multilingual AI India AI bias Health AI

RESEARCHarXiv CS.AI·hace 29d

More Thinking, More Bias: Length-Driven Position Bias in Reasoning Models

Una nueva investigación revela que el sesgo de posición en modelos de razonamiento, como Chain-of-thought, escala con la longitud de la trayectoria de razonamiento. Este efecto se observó en múltiples configuraciones de modelos y benchmarks, sugiriendo que "pensar más" puede exacerbar ciertos sesgos.

AI bias natural language processing reasoning models Machine learning research

RESEARCHDEV.to AI·hace 24d

A Survey on Gender Bias in Natural Language Processing

Una encuesta sobre el sesgo de género en el Procesamiento del Lenguaje Natural analiza cómo los estereotipos de género se perpetúan en los modelos de IA. El estudio discute métodos para mitigar estos sesgos y explora los desafíos en la creación de sistemas de PNL más equitativos.

AI bias natural language processing AI ethics gender bias

ARTICLEDEV.to AI·hace 16d

Deux IA d'accord = une source : la règle qui m'a évité un pipeline bâti sur du vide

El autor sometió su Counterpart Toolkit a ChatGPT-4o y Claude.ai para su revisión, recibiendo calificaciones y críticas casi idénticas de ambas IAs. Esta convergencia le hizo cuestionar si "dos IAs de acuerdo" realmente constituye dos fuentes independientes, sugiriendo un sesgo compartido o una fuente de razonamiento común.

AI bias AI reliability large language models AI evaluation

ARTICLEDEV.to AI·2/5/2026

The Aunty Test - what Marathi-speaking patients see when they ask Health AI in their own language

Este artículo subraya cómo la mayoría de las IAs de salud, diseñadas primero en inglés, fallan al manejar consultas médicas en idiomas locales como el maratí. Destaca la necesidad de IAs que razonen nativamente en múltiples idiomas para proporcionar orientación precisa, en lugar de depender de capas de traducción o "chapados" localizados.

language models Multilingual AI AI bias healthcare AI

ARTICLEDEV.to AI·25/4/2026

Fairness in Child Safety AI: Why Demographic Parity Audits Are Not Optional

Este artículo sostiene que la evaluación de la equidad, en particular la paridad demográfica, es una restricción de despliegue crítica e innegociable para los sistemas de IA en seguridad infantil. Ignorar esto perjudica a los usuarios, crea riesgos legales y socava la confianza, además de pasar por alto amenazas en grupos subrepresentados debido a datos sesgados.

ethics AI bias child safety content moderation

RESEARCHarXiv CS.CL·5/5/2026

Compared to What? Baselines and Metrics for Counterfactual Prompting

Este trabajo argumenta que los efectos observados del "prompting contrafactual" en LLMs no pueden atribuirse a un factor objetivo sin considerar modificaciones de texto que preserven el significado y establezcan la sensibilidad general del modelo. La investigación muestra que las tasas de cambio de predicción al modificar el género del paciente son indistinguibles de las tasas inducidas por simples paráfrasis, sugiriendo que no se puede concluir una sensibilidad especial al género del paciente.

counterfactual prompting model robustness AI bias natural language processing

RESEARCHarXiv CS.CL·hace 8d

Your Multimodal Speech Model Says I Have a Face for Radio

Este artículo propone la primera evaluación de sesgos en el reconocimiento de voz multimodal, revelando diferencias sustanciales en la calidad del servicio en modelos como mWhisper-Flamingo y Gemini, basadas en el género y la etnia autodeclarados. Los hallazgos señalan la prioridad de los desarrolladores para evaluar, corregir y comunicar estos sesgos.

multimodal AI AI bias ethnicity bias gender bias

ARTICLEDEV.to AI·2/5/2026

The Aunty Test - what Bengali-speaking patients see when they ask Health AI in their own language

La IA de salud diseñada para el inglés falla al procesar consultas médicas en idiomas como el bengalí, ofreciendo consejos inadecuados. En contraste, GoDavaii razona de forma nativa en 22 idiomas indios, proporcionando asesoramiento médico preciso y culturalmente relevante.

Multilingual AI Healthcare technology AI bias natural language processing

NEWSThe Verge AI·27/4/2026

Canva apologizes after its AI tool replaces ‘Palestine’ in designs

Canva se ha disculpado después de que una de sus nuevas herramientas de IA, "Magic Layers", fuera sorprendida reemplazando la palabra "Palestine" por "Ukraine" en diseños de usuarios. La compañía afirma haber resuelto el problema, que parecía limitado a la palabra "Palestine", y está tomando medidas para evitar futuras ocurrencias.

AI bias security content moderation AI ethics

ARTICLEDEV.to AI·hace 12d

What if AI Rejected Your Code Wrongly?

El artículo explora los sesgos ocultos en las herramientas automatizadas de revisión de código con IA, cuestionando su supuesta objetividad. Destaca la preocupación de que la IA pueda rechazar código optimizado erróneamente debido a sesgos inherentes en lugar de una ineficiencia real, afectando la productividad del desarrollador.

Software Development AI bias code review