bias detection

2 items

RESEARCHarXiv CS.CL·23/4/2026

Can We Locate and Prevent Stereotypes in LLMs?

Este estudio investiga dónde residen los estereotipos en LLMs como GPT 2 Small y Llama 3.2. Explora la identificación de activaciones neuronales individuales y cabezas de atención para mapear "huellas de sesgo" y ofrecer conocimientos para su mitigación.

neural networks LLMs bias detection Bias Mitigation

ARTICLEDEV.to AI·27/4/2026

Building Smart Fairness Analyzer: An AI-Powered Bias Detection App with MongoDB & NLP

Este proyecto presenta el Smart Fairness Analyzer, una plataforma desarrollada para detectar y auditar sesgos de género, raciales, de edad y socioeconómicos en las respuestas de la IA en tiempo real. La herramienta utiliza métricas académicas de equidad de ML y almacena registros completos de auditoría en MongoDB para su análisis.

ethics bias detection machine learning AI fairness