FairFace es un conjunto de datos de atributos faciales creado para abordar los sesgos en los modelos de IA, ofreciendo una representación equilibrada de raza, género y edad. Busca mejorar la equidad y la robustez de los sistemas de visión por computadora, asegurando un rendimiento más justo.
Este estudio investiga dónde residen los estereotipos en LLMs como GPT 2 Small y Llama 3.2. Explora la identificación de activaciones neuronales individuales y cabezas de atención para mapear "huellas de sesgo" y ofrecer conocimientos para su mitigación.
Esta investigación examina cómo la mitigación de sesgos remodela el espacio de incrustación de modelos de fundación, como BERT y Llama2. Los hallazgos muestran que la mitigación de sesgos reduce las disparidades de género-ocupación en el espacio de incrustación, llevando a representaciones internas más neutrales y validando el análisis de incrustación como una herramienta útil para métodos de desvío.
Este artículo propone un marco ligero y en tiempo de inferencia para mitigar el sesgo de representación demográfica en modelos de texto a imagen, como Stable Diffusion, sin reentrenamiento. El enfoque permite a los usuarios seleccionar sus propias especificaciones de equidad para generar resultados más justos en diferentes profesiones.