FairFace é um dataset de atributos faciais desenvolvido para mitigar vieses em modelos de IA, oferecendo uma representação equilibrada de raça, gênero e idade. O objetivo é aprimorar a equidade e robustez de sistemas de visão computacional, garantindo um desempenho mais justo.
Este estudo investiga onde os estereótipos residem em LLMs como GPT 2 Small e Llama 3.2. Ele explora a identificação de ativações de neurônios e cabeças de atenção para mapear "impressões digitais de viés" e fornecer insights para mitigação.
Esta pesquisa investiga como a mitigação de viés remodela o espaço de incorporação de modelos de fundação, como BERT e Llama2. Os resultados indicam que a mitigação de viés reduz as disparidades de gênero-ocupação no espaço de incorporação, levando a representações internas mais neutras, o que posiciona a análise de incorporação como uma ferramenta valiosa para validar métodos de desenviesamento.
Este artigo propõe uma estrutura leve e em tempo de inferência para mitigar o viés de representação demográfica em modelos de texto para imagem, como Stable Diffusion, sem retreinamento. A abordagem permite aos usuários definir especificações de justiça para gerar saídas mais equitativas em diferentes profissões.