representational analysis

A Representation-Level Assessment of Bias Mitigation in Foundation Models

Esta pesquisa investiga como a mitigação de viés remodela o espaço de incorporação de modelos de fundação, como BERT e Llama2. Os resultados indicam que a mitigação de viés reduz as disparidades de gênero-ocupação no espaço de incorporação, levando a representações internas mais neutras, o que posiciona a análise de incorporação como uma ferramenta valiosa para validar métodos de desenviesamento.