FairFace est un ensemble de données d'attributs faciaux conçu pour atténuer les biais dans les modèles d'IA, en offrant une représentation équilibrée de la race, du genre et de l'âge. Il vise à améliorer l'équité et la robustesse des systèmes de vision par ordinateur, garantissant des performances plus justes.
Cette étude examine où résident les stéréotypes dans les LLM tels que GPT 2 Small et Llama 3.2. Elle explore l'identification des activations neuronales individuelles et des têtes d'attention pour cartographier les "empreintes de biais" et fournir des pistes pour leur atténuation.
Cette recherche examine comment l'atténuation des biais remodèle l'espace d'intégration des modèles de fondation, tels que BERT et Llama2. Les résultats montrent que l'atténuation des biais réduit les disparités genre-profession dans l'espace d'intégration, conduisant à des représentations internes plus neutres et validant l'analyse d'intégration comme un outil précieux pour les méthodes de débiaisage.
Cette recherche propose un cadre léger et au moment de l'inférence pour atténuer le biais de représentation démographique dans les modèles texte-image, comme Stable Diffusion, sans nécessiter de réentraînement. L'approche permet aux utilisateurs de choisir leurs propres spécifications d'équité pour générer des résultats plus justes dans diverses professions.