FairFace ist ein Datensatz von Gesichtsattributen, der entwickelt wurde, um Verzerrungen in KI-Modellen durch eine ausgewogene Repräsentation von Rasse, Geschlecht und Alter zu mindern. Er zielt darauf ab, die Fairness und Robustheit von Computer-Vision-Systemen zu verbessern und somit eine gerechtere Leistung zu gewährleisten.
Diese Studie untersucht, wo Stereotypen in LLMs wie GPT 2 Small und Llama 3.2 lokalisiert sind. Sie erforscht die Identifizierung einzelner neuronaler Aktivierungen und Attention Heads, um „Bias-Fingerabdrücke“ zu kartieren und erste Einblicke zur Minderung zu liefern.
Diese Forschung untersucht, wie Bias-Minderung den Einbettungsraum von Encoder-Only- und Decoder-Only-Grundlagenmodellen wie BERT und Llama2 umgestaltet. Die Ergebnisse zeigen, dass Bias-Minderung Geschlechter-Berufs-Disparitäten im Einbettungsraum reduziert, was zu neutraleren internen Repräsentationen führt und die Einbettungsanalyse als wertvolles Validierungswerkzeug zur Entzerrung bestätigt.
Dieser Forschungsartikel stellt einen schlanken Rahmen zur Minderung demografischer Darstellungsverzerrungen in Text-zu-Bild-Modellen wie Stable Diffusion vor, ohne ein erneutes Training zu erfordern. Der Ansatz ermöglicht es Benutzern, ihre eigenen Fairness-Spezifikationen auszuwählen, um gerechtere Ergebnisse über Berufe hinweg zu erzielen.