bias detection

2 items

RESEARCHarXiv CS.CL·23/04/2026

Can We Locate and Prevent Stereotypes in LLMs?

Cette étude examine où résident les stéréotypes dans les LLM tels que GPT 2 Small et Llama 3.2. Elle explore l'identification des activations neuronales individuelles et des têtes d'attention pour cartographier les "empreintes de biais" et fournir des pistes pour leur atténuation.

neural networks LLMs bias detection Bias Mitigation

ARTICLEDEV.to AI·27/04/2026

Building Smart Fairness Analyzer: An AI-Powered Bias Detection App with MongoDB & NLP

Ce projet présente le Smart Fairness Analyzer, une plateforme développée pour détecter et auditer en temps réel les biais de genre, raciaux, d'âge et socioéconomiques dans les réponses de l'IA. L'outil utilise des métriques académiques d'équité en ML et stocke les pistes d'audit complètes dans MongoDB pour analyse.

ethics bias detection machine learning AI fairness