bias detection

2 items

RESEARCHarXiv CS.CL·23/04/2026

Can We Locate and Prevent Stereotypes in LLMs?

Este estudo investiga onde os estereótipos residem em LLMs como GPT 2 Small e Llama 3.2. Ele explora a identificação de ativações de neurônios e cabeças de atenção para mapear "impressões digitais de viés" e fornecer insights para mitigação.

neural networks LLMs bias detection Bias Mitigation

ARTICLEDEV.to AI·27/04/2026

Building Smart Fairness Analyzer: An AI-Powered Bias Detection App with MongoDB & NLP

Este projeto apresenta o Smart Fairness Analyzer, uma plataforma desenvolvida para detectar e auditar vieses de gênero, raça, idade e socioeconômicos em respostas de IA em tempo real. A ferramenta usa métricas acadêmicas de ML e armazena trilhas de auditoria no MongoDB para análise.

ethics bias detection machine learning AI fairness