Este estudio formaliza el sesgo en sistemas de aprendizaje automático como una operación de ruptura de simetría, definiendo la equidad como la invariancia al cambiar atributos sensibles contrafactuales. Implementa la regularización basada en pérdidas para restaurar la simetría, logrando más del 90% de reducción de violación de sesgo con un costo de precisión de alrededor del 5%.
Este artículo de investigación explora la desconexión entre las salidas justas de los modelos de lenguaje y sus sesgos internos latentes en decisiones de alto riesgo, como la suscripción de hipotecas. Demuestra que, aunque los LLM no muestren sesgo de salida, retienen y amplifican representaciones demográficas que pueden causar reversiones de decisión y que este sesgo es asimétrico.
Este artículo enfatiza la naturaleza no opcional del desarrollo responsable de la IA debido a su impacto en las decisiones y las regulaciones emergentes. Proporciona técnicas prácticas, incluyendo ejemplos de código para cuantificar el sesgo usando métricas de equidad estándar, para construir aplicaciones de IA responsables.
Esta investigación explora la fiabilidad y la equidad de los modelos de supervivencia profunda no paramétricos para analizar la progresión de la Enfermedad de Alzheimer (EA). Aborda la falta de estudios que consideren el sesgo aprendido en los modelos de aprendizaje profundo existentes para la EA y propone nuevas métricas de equidad para garantizar predicciones confiables.
FASE es un marco de grafo de eventos espacio-temporal consciente de la equidad, diseñado para integrar la predicción de crímenes con la asignación de patrullas con restricciones de equidad para mitigar las disparidades raciales en la policía predictiva. Utiliza una red neuronal gráfica espacio-temporal y un proceso de Hawkes multivariado para modelar incidentes criminales en Baltimore, abordando el sesgo de datos a través de un simulador de implementación de bucle cerrado.
Este trabajo investiga la injusticia contrafactual en LLMs, observando cómo sus respuestas al humor cambian al intercambiar las identidades del hablante y del oyente. Los experimentos revelan disparidades relacionales consistentes, donde los chistes contados por hablantes privilegiados son rechazados o juzgados como maliciosos con mayor frecuencia.
Una encuesta sobre el sesgo de género en el Procesamiento del Lenguaje Natural analiza cómo los estereotipos de género se perpetúan en los modelos de IA. El estudio discute métodos para mitigar estos sesgos y explora los desafíos en la creación de sistemas de PNL más equitativos.
Pesquisadores introduziram AttriBench, um novo dataset demograficamente balanceado para atribuição de citações. Testes em 11 LLMs revelaram disparidades sistemáticas de precisão baseadas em raça e gênero, expondo um viés de atribuição e uma nova métrica de justiça na IA.
Este artículo sostiene que la evaluación de la equidad, en particular la paridad demográfica, es una restricción de despliegue crítica e innegociable para los sistemas de IA en seguridad infantil. Ignorar esto perjudica a los usuarios, crea riesgos legales y socava la confianza, además de pasar por alto amenazas en grupos subrepresentados debido a datos sesgados.
Este artículo propone un marco ligero y en tiempo de inferencia para mitigar el sesgo de representación demográfica en modelos de texto a imagen, como Stable Diffusion, sin reentrenamiento. El enfoque permite a los usuarios seleccionar sus propias especificaciones de equidad para generar resultados más justos en diferentes profesiones.
El prototipo de software `FairMind` automatiza el análisis de equidad causal a nivel de conjunto de datos, abordando la falta de consideración de equidad en la mayoría de los frameworks de AutoML. Utiliza el modelo estándar de equidad y LLMs para generar informes precisos sobre la equidad basados en efectos causales contrafactuales.
Se desarrolló un nuevo marco de red teaming multidominio para evaluar la seguridad, robustez y equidad de los Grandes Modelos de Lenguaje (LLMs) médicos en 690 escenarios clínicos. La investigación reveló una varianza de rendimiento sustancial y fallas críticas en escenarios de seguridad, incluso en sistemas de alto rendimiento.
El rápido desarrollo de los Modelos de Difusión de Lenguaje (LDM) presenta nuevos desafíos de fiabilidad. TrustLDM es un benchmark exhaustivo que evalúa la seguridad, privacidad y equidad en estos modelos, mostrando que su comportamiento de alineación se degrada notablemente con contextos maliciosos, independientemente de la longitud del contexto.
Este trabalho propõe um novo modelo para treinar Redes Neurais Gráficas (GNNs) sensíveis à justiça, aprimorando o framework CAF. A abordagem utiliza uma estratégia de treinamento em duas fases, editando o grafo para ajustar a homofilia e integrando perdas contrastivas e ambientais modificadas para melhorar a predição e a justiça.
El artículo aborda la compleja cuestión de la rendición de cuentas cuando la IA comete errores, ilustrando cómo la responsabilidad se fragmenta entre diversas partes interesadas, como bancos, proveedores y suministradores de datos. Define la IA Responsable como la práctica de construir e implementar sistemas de IA justos, transparentes, seguros y responsables.