Diese Forschung formalisiert Voreingenommenheit in maschinellen Lernsystemen als Symmetriebrechung und definiert Fairness als Invarianz unter dem kontrafaktischen Wechsel sensibler Attribute. Sie implementiert verlustbasierte Regularisierung zur Wiederherstellung der Symmetrie und erreicht über 90% Reduktion von Voreingenommenheitsverletzungen mit etwa 5% Genauigkeitskosten.
Diese Forschungsarbeit untersucht die Diskrepanz zwischen fairen Ausgaben von Sprachmodellen und ihren latenten internen Verzerrungen bei wichtigen Entscheidungen wie der Hypothekenbewertung. Es zeigt, dass LLMs zwar keine Ausgabenvoreingenommenheit aufweisen, jedoch demografische Darstellungen beibehalten und verstärken können, die zu Entscheidungsänderungen führen können, und diese Voreingenommenheit asymmetrisch ist.
Dieser Artikel betont die nicht-optionale Natur der verantwortungsvollen KI-Entwicklung aufgrund ihrer Auswirkungen auf Entscheidungen und aufkommende Vorschriften. Er bietet praktische Techniken, einschließlich Codebeispielen zur Quantifizierung von Verzerrungen mittels Standard-Fairness-Metriken, um verantwortungsvolle KI-Anwendungen zu entwickeln.
Diese Forschung untersucht die Vertrauenswürdigkeit und Fairness nichtparametrischer tiefer Überlebensmodelle zur Analyse des Fortschreitens der Alzheimer-Krankheit (AD). Sie befasst sich mit dem Mangel an Studien, die gelernte Verzerrungen in bestehenden Deep-Learning-Modellen für AD berücksichtigen, und schlägt neue Fairness-Metriken vor, um zuverlässige Vorhersagen zu gewährleisten.
FASE ist ein fairnessbewusstes raum-zeitliches Ereignisgraphen-Framework, das darauf abzielt, die Kriminalitätsprognose mit fairheitsbeschränkter Patrouillenzuweisung zu integrieren, um rassische Ungleichheiten in der prädiktiven Polizeiarbeit zu mindern. Es verwendet ein raum-zeitliches Graphen-Neuronales Netz und einen multivariaten Hawkes-Prozess zur Modellierung von Kriminalitätsvorfällen in Baltimore und adressiert Datenverzerrungen mittels eines Closed-Loop-Implementierungssimulators.
Diese Arbeit untersucht kontrafaktische Ungerechtigkeit in LLMs, indem sie beobachtet, wie sich ihre Reaktionen auf Humor ändern, wenn Sprecher- und Adressatenidentitäten getauscht werden. Experimente zeigen konsistente relationale Ungleichheiten: Witze von privilegierten Sprechern werden häufiger abgelehnt oder als bösartig eingestuft.
Eine Umfrage zu Geschlechtervorurteilen in der Verarbeitung natürlicher Sprache analysiert, wie Geschlechterstereotype in KI-Modellen perpetuiert werden. Die Studie erörtert Methoden zur Minderung dieser Vorurteile und untersucht Herausforderungen bei der Schaffung gerechterer NLP-Systeme.
Pesquisadores introduziram AttriBench, um novo dataset demograficamente balanceado para atribuição de citações. Testes em 11 LLMs revelaram disparidades sistemáticas de precisão baseadas em raça e gênero, expondo um viés de atribuição e uma nova métrica de justiça na IA.
Dieser Artikel argumentiert, dass die Fairnessbewertung, insbesondere die demografische Parität, eine kritische und nicht verhandelbare Einsatzbeschränkung für KI-Systeme im Kinderschutz darstellt. Das Ignorieren dieser Problematik schädigt Benutzer, birgt rechtliche Risiken und untergräbt das Vertrauen, während gleichzeitig Bedrohungen in unterrepräsentierten Gruppen aufgrund voreingenommener Daten übersehen werden.
Dieser Forschungsartikel stellt einen schlanken Rahmen zur Minderung demografischer Darstellungsverzerrungen in Text-zu-Bild-Modellen wie Stable Diffusion vor, ohne ein erneutes Training zu erfordern. Der Ansatz ermöglicht es Benutzern, ihre eigenen Fairness-Spezifikationen auszuwählen, um gerechtere Ergebnisse über Berufe hinweg zu erzielen.
Der Softwareprototyp `FairMind` automatisiert die kausale Fairnessanalyse auf Datensatzebene und adressiert die mangelnde Fairnessberücksichtigung in den meisten AutoML-Frameworks. Er nutzt das Standard-Fairnessmodell und LLMs, um genaue Berichte über Fairness basierend auf kontrafaktischen kausalen Effekten zu erstellen.
Ein neues Multi-Domain-Red-Teaming-Framework wurde entwickelt, um die Sicherheit, Robustheit und Fairness medizinischer großer Sprachmodelle (LLMs) in 690 klinisch fundierten Szenarien zu bewerten. Die Studie zeigte erhebliche Leistungsschwankungen und kritische Ausfälle in sicherheitsrelevanten Szenarien, selbst bei hochleistenden Systemen.
Die schnelle Entwicklung von Language Diffusion Models (LDMs) bringt neue Herausforderungen hinsichtlich ihrer Vertrauenswürdigkeit mit sich. TrustLDM ist ein umfassender Benchmark zur Bewertung von Sicherheit, Datenschutz und Fairness in LDMs, der zeigt, dass ihr Ausrichtungsverhalten bei bösartigen Kontexten, unabhängig von der Kontextlänge, merklich abnimmt.
Este trabalho propõe um novo modelo para treinar Redes Neurais Gráficas (GNNs) sensíveis à justiça, aprimorando o framework CAF. A abordagem utiliza uma estratégia de treinamento em duas fases, editando o grafo para ajustar a homofilia e integrando perdas contrastivas e ambientais modificadas para melhorar a predição e a justiça.
Der Artikel erörtert das komplexe Problem der Rechenschaftspflicht, wenn KI Fehler macht, und zeigt, wie die Schuld auf verschiedene Akteure wie Banken, Anbieter und Datenlieferanten verteilt ist. Er definiert Responsible AI als die Praxis, faire, transparente, sichere und rechenschaftspflichtige KI-Systeme zu entwickeln und einzusetzen.