Human Alignment

2 items

RESEARCHDEV.to AI·vor 10Std

Aligning with Human Judgement: The Role of Pairwise Preference in Large LanguageModel Evaluators

Dieser Inhalt untersucht die entscheidende Rolle der Paarpräferenz bei der Bewertung großer Sprachmodelle (LLMs). Er diskutiert, wie diese Methode dazu beitragen kann, die LLM-Leistung effektiver an menschliche Urteile anzupassen.

Human Alignment Pairwise Preference natural language processing AI Research

RESEARCHarXiv CS.CL·vor 1T

What Do People Actually Want From AI? Mapping Preference Plurality

Diese Studie untersucht, was Menschen tatsächlich von KI-Systemen erwarten, indem sie 1.500 offene Antworten aus 75 Ländern analysiert. Sie zeigt, dass aktuelle LLM-Feinabstimmungsmethoden wie RLHF Einschränkungen bei der Aggregation unterschiedlicher und oft widersprüchlicher Präferenzen aufweisen, was die Pluralität von Werten und Interpretationen verdeutlicht.

LLMs Human Alignment RLHF User studies