Human Alignment

2 items

RESEARCHDEV.to AI·il y a 10h

Aligning with Human Judgement: The Role of Pairwise Preference in Large LanguageModel Evaluators

Ce contenu explore le rôle crucial de la préférence par paires dans l'évaluation des Grands Modèles de Langage (LLM). Il discute comment cette méthode peut aider à aligner plus efficacement les performances des LLM avec le jugement humain.

Human Alignment Pairwise Preference natural language processing AI Research

RESEARCHarXiv CS.CL·il y a 1j

What Do People Actually Want From AI? Mapping Preference Plurality

Cette étude examine ce que les gens attendent réellement des systèmes d'IA en analysant 1 500 réponses ouvertes de 75 pays. Elle révèle que les méthodes actuelles d'ajustement fin des LLM, telles que le RLHF, présentent des limites en agrégeant des préférences diverses et souvent contradictoires, soulignant la pluralité des valeurs et des interprétations.

LLMs Human Alignment RLHF User studies