Human Alignment

2 items

RESEARCHDEV.to AI·hace 10h

Aligning with Human Judgement: The Role of Pairwise Preference in Large LanguageModel Evaluators

Este contenido explora el papel crítico de la preferencia por pares en la evaluación de Grandes Modelos de Lenguaje (LLM). Discute cómo este método puede ayudar a alinear el rendimiento de los LLM de manera más efectiva con el juicio humano.

Human Alignment Pairwise Preference natural language processing AI Research

RESEARCHarXiv CS.CL·hace 1d

What Do People Actually Want From AI? Mapping Preference Plurality

Este estudio investiga lo que la gente realmente quiere de los sistemas de IA, analizando 1.500 respuestas abiertas de 75 países. Revela que los métodos actuales de ajuste fino de LLM, como el RLHF, tienen limitaciones al agregar preferencias diversas y a menudo contradictorias, destacando la pluralidad de valores e interpretaciones.

LLMs Human Alignment RLHF User studies