Human Alignment

2 items

RESEARCHDEV.to AI·9h atrás

Aligning with Human Judgement: The Role of Pairwise Preference in Large LanguageModel Evaluators

Este conteúdo explora o papel crucial da preferência pareada na avaliação de Grandes Modelos de Linguagem (LLMs). Ele discute como este método pode ajudar a alinhar o desempenho dos LLMs de forma mais eficaz com o julgamento humano.

Human Alignment Pairwise Preference natural language processing AI Research

RESEARCHarXiv CS.CL·1d atrás

What Do People Actually Want From AI? Mapping Preference Plurality

Este estudo investiga o que as pessoas realmente desejam dos sistemas de IA, analisando 1.500 respostas abertas de 75 países. Ele revela que os métodos atuais de fine-tuning de LLMs, como RLHF, têm limitações ao agregar preferências diversas e muitas vezes conflitantes, destacando a pluralidade de valores e interpretações.

LLMs Human Alignment RLHF User studies