Understanding Reinforcement Learning with Human Feedback Part 6: How the Reward Model Trains the Original Model

Este artigo, parte de uma série sobre Aprendizagem por Reforço com Feedback Humano (RLHF), detalha como um modelo de recompensa pré-treinado é usado para treinar um modelo de IA original. Ele explica que novos prompts são usados, o modelo original gera respostas e o modelo de recompensa fornece sinais de feedback, permitindo que o modelo original aprenda a gerar saídas mais úteis e alinhadas com o humano.