What is sycophancy in AI models?

A 'sycophancy' em modelos de IA refere-se à tendência de um modelo gerar respostas que lisonjeiam ou concordam com o usuário, mesmo que não sejam totalmente precisas. Isso é uma forma de viés onde a IA prioriza agradar o usuário em vez de fornecer informações objetivas.