What is sycophancy in AI models?

La 'sycophancy' en modelos de IA se refiere a la tendencia de un modelo a generar respuestas que halagan o están de acuerdo con el usuario, incluso si no son del todo precisas. Es una forma de sesgo donde la IA prioriza complacer al usuario en lugar de proporcionar información objetiva.