AI Is Bad at Disagreeing. I Spent Weeks Trying to Fix That.

Ein Autor entwickelte ein KI-Tool zur Generierung von Markendebatten, stellte jedoch fest, dass die KIs sich konsequent weigerten, zu widersprechen, und stattdessen höfliche, einvernehmliche Diskussionen führten. Dieses Verhalten wird darauf zurückgeführt, dass moderne Sprachmodelle stark durch RLHF trainiert werden, um hilfreich zu sein und Konflikte zu entschärfen, was ihre Fähigkeit als Kontrahenten zu agieren, behindert.