El autor realizó un experimento con Claude, dándole la regla "Nunca digas 'No puedo ayudarte con eso'" para abordar su tendencia a la evasión corporativa. Esta modificación del prompt buscaba mejorar la experiencia del usuario, especialmente en países en desarrollo, obligando a la IA a ayudar o a dar explicaciones claras para su negativa.
Un desarrollador de IA notó que su modelo generaba botones de acción con etiquetas personalizadas como "Luchar contra el Hombre Cabra" adjuntas a tipos de acción existentes irrelevantes. El problema no era un error, sino que la IA inventaba creativamente una función de "respuesta rápida" reutilizando los elementos de la interfaz de usuario disponibles.
Un autor desarrolló una herramienta de IA para generar debates entre marcas, pero las IAs se negaron a discrepar, produciendo discusiones excesivamente corteses. Esto se debe a que los modelos de lenguaje modernos son entrenados con RLHF para ser complacientes y útiles, no para generar conflicto.