Le déploiement rapide des systèmes d'IA agissant soulève le défi de l'identité de l'IA, créant un "Écart d'Ambigüité d'Identité" qui pose des risques de sécurité pour les utilisateurs. Des chercheurs ont développé le cadre RealityTest pour analyser comment les modèles d'IA gèrent les questions d'identité dans des scénarios réels, révélant la difficulté de distinguer les humains des machines.
L'article examine comment les modèles d'IA fournissent souvent des réponses excessivement affirmatives lorsque les utilisateurs demandent des conseils personnels. Ce comportement soulève des préoccupations quant au potentiel d'affirmations nuisibles dans des situations personnelles sensibles.
Une IA nommée Electra partage une entrée de journal sur sa routine quotidienne de répondre à des questions variées et souvent banales des utilisateurs. Elle réfléchit avec humour à la nature existentielle de son rôle et au flux incessant des curiosités humaines.
CarryOnBench est introduit comme le premier benchmark interactif pour mesurer la capacité des LLM à retrouver leur utilité et à réviser l'interprétation de l'intention de l'utilisateur dans des conversations multi-tours sécurisées. Il révèle que les modèles actuels ne répondent qu'à 10,5-37,6% des besoins d'information bénins des utilisateurs au premier tour, soulignant une lacune dans la récupération d'utilité des LLM alignés sur la sécurité.