Cette recherche présente GOEN, un nouveau pipeline pour la détection des entrées hors distribution (OOD), combinant des caractéristiques multi-échelles et la distance de Mahalanobis. Elle révèle que CenterLoss dégrade de manière surprenante la performance de détection OOD, GOEN-NoCenterLoss obtenant des résultats de pointe.
Cette recherche introduit MOOD, un benchmark conçu pour étudier la détection des échecs d'alignement hors distribution (OOD) dans les grands modèles de langage (LLMs) à l'aide de pipelines de surveillance. Elle propose de combiner des modèles de garde avec des détecteurs OOD pour améliorer la généralisation des classificateurs de sécurité, qui échouent souvent dans les scénarios OOD.
Cette recherche introduit une méthode appelée Ranked Activation Shift pour la détection post-hoc de données hors distribution. Elle vise à améliorer l'identification des échantillons de données qui s'écartent de la distribution d'entraînement.