Diese Forschung stellt GOEN vor, eine neue Pipeline zur Erkennung von Out-of-Distribution (OOD)-Eingaben, die mehrskalige Merkmale und den Mahalanobis-Abstand kombiniert. Sie zeigt, dass CenterLoss die OOD-Erkennungsleistung überraschenderweise verschlechtert, wobei GOEN-NoCenterLoss hervorragende Ergebnisse erzielt.
Diese Forschung stellt MOOD vor, einen Benchmark zur Untersuchung der Erkennung von Out-Of-Distribution (OOD)-Ausrichtungsfehlern in großen Sprachmodellen (LLMs) mithilfe von Überwachungspipelines. Es wird vorgeschlagen, Schutzmodelle mit OOD-Detektoren zu kombinieren, um die Generalisierung von Sicherheitsklassifikatoren zu verbessern, die in OOD-Szenarien oft versagen.
Diese Forschung stellt eine Methode namens Ranked Activation Shift zur Post-hoc-Erkennung von Out-of-Distribution-Daten vor. Ziel ist es, die Identifizierung von Datenstichproben zu verbessern, die von der Trainingsverteilung abweichen.