grounding detection

Graph Alignment Topology as an Inductive Bias for Grounding Detection

Große Sprachmodelle (LLMs) sind darauf optimiert, plausible Fortsetzungen zu erzeugen, anstatt explizit zu überprüfen, ob generierte Aussagen durch Quelldokumente gestützt werden, was ihren Einsatz in kritischen Bereichen einschränkt. Diese Forschung schlägt vor, die Ausrichtungstopologie als induktiven Bias zu nutzen, indem aus Referenzinformationen und LLM-Ausgaben ausgerichtete bipartite Graphen konstruiert und ein Graph Neural Network (GNN) trainiert wird.