Claim2Vec ist ein neuartiges mehrsprachiges Embedding-Modell, das Faktenprüfungsansprüche als Vektoren für ein verbessertes semantisches Verständnis darstellt. Es begegnet der Herausforderung der Anspruchs-Clusterbildung für Fehlinformationen, indem es kontrastives Lernen an ähnlichen mehrsprachigen Anspruchspaaren nutzt und so die Leistung erheblich steigert.
Ein Professor, Experte für KI-Desinformation, wurde von halluzinierten ChatGPT-Zitaten getäuscht, was die aktuelle Herausforderung bei der Überprüfung von KI-generierten Inhalten hervorhebt. Im Gegensatz zur traditionellen Faktenprüfung fehlen KI-Inhalten nachvollziehbare Quellen, Autorenschaften und redaktionelle Standards.
Wissensarbeiter verbringen wöchentlich 4,3 Stunden mit der Faktenprüfung von KI-Ausgaben, wobei der gefährlichste Fehlermodus die "plausible-neighbor substitution" statt Halluzinationen ist. Dieser Modus liefert statistisch nahe, aber letztendlich falsche Antworten, die oft eine oberflächliche Prüfung bestehen und problematischer sind als offensichtliche Fehler.
Diese Arbeit stellt den ersten Benchmark für die multimodale Anspruchsextraktion aus Social-Media-Beiträgen vor, der für die automatisierte Faktenprüfung unerlässlich ist. Sie bewertet hochmoderne MLLMs und schlägt MICE vor, ein absichtsbewusstes Framework, um Herausforderungen bei der Modellierung rhetorischer Absicht und kontextueller Hinweise zu bewältigen.
Der Artikel beschreibt den Bau einer Multi-LLM-Debattier-Engine, die sich in Echtzeit selbst faktencheckt, um die Neigung von LLMs zu Schmeichelei und Halluzinationen zu bekämpfen. Er schlägt eine strukturierte Debatte zwischen Agenten mit unterschiedlichen Rollen vor, einschließlich eines engagierten Faktenprüfers während der Debatte.