Claim2Vec es un novedoso modelo de embedding multilingüe diseñado para representar afirmaciones de verificación de hechos como vectores para una mejor comprensión semántica. Aborda el desafío de la agrupación de afirmaciones para la desinformación aprovechando el aprendizaje contrastivo en pares de afirmaciones multilingües similares, mejorando significativamente el rendimiento.
Un profesor experto en desinformación de IA fue engañado por citas alucinadas de ChatGPT, lo que subraya el desafío actual de verificar el contenido generado por IA. A diferencia de la verificación de hechos tradicional, el contenido de IA carece de fuentes rastreables, autoría y estándares editoriales.
Los profesionales dedican 4,3 horas semanales a verificar las salidas de la IA, siendo el modo de fallo más peligroso la "sustitución por vecino plausible" en lugar de las alucinaciones. Este modo ofrece respuestas estadísticamente cercanas pero incorrectas que a menudo superan la inspección casual, resultando más problemático que los errores obvios.
Este trabajo presenta el primer benchmark para la extracción multimodal de afirmaciones de publicaciones en redes sociales, fundamental para la verificación automatizada de hechos. Evalúa los MLLM de última generación y propone MICE, un framework consciente de la intención, para abordar los desafíos en el modelado de la intención retórica y las señales contextuales.
El artículo describe la construcción de un motor de debate multi-LLM que se auto-verifica en tiempo real para combatir la tendencia de los LLM a la adulación y la alucinación. Propone un debate estructurado entre agentes con roles distintos, incluyendo un agente dedicado a la verificación de hechos a mitad del debate.