Claim2Vec é um novo modelo de embedding multilíngue projetado para representar alegações de verificação de fatos como vetores para uma melhor compreensão semântica. Ele aborda o desafio do agrupamento de alegações para desinformação, utilizando aprendizado contrastivo em pares de alegações multilíngues semelhantes, melhorando significativamente o desempenho.
Um professor especialista em desinformação de IA foi enganado por citações alucinadas do ChatGPT, destacando o desafio atual de verificar conteúdo gerado por IA. Diferentemente do fato-checking tradicional, o conteúdo de IA carece de fontes rastreáveis, autorias e padrões editoriais.
Profissionais gastam 4,3 horas semanais verificando saídas de IA, mas o maior risco não são as alucinações, e sim a "substituição por vizinho plausível". Este modo de falha apresenta respostas quase corretas que enganam a inspeção superficial, tornando-se mais problemático do que erros óbvios.
Este trabalho apresenta o primeiro benchmark para extração multimodal de alegações de mídias sociais, crucial para a verificação automatizada de fatos. Ele avalia MLLMs de ponta e propõe MICE, uma estrutura consciente da intenção, para superar desafios na modelagem de intenção retórica e pistas contextuais.
O artigo descreve a construção de um motor de debate multi-LLM que se auto-verifica em tempo real para combater a tendência dos LLMs à bajulação e à alucinação. Ele propõe um debate estruturado entre agentes com papéis distintos, incluindo um agente dedicado à verificação de fatos no meio do debate.