Esta pesquisa revela uma heurística dependente de mini-batch em modelos populares de previsão de links baseados em GNNs, possibilitada por camadas de normalização em lote. Este viés pode levar a uma superestimação da capacidade dos modelos de aprender representações de grafo generalizadas, em vez de transferir as propriedades subjacentes do grafo.
Este artigo aborda a 'maldição da reversão' em modelos de linguagem autorregressivos, onde falham ao recuperar fatos em ordem inversa. A pesquisa demonstra que a precisão da reversão exige um sinal de treinamento que torne a entidade de origem um alvo de previsão, indicando armazenamento separado para direções diretas e inversas, em vez de uma representação única e agnóstica à direção.
TABQAWORLD é um novo framework para otimizar o raciocínio multimodal em perguntas e respostas sobre tabelas multi-turn. Ele aborda erros de representação e altos custos de inferência ao empregar uma política de seleção multimodal que alterna dinamicamente entre representações visuais e textuais para maximizar a confiabilidade do estado da tabela.