Cette recherche révèle une heuristique dépendante des mini-lots dans les modèles populaires de prédiction de liens basés sur les GNN, rendue possible par les couches de normalisation par lots. Ce biais peut conduire à une surestimation de la capacité des modèles à apprendre des représentations de graphe généralisées, plutôt que de transférer les propriétés sous-jacentes du graphe.
Este artigo aborda a 'maldição da reversão' em modelos de linguagem autorregressivos, onde falham ao recuperar fatos em ordem inversa. A pesquisa demonstra que a precisão da reversão exige um sinal de treinamento que torne a entidade de origem um alvo de previsão, indicando armazenamento separado para direções diretas e inversas, em vez de uma representação única e agnóstica à direção.
TABQAWORLD é um novo framework para otimizar o raciocínio multimodal em perguntas e respostas sobre tabelas multi-turn. Ele aborda erros de representação e altos custos de inferência ao empregar uma política de seleção multimodal que alterna dinamicamente entre representações visuais e textuais para maximizar a confiabilidade do estado da tabela.