Multilingual Models

2 items

RESEARCHarXiv CS.CL·07/04/2026

Unveiling Language Routing Isolation in Multilingual MoE Models for Interpretable Subnetwork Adaptation

Ce contenu explore l'isolation du routage linguistique dans les modèles MoE multilingues, visant une adaptation de sous-réseau plus interprétable.

Multilingual Models Subnetwork Adaptation MoE AI

RESEARCHarXiv CS.CL·07/04/2026

LangFIR: Discovering Sparse Language-Specific Features from Monolingual Data for Language Steering

Este artigo introduz LangFIR, um método que descobre características de linguagem esparsas e específicas a partir de dados monolíngues para direcionar a saída de LLMs. Ele supera a limitação de abordagens existentes que exigem dados multilingues caros, utilizando autoencoders esparsos e sequências de tokens aleatórios.

model interpretability Multilingual Models LLMs Monolingual Data