heapsort
RESEARCH28

Awakening Dormant Experts:Counterfactual Routing to Mitigate MoE Hallucinations

arXiv CS.LG·17. April 2026

MoE-Modelle neigen zu Halluzinationen, insbesondere bei Long-Tail-Wissen, da statisches Top-k-Routing Spezialistenexperten unterpriorisiert. Counterfactual Routing (CoR) wird als trainingsfreies Inferenz-Framework vorgeschlagen, das mittels Störungsanalyse und CEI Rechenressourcen dynamisch verschiebt und so schlafende Experten aktiviert.

Original lesen