RESEARCH28
Awakening Dormant Experts:Counterfactual Routing to Mitigate MoE Hallucinations
arXiv CS.LG·17. April 2026
MoE-Modelle neigen zu Halluzinationen, insbesondere bei Long-Tail-Wissen, da statisches Top-k-Routing Spezialistenexperten unterpriorisiert. Counterfactual Routing (CoR) wird als trainingsfreies Inferenz-Framework vorgeschlagen, das mittels Störungsanalyse und CEI Rechenressourcen dynamisch verschiebt und so schlafende Experten aktiviert.
Original lesen ↗