Serving MiniMax-M3 for efficient inference: Unlocking 1M-Token Context and Multimodality Without Regrets

Together ermöglichte eine effiziente Inferenz für MiniMax-M3, wodurch ein 1M-Token-Kontext und Multimodalität freigeschaltet wurden. Dies wurde durch KV-block-major sparse attention, paged MSA decode, optimiertes Index-Scoring und ein Rust-basiertes multimodales Gateway erreicht.