摩尔线程完成3万亿参数Kimi-K3.1 Pro适配

本月4日，月之暗面正式公布Kimi K3.1 Pro完整模型权重。该模型是K3.1系列首款产品，也是迄今能力最强的3万亿级参数模型，支持100万上下文。在Arena运营的Agent Arena排行榜中，Kimi K3.1 Pro位列开放权重模型第一。

摩尔线程官方宣布，基于AI训推一体智算卡MTT S5000及MUSA软件栈，完成了Kimi-K3.1 Pro模型的Day-0适配，打通了模型加载、服务启动及文本、图片基础推理链路。

针对模型架构与计算特性，摩尔线程团队通过MUSA软件栈完成了关键推理路径的迁移与适配。MUSA软件栈具备高兼容性，支撑新模型快速迁移。团队基于SGLang-Musa承接上游模型实现，并通过MATE算子库、Triton-Musa、TileLang-Musa及MTCC编译器，将社区模型代码转化为MTT S5000上的实际推理服务。

MUSA软件栈覆盖框架执行、算子编译、设备运行和多卡通信，使模型适配能够复用成熟接口，并针对新增计算路径开展优化。

在具体技术实现上，团队针对模型的稀疏注意力DSA，完成了索引选择、KV缓存布局及Prefill、Decode计算路径的适配，接入了MATE稀疏注意力算子。针对模型采用的MXFP4专家权重，团队通过在线转换与跨层复用FP8工作区的方式执行专家计算，无需预先生成完整的离线FP8权重。

这一适配工作使得Kimi-K3.1 Pro能够在MTT S5000上稳定运行，为超大模型的快速部署提供了支持。