2 家信源
多家独立信源报道了同一事件百度开源文心5.5 Flash Base，多基准测试刷新同尺寸模型 SOTA
百度开源文心5.5 Flash Base，多基准测试刷新同尺寸模型 SOTA
11月5日，百度正式开源最新基座模型文心5.5 Flash Base
11月5日，百度正式开源最新基座模型文心5.5 Flash Base（ERNIE 5.5 Flash Base）。模型采用MoE架构，总参数量2800亿，每个 Token 激活140亿参数，使用33.5万亿个 Token 完成预训练，预训练上下文长度最高达128K，微调与推理阶段支持最长100万 Token上下文。
在知识、推理、数学、代码、多语言和长上下文等多个基准测试中取得同尺寸模型 SOTA 表现，超过 DeepSeek-V4-Flash-Base、Hy3-preview-Base、MiMo-V2.5-Base 等模型。
开源地址：https://huggingface.co/baidu/ERNIE-5.5-Flash-Base
随着大模型应用从文本问答向长文档分析、多轮交互和智能体任务延伸，模型需要处理的信息量持续增加，计算和显存开销也随之上升。在保证模型能力的同时提高资源利用效率，已成为大模型研发的重要课题。
文心 5.5 Flash Base围绕“效率”这一设计主线，在注意力机制、专家路由及训练机制等关键环节进行系统性优化，并实现了多项算法创新。
在注意力机制上，文心提出 Latent-Gated Sparse Attention，将混合稀疏注意力、低秩门控注意力与虚拟头注意力结合起来。其中，模型通过组合HCA与MLA，让不同注意力层分别承担压缩历史信息和细粒度访问历史位置的任务；
低秩门控注意力（Low-Rank Gated Attention）则利用已有的低维表示计算信息门控，使门控投影权重参数减少75%；此外，虚拟头注意力（Virtual Head Attention，VHA）可提升模型表达力与训练质量，推理时融合进注意力算子，开销极小。这些设计降低了长上下文处理的资源开销，同时保留模型对关键信息的处理能力。
在专家路由上，模型采用 Multi-Router Latent MoE，由多个独立路由器共同参与专家选择，改善路由评分与专家实际效用之间的相关性。相比依赖单一路由器的传统方案，该设计旨在降低单一评分偏差对专家选择的影响，同时保持激活专家数量、专家计算量和通信量不变。
在训练目标上，模型引入 ECHO，无需额外增加 MTP 模块（Multi-Token Prediction），而是复用主干最后一层，让主干自身学习预测后续 token，从而提前规划序列走向，有效提升推理与代码能力。
文心5.5 Flash 仅采用单步 ECHO 预训练，复用的最后一层还可作为投机解码的草稿模型，展现出多步外推能力：同样只训练一步，多步起草质量大幅优于辅助 MTP 模块。
除模型架构外，大模型基建创新也十分重要。文心对分布式Muon优化器进行了优化，并推出面向大 head dim 的注意力算子 FlashMask-4，改善大规模训练中的通信、显存利用与计算效率。模型能力的提升不仅依赖算法本身，也与训练系统能否高效支撑这些设计密切相关。
基座模型不仅承载着预训练阶段形成的通用能力，也是下游模型开发与应用创新的重要基础。与面向终端用户的应用模型不同，Base 模型为开发者和企业提供了进一步微调与定制的空间，可基于自身业务需求构建适应不同场景的专业模型与应用。开放基座模型能够为开发者提供更多技术选择，降低专业模型开发的训练成本与技术门槛。
当前，大模型的竞争逐渐迈向模型能力、训练效率与场景创新协同发展的新阶段。随着推理、Agent等技术与应用加速演进，行业对基座模型的需求也从单一的能力提升，转向更高效的训练范式、更灵活的能力拓展，以及更广泛的场景适配需求。
文心5.5 Flash Base在提升模型基础能力与训练推理效率的同时，为开发者和社区提供了更具拓展性的技术基础，推动模型技术走向多样化的能力探索与应用创新。
本文由百度提供，量子位获授权转载，观点归原作者所有。
版权所有，未经授权不得以任何形式转载及使用，违者必究。
· 以“真实工作”检验机器人价值，XROGO在CeMAT ASIA发布机器人到岗计划2026-11-05
· 基于本体+知识+Harness+Datat Agent的智能体完整落地链路！2026-11-05
· 太初元碁入选2026年世界互联网大会领先科技奖收录成果集《科技之魅》2026-11-05
· 超维动力全栈矩阵亮相2026香港金融科技周，具身智能硬科技引爆全场2026-11-04
量子位宣布接入百度文心一言能力，打造人工智能全系产品和服务
量子位成为百度文心一言首批生态合作伙伴
LMArena最新排名：文心大模型5.0 Preview文本能力位居国内第一
用中文现场开发小游戏！百度程序员们都在用的“编程神器”邀测了
中国发展研究基金会联合百度发布智能经济白皮书：新基建是助燃剂，其势已成
有充分的技术实力，才能抓住智能经济机遇
百度：请叫我卡车新势力
中国首批大模型版号发放：百度华为讯飞商汤百川腾讯等11家获准
无需排队，注册即可使用
Evidence
来源与证据
已有 2 个独立信源报道同一事件；仍建议核对各方表述差异。
- 发布时间
- 内容处理
- AI 翻译 / 摘要，需结合原文核对
相关资讯
DeepSeek发布创作者模式，下一代大模型计划基于华为昇腾芯片预训练
“你的Harness，由你定义。”（Your Harness. You Define It）在发布智能体更新后，DeepSeek再次更新Creator Mode（创作者模式）。11月2日，澎湃新闻记者获悉，DeepSeek Harness发布Creator Mode（创作者模式）演示视频，集中展示通过对话创建插件的能力，并公开七组演示的中英文提示词。据DeepSeek在推送中介绍：“来认识DeepSeek Harness中的‘创造模式’，把想法转化为你能直接使用的插件：可以是设计工作台、沙盒游戏，或是一个3D大模型可视化工具，你会创造出什么？”所谓Harness，是指围绕大语言模型构建的一套软
百度发布 Apollo World 世界模型，助力无人驾驶规模化落地
百度发布 Apollo World 世界模型，助力无人驾驶规模化落地 4 小时前 百度 Apollo 在相关专场上首次披露面向物理 AI 的智能体驱动全模态世界模型 Apollo World，提出世界模型「2 + 3」判断标准，该模型已用于萝卜快跑全球化测试与验证，助力无人驾驶规模化落地。Apollo World 将虚拟场景内所有交通参与者建模为具备决策与交互能力的 AI 智能体，支持无人车在虚拟城市任意起终点通行，其技术栈还可拓展至机器人等更广泛的物理 AI 场景，虚拟路测效率极高，依托真实运营数据形成真实运营与虚拟验证相互促进的闭环，可帮助消化测试成本与部署风险，破解无人驾驶规模化的「
国内三大顶尖大模型负责人乌镇同台对话：开源后如何防范风险
11月3日，2026年世界互联网大会乌镇峰会在浙江桐乡乌镇开幕。此次峰会的主题是“开源开放 共建共享——携手构建网络空间命运共同体”，聚焦人工智能的开源开放。这也是世界互联网大会第一次把“开源”置于主题位置。围绕上述主题，当天下午举行的主论坛专门开设了“人工智能乌镇对话”环节。在世界互联网大会人工智能专业委员会首席主任委员、中国工程院院士、之江实验室主任王坚的主持下，国内三大顶尖开源大模型企业——DeepSeek（深度求索）、阿里千问和MiniMax（稀宇科技）的相关负责人针对开源大模型的热点问题展开交流。“人工智能乌镇对话”现场。澎湃新闻记者 徐益平 图国内大模型企业为何纷纷选择开源过去一年
百度文心开源发布 ERNIE 5.5 Flash Base 高效基座模型，总参数 280B
IT之家 11 月 5 日消息，百度文心大模型今日发布 ERNIE-5.5-Flash-Base，开放 ERNIE 5.5 Flash 预训练终点的权重。这是一个稀疏 MoE 语言模型，总参数 280B，每 token 激活 14B，在 33.5T tokens 上从零完成预训练；最长训练上下文为 128K，微调与推理支持 1M tokens 上下文。本次发布的权重未经中训练与后训练，可作为领域适配、指令微调和强化学习研究的共同起点。官方表示，Base 模型只是起点。经过后训练的 ERNIE 5.5 Flash 将随后推出。ERNIE-5.5-Flash-Base 在 33.5T tokens
AI 翻译、摘要和解读仅用于辅助判断；涉及重要决策时，请回到上方来源核实。