国产大模型的困难才刚刚开始

本文来自微信公众号： 牌桌 Poker Table ，作者：牌桌编辑部最近有两件事，严重削弱了国产开源模型6月以来的局部竞争优势。一是Anthropic全面加入价格战：Opus-5.5的中等档位，性能高于Kimi-K3和GLM-5.3最高档，价格却低了三分之一。

Haiku-5.5以Flash模型的价格，在Vals的四项长程编码基准上，性价比碾压Kimi-K3。目前国模甜区，只剩下长上下文（单次输入大于10万token）、高缓存命中场景，DeepSeek-V4.1 Flash和GLM-5.3 Flash在这些场景仍保有API单价优势。

二是美国开源模型取得实质突破：Reflection刚发布的开源模型Beam，基准测试成绩已接近GLM-5.2水平，迈过了长程任务可用线。我们认为，国产开源模型接下来将面临三大困难：1、用蒸馏追赶前沿的机会窗口已显著缩窄。

今年夏天国产开源集体迈过可用线，最可能的解释是借助Claude的加密签名漏洞，获得大量高质量轨迹。目前Anthropic和OpenAI已大幅提高防御，复现今夏奇迹可能性很低。2、API价格战目前几乎没有胜算。

Claude的轻量级Haiku模型，长程编码能力和价格都碾压国产开源SOTA，说明闭源前沿的真实性能与开源前沿再次拉开。如果国模无法获得性能突破，Claude即使不再降价，也可以通过性能优势，在API调用上出清国模。

3、主权AI，也就是后训练自部署场景，Beam对国产开源的威胁被严重低估。Beam在大规模强化学习上的资源和投入都远超国产开源，迭代速度、性能上限更高。一旦性能反超，国产开源可能会在美国市场遭遇政策阻力，主权AI场景堪忧。

国产开源模型如果无法取得颠覆性创新，可能唯一的指望是算力硬约束出现松动。下面是具体拆解：蒸馏窗口缩窄自今年6月起，国产开源模型短时间内相继跃迁，集体迈过生产可用线，目前唯一能交叉验证的解释是：Claude的加密签名漏洞暴露了模型的原始思维链，让国产开源第一次获得了大量、完整、高质量的代码轨迹。

只需SFT（监督微调）加少量RL（强化学习），国模就能在短时间内逼近闭源前沿的性能。Claude Opus-4.5在2025年11月迈过长程可用线后，国产开源模型长达半年都没能取得明显突破，就是因为一直没有找到能大量完整提取OpenAI和Anthropic加密思维链的方法。

没有思维链，轨迹就缺了最关键的推理过程，仅靠“黑盒蒸馏”，模型提升的速度会很慢。据今年7月微信群流传的小作文描述，直到4月，才有模型厂商发现了这个漏洞：把Claude返回的加密签名带进另一个请求里回放，就能诱导模型把原始思维链完整复述出来。

该文一度被指造谣，但在Anthropic 9月10日发布的报告和OpenAI 9月30日的公告里，文中描述的核心机制得到了印证。这个蒸馏窗口持续了多久？直到8月10日，MATS、图宾根等机构的论文《Stealing Reasoning Traces from Proprietary LLM APIs》，以Anthropic、OpenAI、Gemini三家API为例，解释了利用加密签名漏洞的完整机制，并在文末表示“所有模型提供商都确认收到了我们的报告，此后我们无法再发动同样的攻击”。

如果从4-5月发现漏洞算起，窗口敞开了约3-4个月。几个月的高质量代码轨迹积累，让国模甚至不用RL也可速成神功。7月小作文提到，有模型厂商拿到轨迹后只做SFT不做RL，作者认为是“退回了原始时代”。

但实际上，早在2025年1月，DeepSeek团队发表的论文就指出，用80万条DeepSeek R1带思维链的完整轨迹给Qwen模型做SFT，即可使模型能力大幅提升。能在SFT基础上再RL，模型性能肯定会更好，但由于RL算力成本高、对infra要求高、还容易训崩，短时间带来的边际收益往往与成本不成比例。

某头部大模型团队就在2025年的论文里自曝过：RL阶段，用GRPO训练时模型崩溃了，退回之前的检查点、调参数、换题目，都没救回来。国内规模最大的基模团队，也曾因为RL进展不顺利发生人事变动。

所以不少国内厂商选择不做或少做RL。SFT的速成功效，解释了为何国模的集体爆发不只是基准测试好看，且确实可用于真实生产。除了API调用量大幅提升外，月之暗面的Kimi模型已经成为Cursor、Harvey等硅谷明星初创用来后训练的基座。

如果Anthropic和OpenAI不堵上漏洞，国模其实可以依靠SFT，在每代闭源旗舰发布后迅速追赶。但以后复制6月奇迹的可能性很低。Anthropic自Fable-5.1后，针对思维链泄露，上线了一系列校验上下文、增加安全护栏的机制。

不过权限管理从来没有百分之百，只要Claude执行多步推理必须保留完整思维链的内在机制不改，套取思维链就不是“能不能”的问题，而只是成本问题，反复尝试总有可能套出来。关键问题是，今年4月研究出的漏洞，Anthropic的反应相当迟缓。

6月12日，Fable-5曾因越狱等安全问题临时下线近20天，其间Anthropic仍然只是沿用旧的反蒸馏手段，大量封禁中国IP。直到7月28日，Anthropic才在Haiku-4.5上堵住回放攻击，8月中旬才陆续上线了对Fable-5思维链提取的补丁。

加密签名漏洞对国产开源的意义是：蒸馏技术获得范式突破，在Anthropic应对迟缓的情况下，国模得以快速、低成本地获取高质量数据。但现在Anthropic也相应转变了范式，不再只是在用户IP上严防死守，而是在防范思维链泄露上不断加码。

除非国产开源在思维链蒸馏上取得另一次范式突破，就算后续还能套出来，就算不计成本，蒸馏速度也会显著放缓。目前后训练Scaling law仍无放缓迹象，RSI还在加速闭源前沿的迭代速度。

当国模追赶到Opus-5.5时，Anthropic已经领先了好几个大版本，蒸馏的价值就大打折扣。我们询问了不少从业者，大家对闭源在思维链泄露上的警惕性体感一致：现在有些漏洞，从发现到被封堵，可能只有几个小时。

理论上，国模也可以不依靠蒸馏+SFT，用更大参数模型+RL来追赶，但后者对算力的要求指数级上升。五源资本合伙人孟醒的看法是：中美预训练的方法论已经接近，真正难补的是大规模RL——一次Big Run要同时占用上万张卡、连续跑上千步，这种经验只能靠真跑出来。

目前，国内正规渠道能用到的英伟达卡多为几年前进入的H800和H20。今年初一度传出H200可以进入，但据《金融时报》报道，国内模型厂商实际拿到的H200数量很少，字节和腾讯各拿1万张，智谱、月之暗面、DeepSeek拿到多少卡未见公开报道。

国模的算力差距，最直观的对比是DeepSeek和美国的Reflection。梁文锋在5月的投资人交流会上表示，当时DeepSeek的算力储备，一共2万张H等效。而刚刚发布的模型Beam，用来RL的算力是10500张GB300。

GB300的单卡算力大概是H100的2.5倍。也就是说，一家美国Neolab做RL的算力就超过了梁文锋的全部家底。彭博9月报道，DeepSeek计划在乌兰察布部署至少16万颗昇腾950DT，但这批卡主要用于推理，训练仍要靠英伟达；

受产能限制，第一批容量至少要等到2027年底才能上线；到时候国模面对的是已经用英伟达Vera Rubin训练的闭源模型。按FP8精度计算，单颗Rubin的训练算力约为950DT的17.5倍。

据摩根士丹利预测，到2027年，Rubin出货约592万颗，Rubin Ultra约104万颗，合计近700万颗；Rubin NVL72机柜可达9万台，成为英伟达出货主力。API价格战几无胜算10月8日，Anthropic发布Claude Haiku-5.5。

当日，港股两家大模型公司，股价分别下跌7.61%、13.74%。不同模型的Token消耗量差别很大，用Token价格衡量性价比已经过时，对比单任务支出更加合理。下图是第三方平台Vals AI所做的模型性能和单任务支出评测，可以直观感受国产开源前沿模型与Claude 5.5家族的差距。

在图中比较的四项长程编码基准里，Claude家族最弱的Haiku-5.5得分均高于Kimi-K3，每次测试成本也都更低。四项中，Haiku唯一落后GLM-5.3的是Terminal-Bench 4.0（35.35%对38.89%），但这一项GLM的单任务成本约是Haiku的3.1倍（9.37对3.05美元）。

国模目前唯一保持性价比优势的是Flash级别的轻量级模型，Haiku-5.5在单次大于10万token输入场景下，价格为DeepSeek-V4.1 Flash的10倍。但Flash模型能捕获的经济价值有限。

美国知名开发者平台Vercel AI 10月9日的数据显示：DeepSeek-V4.1 Flash占全站Token消耗约26.49%，消费金额比例却只有约2.1%。实际上，DeepSeek-V4.1 Flash在长上下文、高缓存命中场景的价格优势是否能保住，也要打一个问号。

Haiku-5.5发布时Anthropic明确表示，之所以在单次输入超过10万token后价格提至5倍，是因为上一版Haiku模型90%的任务都没有达到这个单次输入量。Anthropic是觉得该场景价值不大而无所谓，还是在轻量模型上确实打不过DeepSeek的成本，目前并不确定。

以上还只是静态比较。动态来看，Haiku在长程编码上性价比明显超过开源前沿，上一次还是去年10月对比智谱的GLM-4.6。Haiku是Anthropic内部最强模型的映射。Haiku的性能，反映出闭源SOTA和开源SOTA的差距再次显著拉大。

如果差距进一步拉开，Haiku就算不降价，也会进一步挤压国产Flash模型的生存空间。性能差不多，比价才有意义。大模型不存在品牌忠诚度。目前最大的指望，是近期将要发布的Kimi-K3.1性能反超Haiku，否则国产模型在API调用上被出清就是迫在眉睫的问题。

主权AI可能被Reflection截胡国产开源受限于算力硬约束，在API战场和闭源硬碰硬本就不明智。开源模型真正的商业化空间，是闭源无法染指的主权AI。已经有多项研究证实，就算不考虑数据安全，使用企业私有数据对开源模型做后训练，实用性也远超调用闭源旗舰API。

例如今年6月，桥水旗下AIA Labs与Thinking Machines Lab合作，利用内部投资业务数据，对阿里开源模型Qwen3-235B进行强化学习和在线策略蒸馏。经过训练，模型在六项金融信息筛选任务上的平均准确率达到84.7%，超过经过专家提示词优化的最强闭源模型GPT-5.5的78.2%，单任务推理成本，闭源前沿模型是开源模型的13.8倍。

主权AI现在还没有释放出明显的经济价值，是因为AI在美国企业端的真实渗透率其实很低。A16Z数据显示，标普500中只有约2%的公司披露了长期跟踪的AI效果指标。也就是说，主权AI的分母端企业AI，目前仍是一个非常早期的市场。

AI在多数企业的场景仍是员工生产力工具，甚至还没有进入到经营管理的SaaS层。但这正说明，国产开源模型在主权AI上有巨大的商业化潜力。一个迹象是，9月以来，英伟达、微软、Meta、Palantir纷纷在企业内部限制员工使用Claude，尤其是收紧对旗舰模型的使用，Palantir要求Anthropic承诺不留存其数据。

AI时代，数据是企业最大资产，用开源模型把数据严格控制在本地，是企业端AI注定的未来。国产开源就算在API调用上被闭源出清，只要能熬到主权AI全面扩散的那天，在全球就有足够的市场空间。

但10月5日Reflection AI推出的Beam，成为首个基准测试达到长程可用线的美国开源模型，让局面松动了。Reflection官方公布，Beam基准成绩接近GLM-5.2。

国内媒体报道时，角度基本是“Beam与智谱上一代模型还有差距”。我们认为，Reflection的实力被国内严重低估。一旦Beam的性能被第三方证实，国模在主权AI场景的未来将受到很大威胁。

首先，Beam有别于暴力SFT路线，性能主要靠大规模RL提升。Beam的报告详细说明了RL的强度：用时4个星期，投入10500张GB300，构建了一个包含近百万个环境的数据集，生成超1亿条rollout，训练和评分使用了约13亿个沙箱。

尤其是运行期间，共处理了71起推理故障，且未终止训练作业。推理能力平均在8分钟内恢复，损失的容量仅占GPU服务总时长的0.02%。Beam报告中有一张图，画出了模型性能随Rollout次数的增长曲线。

至训练结束，曲线仍保持一定斜率，显示RL对模型性能的提升仍有较大空间。国产开源此前依赖的SFT，虽能速成，但性能上限永远无法超过教师模型。只有RL才有不断突破上限的可能。但正如前文所述，国模受算力硬约束，大规模的RL难度远高于Reflection。

目前闭源旗舰的蒸馏窗口显著缩窄，国模相对于Reflection的数据优势已经不多，只要Reflection在RL上投入不变，性能反超可能性很高。第二，国产开源此前已遭遇被美国下架风险，能够暂保安全，只是因为美国同行不行。

今年7月21日，Kimi-K3性能逼近闭源前沿，美国政府开始重新讨论限制中国AI模型；财政部长贝森特公开表示，要检查中国模型是否涉及美国知识产权，并考虑制裁。贝森特的表态激起了硅谷的强烈反弹。

7月22日，美国小科技协会（Little Tech Association）发出179位创始人和企业联署的公开信，要求保留使用包括中国模型在内的开放权重模型的权利。7月24日，黄仁勋领衔、Marc Andreessen等硅谷大佬联合发布的公开信《开放权重与美国AI领导力》，反对仓促限制开放权重模型，直接将使用中国开源与美国的AI竞争力挂钩，这才让美国政府暂时放弃制裁打算。

参与联名信的大佬们各有各的算盘：黄仁勋最怕闭源全面占领市场，影响英伟达的议价权；以微软纳德拉为代表的云厂商，也不希望闭源一统天下，让云平台沦为渠道商。A16Z和YC投资了大量AI初创，他们多数都要用中国开源当基座模型搞开发，禁止中国开源可能让这两个明星机构收不回投资。

但这是因为当时美国开源阵营没有一个能打：Mira Murati领衔的Thinking Machines Lab，联创全是前OpenAI核心研究员，做出的开源模型inkling在AA的综合分只有二十来分；

黄仁勋年初宣布要投几百亿美元研发大模型，Nemotron至今望不到长程可用线。孟醒的评价更直接：“上一波在美国融到大钱的顶级Neo lab们，没有一家做出来。”所以Beam的出现才迅速上了头条。

如果Beam的性能赶上了中国开源前沿，黄仁勋们就没有理由让贝森特放弃制裁。查看Reflection的融资记录可知，它的投资人既有黄仁勋，也有特朗普长子参与的机构1789 Capital。

中国开源如果要与Reflection竞争，动的就是特朗普的利益。曙光在哪里蒸馏闭源思维链+SFT的速成路线，并非国模主观投机取巧，而是算力硬约束下的无可奈何。很多人期待国模用算法、架构上的创新来摆脱算力的桎梏，但早在2017年，Dario Amodei就提出了“大团算力假说”。

他认为产生智能最重要的，是“提供一大团只预设了最低限度结构的计算能力，再让它与丰富的环境互动”。至于模型的算法、架构，他用雪花打了一个比方：雪花复杂精密的分形结构，不可能靠人拼出来，而是靠物理定律（对应模型训练目标）、原材料（对应算力）、空间（对应参数）、气压和温湿度（对应归一化和形状）以及足够长的时间。

“想拿一小块一小块的冰拼出一片雪花，基本没有希望。”2年后，Richard Sutton在那篇影响了所有AI从业者的《苦涩的教训》开头写道：“从人工智能七十年的研究历程中，我们得到的最重要的教训是：能够充分利用算力的通用方法，最终往往是最有效的，而且其优势非常显著。

”7年后，面对投资人，梁文锋说：“我们跟美国的区别，我认为就是资源上的区别……这个问题目前基本上无解。”国模的惊人之处，在于算力硬约束下，仍然在2025年初和2026年中顽强地取得了两次突破。

但物理规律是刚性的，第三次的突破会不会发生，什么时候才会发生，目前没人有答案。国庆期间的一则消息，或许在重重密云中投进来一道曙光：据英国《金融时报》，腾讯与甲骨文签订一项五年期租赁协议，覆盖东南亚多个数据中心，获得约10万块先进AI芯片的算力使用权。希望DeepSeek也能用上。