跳到正文
认知
返回AI 简报
AI 简报科技大约 2 小时前2
单一来源当前只有一个可用来源,尚未完成多源交叉核验

国内三大顶尖大模型负责人乌镇同台对话:开源后如何防范风险

11月3日,2026年世界互联网大会乌镇峰会在浙江桐乡乌镇开幕。此次峰会的主题是“开源开放 共建共享——携手构建网络空间命运共同体”,聚焦人工智能的开源开放。这也是世界互联网大会第一次把“开源”置于主题位置。

围绕上述主题,当天下午举行的主论坛专门开设了“人工智能乌镇对话”环节。在世界互联网大会人工智能专业委员会首席主任委员、中国工程院院士、之江实验室主任王坚的主持下,国内三大顶尖开源大模型企业——DeepSeek(深度求索)、阿里千问和MiniMax(稀宇科技)的相关负责人针对开源大模型的热点问题展开交流。

“人工智能乌镇对话”现场。澎湃新闻记者 徐益平 图国内大模型企业为何纷纷选择开源过去一年,中国科技企业继续加大模型开源和生态开放的力度,开源模型下载量、衍生模型数等关键指标保持领先,成为当前全球开源智能的引领者。

在全球模型聚合平台OpenRouter最新一周AI大模型调用量周榜(10月19日至25日)上,排名第一和第二的均是DeepSeek两个版本的模型,第三名归属MiniMax的模型。中国的大模型企业为何纷纷选择开源?

“很多人问,DeepSeek为什么要把辛辛苦苦研究而出的成果开源出来?其实答案很简单,就是为了实现AGI(通用人工智能)。”DeepSeek研究工程师高熙说。据了解,今年以来,为推进AGI,DeepSeek动作频频,比如最近,其将多个团队整合成“产品部”,负责公司所有的产品、设计和研发工作。

“AI的发展一年比一年快,对大模型企业来说,在人工智能竞赛中,对手不是其他公司,而是时间。”高熙表示,在模型研发过程中,通过构建一些技术壁垒阻拦竞争对手,短时间确实可以挡住对手的追赶,但放宽时间视野看,却阻挡不了AGI的到来,“所以为了AGI更快到来,开源是必然的选择,吸引更多有能力、有资源、有追求的同行一起参与创新,在我们的基础上做出更好的技术突破和更好的模型”。

对高熙的观点,阿里巴巴千问大语言模型项目负责人刘大一恒也有同感,表示“千问也是AGI路上的追光者”。刘大一恒提到,3年前,阿里千问开源了第一代模型,自此以后,又陆续开源了460多款模型,全球累计下载量突破40亿次,衍生模型超过33万个。

他认为,开源有两大重要意义,一是加速了AI的创新,二是实现了AI的普惠。“如果没有开源,大模型的核心技术只掌握在少数企业手里,而开源能让全球的开发者贡献技术、共同创新,实现去中心化或者分布式创新,改变了整个AI创新的范式。

”他说,开源开放不仅仅是开放了模型的使用权,也是开放了全球每一个人参与创造AI的权利。“对处在人工智能赛道的公司来说,其实都非常希望通过开源,给行业、给社会贡献差异化的价值。”MiniMax首席架构师、开放平台负责人冯雯表示,以MiniMax为例,除了开源不同模态的模型,还会从工程实践角度分享研发过程中的经验,包括遇到的问题、开展的实验、相关数据,以及对工具所做的改造等。

开源后如何防范安全风险?随着开源模型能力越来越强、覆盖用户越来越广,其风险及安全治理问题也成为无法回避的挑战。刘大一恒表示,相比闭源模型,开源模型存在两个特殊的安全短板。第一是不可撤回性,模型一旦开源就会被大量传播,如果模型有问题,无法像闭源模型可以随时修复。

第二是开源模型没有外生的护栏,安全很依赖模型本身的内置安全能力,而第三方开发者可以去使用模型,也可以去找方法绕开它的安全护栏,让它变得不够安全。他认为,仅仅靠对模型做限制,很难从根本上解决治理问题,还需更多的法律法规、行业规范和配套基础设施共同发力,防范安全风险。

“但从另一方来说,开源对安全也是有帮助的。”刘大一恒说,因为开源模型更“白盒化”,会有更多学者基于开源模型研究模型安全。同时,当模型的网络攻击能力越来越强大,开源模型的防御能力也可能越来越强大,在很多场景下可以通过部署开源模型去增加防御能力。

“两三年前我们会认为一个1.5B这种很小规模尺寸的模型做不了什么事情,但在新的后训练技术面前,它可以去解锁这个模型的能力。”刘大一恒举例,“我们现在对这些模型能力的判断有可能是低估的。

”“所以,开源和安全不是简单的对立关系,治理才是那个需要被认真对待的变量。”他说。冯雯认为,把大模型用到具体行业或者落地过程中,会发现开源的模型反倒是更自主可控的选择,“因为大家会基于更白盒和更开源的模型,做一些后训练或者微调等私有化部署,把这个开源模型变成自有模型”。

“因此,当模型开源之后,全球大量使用者都会结合自身企业、行业的场景,共同思考如何安全落地,包括私有化部署、上下游企业协同等层面。”她说。高熙则表示,做开源,确实有可能会放大人工智能导致的安全风险,“所以对DeepSeek来说,有责任去避免安全问题被扩大”。他透露,目前,DeepSeek正致力于研究解决这些问题。

Evidence

来源与证据

单一来源 · 1 个信源

当前仅有一个可用来源,尚未完成多源交叉核验。

发布时间
内容处理
AI 翻译 / 摘要,需结合原文核对
内容有误或来源失效?告诉我们
科技

软硬都有:荣耀研发工程师透露 700 系列新机有好几个之前产品都没有过的全新特性和硬件

IT之家 11 月 3 日消息,荣耀全球首席营销官关海涛今日发文,正式官宣了数字 700 系列手机,号称“荣耀数字系列全面大换新的一代”。荣耀研发工程师 @荣耀曹工 发文透露:“确实有好几个之前在荣耀产品上都没有过的全新的,软的硬的都有。”参考IT之家今日早些时候报道,荣耀 700 元气版、荣耀 700 标准版和荣耀 700 Pro 版已通过 3C 认证,将于本月正式发布。此前爆料称,荣耀 700 系列将延续“大电池 + 中尺寸屏幕 + 窄边框”的组合,全系搭载骁龙系列处理器,且标配背屏。系列新机预计全系配备 2 亿像素主摄,Pro 版在此基础上增加 5000 万像素潜望式长焦镜头。电池最高容

3待确认
科技

DeepSeek发布创作者模式,下一代大模型计划基于华为昇腾芯片预训练

“你的Harness,由你定义。”(Your Harness. You Define It)在发布智能体更新后,DeepSeek再次更新Creator Mode(创作者模式)。11月2日,澎湃新闻记者获悉,DeepSeek Harness发布Creator Mode(创作者模式)演示视频,集中展示通过对话创建插件的能力,并公开七组演示的中英文提示词。据DeepSeek在推送中介绍:“来认识DeepSeek Harness中的‘创造模式’,把想法转化为你能直接使用的插件:可以是设计工作台、沙盒游戏,或是一个3D大模型可视化工具,你会创造出什么?”所谓Harness,是指围绕大语言模型构建的一套软

4单一来源
科技

拿下近亿美元融资后,他们造了个开放动态真实世界的「行动伙伴」

作者|苏子华 编辑|郑玄 博尔赫斯写过一则著名的寓言。一个帝国的制图师们绘制了一张与领土等大的地图,精确到每一寸土地、每一条河流。后代人发现这张地图毫无用处,把它弃置在荒野中,任其腐烂。 真正在一个地方走路的人,靠的从来不是一张一比一的图纸,而是脚底的感觉、眼睛的判断,以及走错了再调整的能力。 具身智能行业正在上演这则寓言的现实版。 过去两年,人形机器人学会了跳舞、翻跟头、弹钢琴。但一个略显尴尬的事实是,这些编排的动作,大多是提前反复排练,且发生在受控的封闭环境里。如果放在现实社会的开放环境中,这些机器人该怎么办,它们到底能帮你干什么? 费莫一科技(PHYMI)试图回答这个命题。成立初期便完成

4单一来源
科技

渣打银行 CEO 温特斯谈 AI 冲击就业:恐惧客观存在,培训是解药

IT之家 11 月 3 日消息,人工智能可能正威胁着数十万个工作岗位,但渣打银行首席执行官想给心怀焦虑的员工传递这样一句话:我们曾经经历过类似的阶段。周二,在香港金融管理局举办的全球金融领袖投资峰会上,被问及人工智能发展带来的影响时,比尔 · 温特斯(Bill Winters)表示:“大家确实存在恐慌情绪。”他说,该行现有员工约 10 万人,和他 11 年前入职时的员工规模持平。“这些年我们通过自动化减掉了大约 2.5 万个岗位,但同时也创造出了其他新岗位。”这家总部位于伦敦的银行曾在 5 月公布计划,随着落地人工智能应用、优化业务流程,到 2030 年将把后台职能岗位削减超过 15%,大约对

5单一来源

每天早上收到这 5 条

免注册,填邮箱即可;每封邮件都能一键退订。

提交即表示同意按隐私说明保存你的邮箱,只用于发送简报。

或用 RSS 订阅

AI 翻译、摘要和解读仅用于辅助判断;涉及重要决策时,请回到上方来源核实。