跳到正文
认知
返回AI 简报
AI 简报科技大约 5 小时前
单一来源当前只有一个可用来源,尚未完成多源交叉核验

最高288核的至强6+,为了Agent高密度部署还下了哪些「云功夫」?

作者 | 陈悦琳编辑 | 包永刚 一个智能体能顺利完成任务,不代表成百上千个智能体就能同时高效运行。 对于承载大量智能体任务的云服务器而言,除了提升计算速度,如何在任务集中到来时迅速准备好执行环境、怎样减少暂时闲置的任务对内存资源的占用,也成为亟待解决的问题。

对此,在一年一度的腾讯全球数字生态大会上,英特尔与腾讯云联合发布了基于至强6+处理器的新一代云实例,围绕任务启动效率、内存资源利用率等关键因素进行优化后,其综合性能较上一代提升30%以上。

从此前搭载至强6处理器的S9、S9e、S9pro,到如今的新一代云服务器(CVM),英特尔与腾讯云的合作并未停留在处理器性能的升级上。面对当前模型调用量持续攀升、智能体开始在实际业务中承担更多工作等趋势,CPU如何与操作系统、内存等环节协同,正成为云服务器的新考题——而这也是双方此次联合优化的重点。

288核至强6+处理器,支撑Agent部署还需跨过内存关AI应用正攀升至全新的量级。中国信通院发布的《大模型词元服务性能监测报告(2026年)》显示,2026年6月,国内日均Token消耗量已达到约500万亿,是去年12月的近4倍。

这场有关AI使用的“狂欢”不止发生在中国,还在以Agent这一应用形态席卷全球。在麦肯锡覆盖全球97个国家的调查中,在年营收超过10亿美元的企业受访者中,40%表示其所在企业已在至少一个业务职能中规模化部署Agent,高于2025年的27%。

与传统的一问一答不同,智能体能够将一项任务拆解为多个步骤,反复调用模型、使用工具、执行代码,并根据反馈调整行动。这不仅可能带来更多Token消耗,也让CPU需要承担更多模型推理之外的工作。

据英特尔市场营销集团副总裁、中国区总经理郭威观察,今年上半年行业仍在以1:8、1:4等比例讨论CPU与GPU的配置关系;进入下半年,业界对CPU需求继续增长的预期愈发明显,甚至有人提出未来可能向1:1演进。

在服务器CPU产品布局上,英特尔早在2023年就明确了性能核(P-core)与能效核(E-core)双线并行的方向,以满足不同工作负载对计算性能、核心密度和能效的需求。其中,性能核侧重计算性能,适合对单核性能要求较高的工作负载;

能效核则强调核心密度和能效,更适合大规模并行、高吞吐量的计算任务。 今年6月,英特尔推出采用Intel 18A制程的至强6+处理器(代号Clearwater Forest)。该处理器最高集成288个能效核,支持12条内存通道,DDR5最高传输速率达到8000MT/s。

英特尔还披露,单颗至强6+处理器最高可支持超过1000个智能体稳定运行。 不过,CPU核心数量增加、内存传输速度提高,并不意味着服务器就能同比例承载更多智能体。英特尔技术专家在分析智能体运行负载时发现,CPU使用呈现明显的突发性——智能体在启动执行环境、执行任务时,会产生短时的计算需求高峰,但从单个Agent的运行过程来看,CPU整体利用率总体并不高。

与之形成对比的是内存。英特尔专家同时指出,即使智能体暂时没有计算任务,其运行状态仍可能持续占用内存。其在现场算了一笔账:假设每个Agent分配2GB内存,一份vCPU资源运行4个Agent,就需要8GB内存;

而在一颗256核CPU、12条内存通道、每通道配置128GB内存的示例中,平均每个vCPU对应的物理内存容量只有6GB。 这意味着,当云厂商希望通过资源复用提高智能体部署密度时,内存容量可能比CPU计算能力更早成为限制因素。

因此英特尔与腾讯云还将此次基于至强6+的合作进一步延伸至操作系统内核、资源调度和内存管理等环节,尝试将硬件能力转化为实际业务中的性能提升。 内存要省下来,沙箱也要起得快TrendForce集邦咨询数据显示,2026年第二季度服务器DRAM平均合约价环比上涨53%—58%。

尽管涨势有所放缓,该机构仍预计第三季度价格将继续上涨13%—18%。 面对持续增加的采购成本,对于希望在一台服务器上运行更多Agent任务的云厂商而言,想办法让现有内存容纳更多数据迫在眉睫。

将暂时不需要频繁访问的内存数据压缩存放、等到需要时再解压使用,是提高服务器内存利用率的关键路径之一。但这带来的新问题是,在节省空间的同时,压缩和解压同样需要消耗计算与内存访问资源,尤其在大量任务同时请求解压缩时,额外的时延可能拖慢业务响应。

腾讯云TencentOS Server产品研发团队就曾尝试利用LZ4软件方案进行内存压缩,但发现多路并发解压缩的最大时延长达5毫秒,无法满足实际业务需求。 为解决这一问题,腾讯云转向英特尔至强CPU内置的IAA(内存分析加速器),通过专用硬件执行压缩和解压缩任务,减少对CPU计算资源的占用,并改善处理时延。

在此基础上,腾讯云团队还对IAA驱动进行了适配,简化不必要的调用路径,并测试了多种批量并行配置,最终选择IAA-batch-8方案。 测试结果显示,IAA的优势不仅在于缩短解压缩时间,还体现在高并发下的稳定性。

当并发规模从32路增加至256路,LZ4软件方案的解压缩时延随之上升,而IAA-batch-8的时延基本保持稳定。在更接近实际业务的综合压力测试中,针对2MB内存大页的解压缩,相较软件方案,IAA的平均时延和最大时延分别改善约16倍和9倍,且都处于微秒级别。

除了内存资源外,沙箱创建效率也是影响智能体高密度部署、高并发执行的重要因素。 所谓沙箱(Sandbox),就是为智能体执行代码、调用工具提供的隔离环境,避免不同任务相互干扰。腾讯云CubeSandbox团队指出,在部分大模型强化学习场景中,一轮训练可能需要启动成千上万甚至数十万个沙箱,用于模型评测和推理。

如何在短时间内完成大量执行环境的创建,同时控制资源占用,就成了云厂商需要解决的问题。 然而,不同的隔离技术各有局限:传统容器启动较快,但通常共享服务器的操作系统内核;完整虚拟机拥有独立内核,却需要占用更多资源。

因此,腾讯云CubeSandbox采用微型虚拟机(MicroVM)、快照和资源复用等技术,使多个沙箱能够共享相同的基础资源,仅对发生变化的部分进行独立存储,从而减少重复的内存占用。

在此基础上,英特尔工程师还针对沙箱创建过程中涉及的部分操作系统内核执行路径进行优化,并将相关改进引入腾讯等企业共同发起的开源操作系统OpenCloudOS内核,进一步降低大量沙箱并发启动时的时延。

现场披露的测试数据显示,在满足200毫秒服务等级目标(SLA)的条件下,搭载至强6+处理器的服务器在运行CubeSandbox时,单机可支持350个沙箱并发创建请求,较其他主流测试平台提升约46%。

更值得关注的是负载叠加后的表现。腾讯云实测发现,即便服务器同时承载其他任务、整体负载上升,至强6+仍保持相对稳定的沙箱并发创建能力。 不过,英特尔并不认为现有产品已经能够完全满足智能体的运行需求。

英特尔技术专家在现场表示,智能体应用与软硬件生态之间仍有进一步优化的空间,团队基本每周都会将与合作伙伴开展实际负载优化时积累的经验反馈给后端CPU设计团队,为后续产品的改进提供参考。

双方的合作也将延续至下一代产品。据腾讯云高级产品经理夏士悦透露,腾讯云计划继续与英特尔合作开发基于下一代至强处理器Diamond Rapids的云服务器实例。按照英特尔此前公布的产品规划,Diamond Rapids将采用Intel 18A-P制程,最高集成256个CPU核心,支持16通道内存和128条PCIe 6.0通道,并引入高级性能扩展(APX)及增强型高级矩阵扩展(AMX)等技术。 雷峰网雷峰网

Evidence

来源与证据

单一来源 · 1 个信源

当前仅有一个可用来源,尚未完成多源交叉核验。

发布时间
内容处理
AI 翻译 / 摘要,需结合原文核对
内容有误或来源失效?告诉我们
科技

拿下近亿美元融资后,他们造了个开放动态真实世界的「行动伙伴」

作者|苏子华 编辑|郑玄 博尔赫斯写过一则著名的寓言。一个帝国的制图师们绘制了一张与领土等大的地图,精确到每一寸土地、每一条河流。后代人发现这张地图毫无用处,把它弃置在荒野中,任其腐烂。 真正在一个地方走路的人,靠的从来不是一张一比一的图纸,而是脚底的感觉、眼睛的判断,以及走错了再调整的能力。 具身智能行业正在上演这则寓言的现实版。 过去两年,人形机器人学会了跳舞、翻跟头、弹钢琴。但一个略显尴尬的事实是,这些编排的动作,大多是提前反复排练,且发生在受控的封闭环境里。如果放在现实社会的开放环境中,这些机器人该怎么办,它们到底能帮你干什么? 费莫一科技(PHYMI)试图回答这个命题。成立初期便完成

4单一来源
科技

软硬都有:荣耀研发工程师透露 700 系列新机有好几个之前产品都没有过的全新特性和硬件

IT之家 11 月 3 日消息,荣耀全球首席营销官关海涛今日发文,正式官宣了数字 700 系列手机,号称“荣耀数字系列全面大换新的一代”。荣耀研发工程师 @荣耀曹工 发文透露:“确实有好几个之前在荣耀产品上都没有过的全新的,软的硬的都有。”参考IT之家今日早些时候报道,荣耀 700 元气版、荣耀 700 标准版和荣耀 700 Pro 版已通过 3C 认证,将于本月正式发布。此前爆料称,荣耀 700 系列将延续“大电池 + 中尺寸屏幕 + 窄边框”的组合,全系搭载骁龙系列处理器,且标配背屏。系列新机预计全系配备 2 亿像素主摄,Pro 版在此基础上增加 5000 万像素潜望式长焦镜头。电池最高容

1待确认
科技

DeepSeek发布创作者模式,下一代大模型计划基于华为昇腾芯片预训练

“你的Harness,由你定义。”(Your Harness. You Define It)在发布智能体更新后,DeepSeek再次更新Creator Mode(创作者模式)。11月2日,澎湃新闻记者获悉,DeepSeek Harness发布Creator Mode(创作者模式)演示视频,集中展示通过对话创建插件的能力,并公开七组演示的中英文提示词。据DeepSeek在推送中介绍:“来认识DeepSeek Harness中的‘创造模式’,把想法转化为你能直接使用的插件:可以是设计工作台、沙盒游戏,或是一个3D大模型可视化工具,你会创造出什么?”所谓Harness,是指围绕大语言模型构建的一套软

2单一来源
科技

渣打银行 CEO 温特斯谈 AI 冲击就业:恐惧客观存在,培训是解药

IT之家 11 月 3 日消息,人工智能可能正威胁着数十万个工作岗位,但渣打银行首席执行官想给心怀焦虑的员工传递这样一句话:我们曾经经历过类似的阶段。周二,在香港金融管理局举办的全球金融领袖投资峰会上,被问及人工智能发展带来的影响时,比尔 · 温特斯(Bill Winters)表示:“大家确实存在恐慌情绪。”他说,该行现有员工约 10 万人,和他 11 年前入职时的员工规模持平。“这些年我们通过自动化减掉了大约 2.5 万个岗位,但同时也创造出了其他新岗位。”这家总部位于伦敦的银行曾在 5 月公布计划,随着落地人工智能应用、优化业务流程,到 2030 年将把后台职能岗位削减超过 15%,大约对

4单一来源

每天早上收到这 5 条

免注册,填邮箱即可;每封邮件都能一键退订。

提交即表示同意按隐私说明保存你的邮箱,只用于发送简报。

或用 RSS 订阅

AI 翻译、摘要和解读仅用于辅助判断;涉及重要决策时,请回到上方来源核实。