跳到正文
认知
返回AI 简报
AI 简报科技大约 12 小时前
单一来源当前只有一个可用来源,尚未完成多源交叉核验

最高288核的至强6+,为了Agent高密度部署还下了哪些「云功夫」?

作者 | 陈悦琳编辑 | 包永刚 一个智能体能顺利完成任务,不代表成百上千个智能体就能同时高效运行。 对于承载大量智能体任务的云服务器而言,除了提升计算速度,如何在任务集中到来时迅速准备好执行环境、怎样减少暂时闲置的任务对内存资源的占用,也成为亟待解决的问题。

对此,在一年一度的腾讯全球数字生态大会上,英特尔与腾讯云联合发布了基于至强6+处理器的新一代云实例,围绕任务启动效率、内存资源利用率等关键因素进行优化后,其综合性能较上一代提升30%以上。

从此前搭载至强6处理器的S9、S9e、S9pro,到如今的新一代云服务器(CVM),英特尔与腾讯云的合作并未停留在处理器性能的升级上。面对当前模型调用量持续攀升、智能体开始在实际业务中承担更多工作等趋势,CPU如何与操作系统、内存等环节协同,正成为云服务器的新考题——而这也是双方此次联合优化的重点。

288核至强6+处理器,支撑Agent部署还需跨过内存关AI应用正攀升至全新的量级。中国信通院发布的《大模型词元服务性能监测报告(2026年)》显示,2026年6月,国内日均Token消耗量已达到约500万亿,是去年12月的近4倍。

这场有关AI使用的“狂欢”不止发生在中国,还在以Agent这一应用形态席卷全球。在麦肯锡覆盖全球97个国家的调查中,在年营收超过10亿美元的企业受访者中,40%表示其所在企业已在至少一个业务职能中规模化部署Agent,高于2025年的27%。

与传统的一问一答不同,智能体能够将一项任务拆解为多个步骤,反复调用模型、使用工具、执行代码,并根据反馈调整行动。这不仅可能带来更多Token消耗,也让CPU需要承担更多模型推理之外的工作。

据英特尔市场营销集团副总裁、中国区总经理郭威观察,今年上半年行业仍在以1:8、1:4等比例讨论CPU与GPU的配置关系;进入下半年,业界对CPU需求继续增长的预期愈发明显,甚至有人提出未来可能向1:1演进。

在服务器CPU产品布局上,英特尔早在2023年就明确了性能核(P-core)与能效核(E-core)双线并行的方向,以满足不同工作负载对计算性能、核心密度和能效的需求。其中,性能核侧重计算性能,适合对单核性能要求较高的工作负载;

能效核则强调核心密度和能效,更适合大规模并行、高吞吐量的计算任务。 今年6月,英特尔推出采用Intel 18A制程的至强6+处理器(代号Clearwater Forest)。该处理器最高集成288个能效核,支持12条内存通道,DDR5最高传输速率达到8000MT/s。

英特尔还披露,单颗至强6+处理器最高可支持超过1000个智能体稳定运行。 不过,CPU核心数量增加、内存传输速度提高,并不意味着服务器就能同比例承载更多智能体。英特尔技术专家在分析智能体运行负载时发现,CPU使用呈现明显的突发性——智能体在启动执行环境、执行任务时,会产生短时的计算需求高峰,但从单个Agent的运行过程来看,CPU整体利用率总体并不高。

与之形成对比的是内存。英特尔专家同时指出,即使智能体暂时没有计算任务,其运行状态仍可能持续占用内存。其在现场算了一笔账:假设每个Agent分配2GB内存,一份vCPU资源运行4个Agent,就需要8GB内存;

而在一颗256核CPU、12条内存通道、每通道配置128GB内存的示例中,平均每个vCPU对应的物理内存容量只有6GB。 这意味着,当云厂商希望通过资源复用提高智能体部署密度时,内存容量可能比CPU计算能力更早成为限制因素。

因此英特尔与腾讯云还将此次基于至强6+的合作进一步延伸至操作系统内核、资源调度和内存管理等环节,尝试将硬件能力转化为实际业务中的性能提升。 内存要省下来,沙箱也要起得快TrendForce集邦咨询数据显示,2026年第二季度服务器DRAM平均合约价环比上涨53%—58%。

尽管涨势有所放缓,该机构仍预计第三季度价格将继续上涨13%—18%。 面对持续增加的采购成本,对于希望在一台服务器上运行更多Agent任务的云厂商而言,想办法让现有内存容纳更多数据迫在眉睫。

将暂时不需要频繁访问的内存数据压缩存放、等到需要时再解压使用,是提高服务器内存利用率的关键路径之一。但这带来的新问题是,在节省空间的同时,压缩和解压同样需要消耗计算与内存访问资源,尤其在大量任务同时请求解压缩时,额外的时延可能拖慢业务响应。

腾讯云TencentOS Server产品研发团队就曾尝试利用LZ4软件方案进行内存压缩,但发现多路并发解压缩的最大时延长达5毫秒,无法满足实际业务需求。 为解决这一问题,腾讯云转向英特尔至强CPU内置的IAA(内存分析加速器),通过专用硬件执行压缩和解压缩任务,减少对CPU计算资源的占用,并改善处理时延。

在此基础上,腾讯云团队还对IAA驱动进行了适配,简化不必要的调用路径,并测试了多种批量并行配置,最终选择IAA-batch-8方案。 测试结果显示,IAA的优势不仅在于缩短解压缩时间,还体现在高并发下的稳定性。

当并发规模从32路增加至256路,LZ4软件方案的解压缩时延随之上升,而IAA-batch-8的时延基本保持稳定。在更接近实际业务的综合压力测试中,针对2MB内存大页的解压缩,相较软件方案,IAA的平均时延和最大时延分别改善约16倍和9倍,且都处于微秒级别。

除了内存资源外,沙箱创建效率也是影响智能体高密度部署、高并发执行的重要因素。 所谓沙箱(Sandbox),就是为智能体执行代码、调用工具提供的隔离环境,避免不同任务相互干扰。腾讯云CubeSandbox团队指出,在部分大模型强化学习场景中,一轮训练可能需要启动成千上万甚至数十万个沙箱,用于模型评测和推理。

如何在短时间内完成大量执行环境的创建,同时控制资源占用,就成了云厂商需要解决的问题。 然而,不同的隔离技术各有局限:传统容器启动较快,但通常共享服务器的操作系统内核;完整虚拟机拥有独立内核,却需要占用更多资源。

因此,腾讯云CubeSandbox采用微型虚拟机(MicroVM)、快照和资源复用等技术,使多个沙箱能够共享相同的基础资源,仅对发生变化的部分进行独立存储,从而减少重复的内存占用。

在此基础上,英特尔工程师还针对沙箱创建过程中涉及的部分操作系统内核执行路径进行优化,并将相关改进引入腾讯等企业共同发起的开源操作系统OpenCloudOS内核,进一步降低大量沙箱并发启动时的时延。

现场披露的测试数据显示,在满足200毫秒服务等级目标(SLA)的条件下,搭载至强6+处理器的服务器在运行CubeSandbox时,单机可支持350个沙箱并发创建请求,较其他主流测试平台提升约46%。

更值得关注的是负载叠加后的表现。腾讯云实测发现,即便服务器同时承载其他任务、整体负载上升,至强6+仍保持相对稳定的沙箱并发创建能力。 不过,英特尔并不认为现有产品已经能够完全满足智能体的运行需求。

英特尔技术专家在现场表示,智能体应用与软硬件生态之间仍有进一步优化的空间,团队基本每周都会将与合作伙伴开展实际负载优化时积累的经验反馈给后端CPU设计团队,为后续产品的改进提供参考。

双方的合作也将延续至下一代产品。据腾讯云高级产品经理夏士悦透露,腾讯云计划继续与英特尔合作开发基于下一代至强处理器Diamond Rapids的云服务器实例。按照英特尔此前公布的产品规划,Diamond Rapids将采用Intel 18A-P制程,最高集成256个CPU核心,支持16通道内存和128条PCIe 6.0通道,并引入高级性能扩展(APX)及增强型高级矩阵扩展(AMX)等技术。 雷峰网雷峰网

Evidence

来源与证据

单一来源 · 1 个信源

当前仅有一个可用来源,尚未完成多源交叉核验。

发布时间
内容处理
AI 翻译 / 摘要,需结合原文核对
内容有误或来源失效?告诉我们
科技

百度发布 Apollo World 世界模型,助力无人驾驶规模化落地

百度发布 Apollo World 世界模型,助力无人驾驶规模化落地 4 小时前 百度 Apollo 在相关专场上首次披露面向物理 AI 的智能体驱动全模态世界模型 Apollo World,提出世界模型「2 + 3」判断标准,该模型已用于萝卜快跑全球化测试与验证,助力无人驾驶规模化落地。Apollo World 将虚拟场景内所有交通参与者建模为具备决策与交互能力的 AI 智能体,支持无人车在虚拟城市任意起终点通行,其技术栈还可拓展至机器人等更广泛的物理 AI 场景,虚拟路测效率极高,依托真实运营数据形成真实运营与虚拟验证相互促进的闭环,可帮助消化测试成本与部署风险,破解无人驾驶规模化的「

2单一来源
科技

OpenAI披露ChatGPT最新增长数据:每周活跃用户达12亿

OpenAI消费者产品负责人Adam Fry近日在接受科技媒体Big Technology采访时披露了ChatGPT的一系列最新运营数据。根据他的介绍,ChatGPT每周活跃用户已经达到12亿,过去两个月新增了约2亿用户;其搜索类查询量目前约为Google的五分之一。此外,ChatGPT每周生成的图片达到15亿张,语音输入和语音对话的合计周活跃用户也已经达到2.5亿。这些数据是在11月2日于纽约举行的一场OpenAI活动期间披露的。Adam Fry表示,ChatGPT的增长速度正在进一步加快。按照他的说法,ChatGPT在过去60天里,周活跃用户从10亿增长至12亿,相当于每个月增加约1亿用户

4单一来源
科技

国内三大顶尖大模型负责人乌镇同台对话:开源后如何防范风险

11月3日,2026年世界互联网大会乌镇峰会在浙江桐乡乌镇开幕。此次峰会的主题是“开源开放 共建共享——携手构建网络空间命运共同体”,聚焦人工智能的开源开放。这也是世界互联网大会第一次把“开源”置于主题位置。围绕上述主题,当天下午举行的主论坛专门开设了“人工智能乌镇对话”环节。在世界互联网大会人工智能专业委员会首席主任委员、中国工程院院士、之江实验室主任王坚的主持下,国内三大顶尖开源大模型企业——DeepSeek(深度求索)、阿里千问和MiniMax(稀宇科技)的相关负责人针对开源大模型的热点问题展开交流。“人工智能乌镇对话”现场。澎湃新闻记者 徐益平 图国内大模型企业为何纷纷选择开源过去一年

6单一来源
科技

苹果向所有开发者开放 Siri 人工智能预览版

苹果向所有开发者开放 Siri 人工智能预览版。

1单一来源

每天早上收到这 5 条

免注册,填邮箱即可;每封邮件都能一键退订。

提交即表示同意按隐私说明保存你的邮箱,只用于发送简报。

或用 RSS 订阅

AI 翻译、摘要和解读仅用于辅助判断;涉及重要决策时,请回到上方来源核实。