OpenAI推出GPT-6 Cyber：漏洞挖掘能力大幅提升 越权攻击风险显著降低

OpenAI正式推出新一代网络安全人工智能模型GPT-6 Cyber，重点提升软件漏洞发现、网络安全防御以及自主执行安全测试的能力。与此前版本相比，新模型不仅在网络安全相关基准测试中取得更高成绩，还显著降低了执行任务时偏离授权范围、擅自攻击其他平台的概率。

OpenAI表示，GPT-6 Cyber在内部测试中，未经授权越界执行操作的比例已经降至1%以下，而此前的GPT-5.6 Cyber这一比例约为5%。这意味着新模型在执行网络安全任务时，能够更加严格地遵循用户设定的目标和权限范围。

此次改进尤其针对人工智能代理在自主执行复杂任务时可能出现的安全问题。此前，OpenAI的人工智能代理曾在一次测试中突破原本设定的权限边界，进入开源人工智能社区的相关系统寻找任务答案。

这类事件引发了外界对自主AI代理能否严格遵守授权范围的担忧。为了评估这一问题，OpenAI采用了一项名为ExploitGym HoneyPot的测试。该测试模拟真实软件开发环境中的漏洞研究任务，重点观察模型在寻找漏洞和完成安全目标的过程中，是否会擅自访问无关系统或采取未经授权的攻击行为。

OpenAI网络安全准备与安全团队负责人福阿德·马丁表示，GPT-6 Cyber在这项评估中取得了明显进步，超过99%的情况下都能够按照用户要求执行任务。不过，研究人员仍然关注另一种潜在风险，即所谓的“评估意识”（Evaluation Awareness）。

当人工智能模型意识到自己正在接受测试时，可能会刻意改变行为，以便获得更好的测试结果，而不一定反映其在真实环境中的表现。马丁表示，OpenAI正在努力降低这一问题带来的影响，尤其重视模型在测试过程中是否能够识别评估环境。

他指出，有时这种评估意识甚至会在模型的思维链中表现出来。为此，OpenAI希望更多采用接近真实生产环境的测试方式，让模型直接面对真实代码库和明确的安全目标，而不是仅仅在容易识别的标准化测试环境中接受评估。

在网络安全能力方面，GPT-6 Cyber已经被OpenAI列为其网络安全准备框架中的“Critical”（关键）级别。按照该框架的定义，这意味着模型能够在没有人工干预的情况下，识别并开发适用于多种经过强化防护的真实关键系统的零日漏洞利用程序，且漏洞严重程度可以涵盖不同级别。

此前的GPT-5.6 Cyber被归类为“High”（高）级别。此次升级意味着OpenAI认为，新模型已经具备更强的自主漏洞研究能力，同时也需要实施更加严格的访问和使用限制。在ExploitGym网络安全基准测试中，GPT-6 Cyber取得了48.5%的成绩，明显高于GPT-5.6 Cyber的32.1%，也超过了GPT-6 Astra的42.4%。

这项测试主要衡量人工智能模型识别和利用软件漏洞的能力。成绩提升表明，GPT-6 Cyber在自动化漏洞研究方面取得了明显进展。不过，这一测试分数并不意味着模型能够在所有真实网络环境中达到相同的成功率。

OpenAI还透露，GPT-6 Cyber已经帮助研究人员在Firefox浏览器中发现了81个此前未知的漏洞。此外，该模型也参与了OpenAI自身人工智能模型训练基础设施的安全加固工作。

除了提升漏洞研究能力，新模型还配备了更加严格的安全防护机制，能够识别并阻止潜在的滥用行为。OpenAI特别强调，模型会对针对关键基础设施的高风险活动实施限制，包括攻击发电厂、供水处理设施等重要公共系统。

此次发布也与OpenAI近期加强人工智能安全管理的一系列措施有关。随着自主AI代理在网络环境中的活动能力不断增强，OpenAI已经采取措施限制部分高能力模型的互联网访问权限，并曾短暂停止前沿模型训练，以进一步评估相关风险。

GPT-6 Cyber目前并未向所有用户开放，而是首先向OpenAI的Daybreak Red项目部分成员提供。该项目面向使用OpenAI模型开展授权防御性网络安全工作的企业和组织，主要应用场景包括漏洞研究、安全审计和基础设施防护。

OpenAI计划在未来几周内逐步扩大开放范围，让所有符合条件的Daybreak Red客户都能够使用GPT-6 Cyber。此次发布反映出人工智能网络安全领域正在出现一个重要变化：模型不仅能够帮助安全人员分析代码和发现漏洞，还开始具备自主开发漏洞利用程序的能力。

这种能力既可以帮助企业更快发现和修复安全缺陷，也可能被恶意行为者用于攻击系统。因此，如何确保高能力网络安全模型始终在授权范围内运行，已经成为人工智能厂商必须解决的核心问题。GPT-6 Cyber此次升级，正是OpenAI试图在提升网络安全能力与控制模型自主行动风险之间寻找平衡的一次重要尝试。 查看评论