华为腾讯等20机构发布AI代理自律公约 防范越权操作等风险

中国信息通信研究院联合华为、腾讯、阿里巴巴等20家机构，发布人工智能（AI）代理（中国称AI智能体）发展自律公约，承诺加强防范AI代理越权操作、隐私泄露及行为失控等安全风险。中国信通院星期三（11月4日）宣布，当天在2026年世界互联网大会乌镇峰会举行的智能体互信互联互操作全球合作创新论坛上，正式发布《智能体发展自律公约》，由中国信通院、华为、腾讯、蚂蚁集团、阿里巴巴、抖音等20家单位联合发起。

公约提出八项自律措施，涵盖AI代理信任体系、互联基础设施、互操作能力、安全防护、治理机制、用户权益保护，以及推动AI代理技术普及和应用等方面。在安全防护方面，公约提出建立风险评估、运行监测、行为管控和异常熔断等机制，防范AI代理因技术缺陷或外部攻击，出现越权操作、隐私泄露甚至行为失控等问题。

公约也要求确保AI代理行为遵守法律法规及公序良俗，共同抵制利用AI代理实施算法压榨、从事网络黑灰产等行为，推动建立健康有序的行业发展环境。 演算法压榨是指平台或企业利用AI及大数据，对劳动者或用户进行极致的监控、数据分析与行为制约，以榨取最大化利润或劳动价值的现象，例如AI监控快递人员或网约车司机。

黑灰产是指用AI从事违法犯罪（黑产）如网络诈骗，或游走在法律边缘（灰产）如AI抢票或流量造假等，以谋取暴利的产业链。在用户权益方面，公约强调保障用户的知情权、选择权，以及对重要事项的最终控制权，防范个人信息滥用、过度迎合和认知操纵，并加强对未成年人、老年人等群体的保护。

此外，公约也提出推动不同企业的AI代理互联互通，通过发展互联技术标准、开放接口，以及明确任务授权和责任划分等方式，降低不同AI代理之间的协作障碍，提升处理复杂任务的能力。