拥抱AI的同时，如何守好个人信息边界

AI时代，个人信息被滥用的风险进一步扩大，仅今年前9个月，全国AI换脸诈骗侦破逾300起、涉案超5亿。此时，个人信息保护不仅要防信息被非法收集，更要堵住信息被随意调用、合成篡改、滥用牟利的漏洞。

面对新风险，上海选择了“两手抓”：一手抓治理，重点查AI生成合成中的个人信息滥用；一手抓规范，把保护要求拆成企业训练、生成、传播各环节可执行的动作。从司法个案到专项治理，再到企业引导，个人信息安全的“边界”便在一次次实践中被逐步校准。

一、从被“克隆”的声音，看清AI的边界上网发现自己的声音被AI复制，未经同意就被用于商业推广，该怎么办？这件事就发生在了配音演员王女士身上。她发现，一家企业在互联网推广活动中使用了与自己高度相似的声音，而她本人从未做出任何授权。

2026年9月，上海市第一中级人民法院二审最终认定，涉案企业未经许可，利用AI模仿其声音特征并用于商业活动，构成侵权，判令其赔偿经济损失5万元。这也是上海首例人工智能合成语音引发的自然人声音权益保护纠纷案。

事实上，类似的风险正在不断延伸。在网络平台上，AI换脸、拟声可能被用于假冒他人、编造虚假信息，甚至被包装成商品或服务牟利；一些违规虚假内容还可能借助批量生产和快速传播，混淆真实与虚构，损害个人名誉和人格尊严。

甚至还有未成年人形象遭到恶搞，围绕儿童照片进行夸张加工、恶意改造。这正是上海开展“清朗·整治AI应用乱象”专项行动的现实背景。2026年4月下旬以来，上海围绕大模型备案登记、训练语料安全、AI数据投毒、生成合成内容标识等问题开展第一阶段治理，强化了技术源头监管；

随后又将治理延伸至AI生成虚假信息、仿冒他人、传播低俗暴力内容、侵害未成年人权益以及利用AI从事网络水军活动等问题。未成年人保护也是专项治理的重要着力点。暑假期间，上海市委网信办指导小红书、哔哩哔哩、千问等重点平台，围绕未成年人用网特点和AI生成合成信息传播全流程开展集中治理，督促平台完善内容审核、风险识别和举报处置机制，防范AI技术滥用对未成年人权益的侵害。

专项行动取得了阶段性成效。今年上半年，上海指导17家重点网站平台开展自查自纠，累计清理拦截去除AI标识的工具和教程、未经授权换脸拟声、AI制谣传谣及低俗内容等违法违规信息487万余条，处置违规账号1.8万余个，下架违规智能体1.4万余个。

这些数字呈现了集中清查的力度，也说明治理对象不只是发布违规内容的账号，还包括提供违规功能的AI产品、缺乏安全审核能力的平台，以及存在问题的训练数据和开源模型。

二从法律原则到操作清单

，让企业知道该怎么做清理违规内容，能够及时制止一部分侵害；要减少同类问题反复发生，还需要让企业知道，哪些行为不可为，哪些责任必须履行，具体应该在哪个环节采取措施。这也是上海“两手抓”的另一个重要部分。

专项行动并非只发布整治要求、等待企业整改，而是针对不同类型的平台和AI服务提供者，细化治理重点，推动企业将合规要求转化为日常运营中的具体动作。首先，是把好数据入口。模型训练需要大量数据，但数据能够被获取，不等于能够被任意使用。

未经授权的文字、图片、音视频被用于训练，可能在后续生成环节引发侵权；训练语料中混入恶意数据，还可能影响模型输出的真实性与安全性。因此，企业需要审查训练数据的来源、授权范围和使用目的，建立必要的数据管理机制，而不能把合规问题全部留到生成结果出现之后。

其次，是将安全能力嵌入技术流程。AI模型的安全，不仅要看生成结果是否准确、流畅，还要看AI产品是否具备风险识别、内容过滤和应急处置能力，确保生成内容合法合规、安全可靠，并切实加强对未成年人等重点群体的保护。

为确保治理常态化，上海组织专业机构对32款AI产品开展专项巡查测试，并赴4家企业现场检查，督导整改AI标识落实不到位、平台安全和审核能力不足等问题。再次，是让生成内容“可识别、可追溯”。

当AI生成的图像、视频和声音越来越逼真，用户需要知道自己看到的究竟是真实记录还是合成内容。对此，上海指导哔哩哔哩在内容发布页强化提示，将“AI生成”列为六类必选标签之一；小红书发布《关于打击AI托管运营账号的治理公告》，打击AI托管运营账号、禁售去AI标识商品，并推进不同制作平台之间的隐式标识互认。

上海还在推动企业自查与社会监督相结合。专项行动中，上海网信部门向AI平台、互联网内容平台、电商平台、应用商店和开源社区等五类17家重点网站平台部署治理要求，指导企业升级安全能力和举报受理机制，并推动重点平台公开发布专项治理公告，主动接受公众监督。

与此同时，上海举报中心开设涉AI违法不良信息专项举报渠道，让普通用户能够参与问题发现和线索提供。除了对企业开展检查、测试和合规指导，上海还将AI安全与个人信息保护的培训延伸至基层。

根据上海市委网信办公布的数据，专项行动期间，全市共开展16场AI安全合规培训进街镇活动，强化政策指导和业务受理。作为风险感知和前端处置的第一道关口，基层一线人员的培训覆盖广度无疑关系与治理能否在“末梢”层面被理解、承接和执行紧密相关。

三明确边界不是限制创新

，而是让保护真正落地从清理违规内容到推动企业合规，上海的实践正在让AI应用中的个人信息保护变得更加具体。然而，我们需要回答一个朴素的问题：为什么AI时代尤其需要明确个人信息保护的边界？

这是因为，技术正在改变个人信息被使用的方式，也在改变侵害发生的速度、规模和隐蔽程度。个人信息一旦进入模型训练和生成流程，就可能被反复调用、组合，甚至被用于制造本人从未说过的话、从未做过的事。

个人不仅面临信息泄露的风险，还可能失去对自身形象、声音和身份如何被呈现的控制。尽管《中华人民共和国个人信息保护法》已经对个人信息处理的合法性、正当性、必要性，以及敏感个人信息的处理条件作出明确规定，但在AI应用中，这些原则需要面对更多具体问题：公开发布的照片能否直接用于模型训练？

用户同意某项服务收集声音，是否意味着同意将其用于训练模型并进行商业化生成？当AI合成内容足以让公众误认，谁应当承担责任？当侵权内容被反复生成、跨平台传播，个人又该如何及时制止侵害？

这些问题源于技术发展不断带来新的应用场景，需要通过具体实践进一步明确规则。法律划定了权利保护的基本框架，司法裁判和监管治理则要将这些原则转化为具体场景中的判断标准和行为要求，让企业知道哪些事情不能做、哪些义务必须履行，也让公众在权益受到侵害时有据可依、有路可循。

上海的司法和监管实践，正是在为这些问题寻找更清晰的答案。司法个案明确侵权责任，专项治理清理违规产品和内容，企业合规指导推动安全要求进入技术流程，举报机制则为公众参与监督提供渠道。几种方式相互衔接，使个人信息保护不再只是法律文本中的原则，而逐渐成为可以检查、可以执行、可以追责的具体要求。

边界明确，也有利于技术创新走得更远。对于企业而言，规则不清可能带来不确定的合规成本；对于用户而言，无法辨识的合成内容和随时可能发生的身份冒用，则会削弱对AI应用的信任。只有明确哪些数据可以使用、使用到什么程度、生成内容应当如何标识、发生侵权后由谁负责，创新者才能在更稳定的规则下探索应用，用户也才能在更有保障的环境中享受技术便利。

拥抱AI，不意味着个人信息可以被无限调用；鼓励创新，也不意味着权利边界可以被模糊处理。当技术发展有边界，个人权利有保障，AI才能真正成为服务人的工具。