欧盟拟向“成瘾设计”开刀：社交媒体、AI聊天机器人面临新规

从让人停不下来的短视频，到借助情感互动留住用户的AI聊天机器人，科技公司争夺用户时间的产品设计，正成为欧盟新一轮监管的焦点。综合多家媒体周一报道，他们看到的《数字公平法案》（Digital Fairness Act）草案显示，欧盟委员会拟要求企业允许用户关闭诱导强迫性或过度使用的功能，并将利用模拟人际关系延长互动的AI系统纳入监管。

草案预计于11月11日、即本周三公布，违规企业可能面临最高相当于全球年度营业收入6%的罚款。这项法案可能影响Meta、Google等科技巨头，以及一众电商平台。这些企业旗下的服务，很大程度上依赖与用户打“心理战”：要么是通过机制设计拉长留存时间，或是通过运营手段诱导用户买单。

据报道，此次草案的一项关键要求，是让用户能够主动关掉那些不断把自己“拉回”应用的功能，包括自动播放、与用户自身活动无关的通知，以及连续打卡式奖励机制。按照草案，企业将须向成年用户提供关闭这类功能的选择。

AI聊天机器人也是此次草案的重要关注对象。按照媒体披露的内容，如果AI系统通过模拟人际关系来鼓励用户持续互动，相关功能也将受到约束，用户应有权将其关闭。从商业模式看，这类规则可能触及平台提高用户留存和使用时长的常用手段。

对于依靠广告变现的社交平台，用户停留时间与广告展示机会密切相关；对于AI应用，持续互动则可能影响用户活跃度和付费转化。欧盟针对“成瘾设计”的行动早有铺垫。今年2月，欧盟委员会依据现行《数字服务法》，初步认定某短视频平台的成瘾性设计违反相关规定，涉及功能包括“无限滚动、自动播放、推送通知和高度个性化的推荐系统”。

拟议中的《数字公平法案》将进一步从消费者保护角度处理这些问题。欧盟委员会公开资料显示，该倡议的重点包括操纵性界面设计、数字产品的成瘾设计、不公平的个性化做法，以及数字合同等问题，尤其关注未成年人等易受影响的消费者。

在打击诱导过度使用的功能之外，草案还拟为网站和应用列出一份包含10类操纵性设计的禁用清单。据报道，这些通常被称为“暗黑模式”的设计，将被认定为在任何情况下均属不公平行为，监管机构无需再逐案证明其造成的损害：1、让取消服务的难度明显高于注册；

2、隐藏价格或自动续费条款；3、虚假暗示用户别无选择；4、对商品供应量或受欢迎程度作出虚假或缺乏必要限定的宣称；5、在结账过程中反复强调稀缺性；6、预先勾选会增加额外商品或购买数量的选项；

7、把拒绝包装成“错误选择”；8、反复要求用户改变已经作出的决定；9、使用令人困惑的双重否定；10、伪造有人联系用户的通知。...以及，欧盟委员会将可在无需重新启动立法程序的情况下，向清单增列新的操纵性手段。

据报道，草案还拟要求在线订阅提供明确的合同终止按钮，免费试用转为收费订阅前须取得消费者主动同意，并在自动续费前发出提醒。针对未成年人，草案拟禁止电子游戏中的付费随机宝箱和“付费获胜”机制。

监管范围由此从使用时长延伸至消费转化和持续扣费。欧盟委员会的影响评估估计，这些规定将在2025年至2035年间为消费者避免884亿欧元的经济损失。如果将不公平做法造成的时间损失也计算在内，每年带来的收益预计为137亿欧元。

相比之下，在避免重复计算各项措施的成本后，企业为遵守新规每年需持续支出的费用预计合计为6.78亿欧元。不过，这项立法仍处于早期阶段。草案尚须经过欧洲议会和成员国审议，具体条款仍可能调整。

按照目前披露的草案，该条例将在生效12个月后开始适用。据报道，德国政府上月中旬已提出反对意见，主张修改现有消费者保护指令，而非另建一部横跨多个领域的新法律，并质疑将现行《不公平商业行为指令》改为条例的必要性“尚未得到充分证明”。 查看评论