媒体谈AI“造黄”程序员获刑：“内容由AI生成”不是免责挡箭牌

近日，浙江省余姚市人民法院审结一起利用生成式人工智能制作淫秽物品牟利的案件。郑某曾是国内游戏大厂AI领域核心程序员，其将AI模型“训练”为专门输出淫秽物品的犯罪工具，为用户制作传播淫秽内容提供技术条件……最终，法院认定郑某等人构成制作淫秽物品牟利罪，并依法对其作出判决。

（见11月11日《法治日报》）本案被告人具备扎实的AI技术能力却走上歧途，令人唏嘘。其通过改写系统提示词实现AI模型“越狱”、设定角色卡诱导对话场景、开发淫秽图片生成功能等方式，搭建付费平台，为用户生成淫秽图文牟利。

这种依托技术手段，低成本批量产出和传播淫秽图片的犯罪行为，严重败坏网络风气，冲击公序良俗。本案的一大看点是，AI服务开发者突破模型安全限制，为输出淫秽内容提供技术支持，能否认定为刑法上的“制作淫秽物品”。

法院认为，被告人对AI模型的内容输出具有实质性控制能力，其行为与淫秽内容的产生之间存在刑法上的直接因果关系。因此，生成式人工智能服务的开发提供者通过技术手段突破模型算法伦理与安全限制输出淫秽内容，应被认定为“制作淫秽物品”。

这是一起典型的AI技术被滥用于实施犯罪的案件，暴露出生成式人工智能快速发展过程中潜藏的刑事风险。司法机关坚持罪责刑相适应，兼顾AI犯罪特殊性，合理调整量刑考量标准，既严厉打击犯罪，也保障了裁判尺度精准公允。

此案的判决再次重申：“技术中立”不是违法犯罪的挡箭牌。未来，防范AI“造黄”等违法乱象，开发者作为源头环节必须坚守法律底线与道德边界，恪守科技伦理，从源头切断淫秽内容生成通道。监管部门要紧跟技术发展节奏，完善配套监管规则，紧盯模型越狱、违规提示词改造等新型违法手段。

更重要的是，强化“监管部门+平台”的联合监管能力建设，精准打击AI违法犯罪活动，以常态化、联合化监管规避技术跑偏的风险，维护健康网络生态，推动行业向善发展。AI技术应用当然可以开疆拓土，但不能突破法律和公序良俗的底线。

这起AI“造黄”案件惩处的是个别人，但却释放出鲜明信号：“技术中立”“内容由AI生成”等不是开发者免除责任的挡箭牌。