AI制作淫秽物品案：技术中立抗辩为何失效，程序员如何规避风险

浙江余姚法院这起AI制作淫秽物品案的判决传递了一个明确信号：技术中立不是刑事免责的挡箭牌。当技术人员主动改写提示词、移除安全限制、设定专门用于生成违法内容的角色卡时，其对AI输出内容具有“实质性控制力”，构成刑法上的“制作”行为。程序员和企业必须认识到：AI模型本身是中立的，但人对模型的“调教”行为是有主观意图的，这种意图决定了行为的法律性质。

一、案件事实：从通用AI到“色情生成器”的技术路径

根据公开报道，郑某等6人的作案手法具有典型性和技术性：

1. 改写系统提示词（System Prompt）：通用AI模型通常内置了拒绝生成违法内容的系统提示词。郑某等人通过技术手段绕过或修改这些提示词，使模型不再拒绝色情相关的用户请求。

1. 设定角色卡（Character Card）：为AI设定专门用于生成淫秽内容的角色 persona，包括性格设定、对话风格、场景描述等，引导模型持续输出色情内容。

1. 移除模型安全限制（Jailbreak）：利用提示词注入、编码绕过等技术手段，解除模型的内容安全过滤器，使模型能够生成原本被禁止的淫秽文本、图像或音频。

1. 社交平台传播牟利：将改造后的AI工具封装为网页或小程序，通过社交平台推广，以会员费、充值等方式牟利。

法院在判决中明确指出：被告人对AI输出内容具有“实质性控制力”。这不是AI自主生成的内容，而是被告人通过技术手段“指挥”AI生成的内容。AI在这里只是工具，真正的“作者”是被告人。

二、技术中立抗辩为何失效？

技术中立（Technology Neutrality）是计算机类刑事案件中常见的辩护思路，核心主张是：技术本身没有善恶，不应因技术被用于违法目的而追究技术开发者的责任。这一原则在P2P下载、加密通信等场景下确实得到了司法认可。但在AI淫秽物品案中，技术中立抗辩失效了。

失效的原因在于“实质性控制力”的认定。法院区分了两种情形：

| 情形 | 技术中立是否成立 | 理由 |

|-----|---------------|------|

| 开发通用AI模型，用户自行输入提示词生成内容 | 通常成立 | 开发者对具体输出内容无控制力，无法预见用户会生成什么 |

| 主动改写提示词、移除安全限制、设定色情角色卡 | 不成立 | 开发者对输出内容具有实质性控制力，且主观上具有放任或追求违法内容的故意 |

最高法2026年9月《意见》和最高检2026年7月专栏文章均明确：“不能以内容系AI生成为由免除主体责任”“技术中立不等于技术无罪”。这一立场与余姚法院的判决完全一致。

三、罪名认定：为什么是“制作淫秽物品”而非“传播淫秽物品”？

郑某等人同时实施了“制作”和“传播”两个行为，但法院最终以“制作淫秽物品牟利罪”定罪。这一罪名选择的逻辑在于：

• 制作行为是源头：没有制作行为，就没有传播对象。被告人的核心犯罪行为是将通用AI改造为色情生成器，这一行为具有独创性和危害性。
• 牟利目的明确：被告人通过会员费、充值等方式牟利，符合《刑法》第363条“制作、复制、出版、贩卖、传播淫秽物品牟利罪”的构成要件。
• 量刑幅度匹配：制作淫秽物品牟利罪的量刑幅度为三年以下有期徒刑、拘役或管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑。本案判决的三年一个月至三年十个月，属于“情节严重”档次。

值得注意的是，如果被告人未以牟利为目的，仅单纯制作或传播，则可能适用《刑法》第364条“传播淫秽物品罪”，该罪不要求牟利目的，但量刑相对较轻。

四、AI色情短剧App：另一个灰色地带

与余姚案几乎同时，南都记者暗访发现，市面上存在大量AI色情短剧App。这些App的特征包括：

• 月费50元：用户支付月费后即可观看AI生成的色情短剧。
• 校园专区：部分App设有“校园专区”，内容涉及未成年人，涉嫌触犯《刑法》第363条第2款“制作、复制、出版、贩卖、传播淫秽物品牟利罪”的加重情节。
• 无年龄验证：未对用户的年龄进行验证，未成年人可以轻易访问。

这些App的运营者面临的刑事风险比余姚案的被告人更高：如果内容涉及未成年人，量刑将大幅加重；如果传播数量达到法定标准（如淫秽视频文件500个以上），可能面临十年以上有期徒刑。

五、技术人员和企业的刑事风险防控指南

对技术人员（程序员、算法工程师）

1. 明确工作边界：在公司职责范围内开发AI功能时，应当严格遵守公司的合规审查流程，不擅自绕过安全限制。
2. 拒绝“私活”风险：不接涉及生成违法内容的“私活”，即使对方声称“只是技术测试”或“内部使用”。
3. 留存合规证据：保留公司内部的合规审批记录、安全测试报告等，证明自己在开发过程中已尽到合理注意义务。
4. 警惕“开源陷阱”：使用开源AI模型时，注意其许可证限制。某些开源模型明确禁止用于生成违法内容，违反许可证可能同时面临民事和刑事风险。

对企业（AI平台、应用开发者）

1. 建立内容安全团队：配备专门的内容审核人员和安全工程师，对模型输出进行实时监控。
2. 完善用户协议：明确禁止用户利用平台生成违法内容，并约定违规后果（如封号、移送司法机关）。
3. 技术防护措施：
• 输入过滤：拦截包含色情、暴力、恐怖主义等关键词的用户请求。
• 输出审核：对模型生成的内容进行实时审核，拦截违规输出。
• 日志留存：记录用户的输入和模型的输出，保存期限不少于6个月，以便配合执法机关调查。
• 定期合规审计：聘请第三方机构对AI系统的安全性进行定期审计，及时发现和修复漏洞。
• 员工培训：对技术人员进行法律合规培训，使其了解技术中立抗辩的边界和刑事风险。

六、企业使用AI生成内容，是否也有刑事风险？

这是一个延伸问题。普通企业使用商用AI工具生成营销文案、产品图片等内容，通常不会涉及刑事风险。但如果企业使用AI生成以下内容，则需警惕：

• 虚假广告：AI生成的产品宣传内容如果包含虚假信息，可能触犯《刑法》第222条“虚假广告罪”。
• 侵权内容：AI生成的内容如果侵犯他人著作权、肖像权、名誉权，可能面临民事赔偿，严重时可能触犯《刑法》第217条“侵犯著作权罪”或第246条“侮辱罪、诽谤罪”。
• 深度伪造：利用AI生成虚假视频或音频，用于诈骗、敲诈勒索等，可能触犯《刑法》第266条“诈骗罪”或第274条“敲诈勒索罪”。

广东华商律师事务所潘杰峰律师点评

余姚案给技术圈敲响了警钟：AI不是法外之地，技术能力越强，法律责任越重。程序员群体尤其要警惕“我只是写代码的”这种自我安慰——当代码的唯一目的就是生成违法内容时，写代码的行为本身就是犯罪。建议企业在招聘AI技术人员时，将法律合规意识纳入考核；技术人员在接到“灰色”需求时，应当主动寻求法务意见，而不是盲目执行。刑事风险的代价，远比失业严重得多。

FAQ

Q1：如果我只是优化了AI模型的性能，没有直接参与生成淫秽内容，是否构成犯罪？

A：关键在于你对模型输出内容是否具有“实质性控制力”以及你的主观意图。如果你明知模型将被用于生成淫秽内容，仍然为其提供技术支持（如优化生成速度、提升图像质量），可能构成共同犯罪。如果你不知道模型的具体用途，仅提供一般性的技术优化服务，则通常不构成犯罪。但“明知”的认定不仅包括明确知道，还包括应当知道（即根据客观情况可以推断出用途）。

Q2：企业如何证明自己对用户利用AI生成的违法内容不知情？

A：企业可以通过以下证据证明不知情：已建立并执行了内容审核机制；已对用户协议中的禁止性条款进行了显著提示；在收到侵权或违法通知后及时采取了删除、屏蔽等措施；已配合执法机关调查。但“不知情”不能成为长期放任的借口，如果平台上长期存在大量违法内容，企业可能被推定为“应当知道”。

Q3：AI生成的淫秽内容与传统淫秽内容在法律认定上有区别吗？

A：没有区别。根据《刑法》第367条，淫秽物品是指“具体描绘性行为或者露骨宣扬色情的诲淫性的书刊、影片、录像带、录音带、图片及其他淫秽物品”。AI生成的内容只要符合这一定义，就属于淫秽物品，其法律性质与传统淫秽内容完全相同。最高法2026年《意见》也明确，AI生成不能成为免责理由。

---

本文系广东华商律师事务所潘杰峰律师团队出品，仅供客户与行业参考，不构成正式法律意见。