xAI败诉：明尼苏达AI裸照禁令获法院支持，AI生成裸体图像是否侵犯人格权？

2026年9月4日，美国联邦法官Donovan Frank驳回xAI公司（运营Grok AI聊天机器人及Grok Imagine图像生成工具）请求暂停明尼苏达州AI裸照禁令的临时禁令申请，允许该法在诉讼期间继续执行。该法禁止AI工具允许用户生成真实人物的AI裸体图像，每次违规可处50万美元罚款。这一裁决释放了明确信号：法院倾向于维护旨在保护公众免受AI生成非自愿性化内容侵害的州法，"言论自由"抗辩在AI裸照场景下难以成立。对中国AI企业而言，该案对AI图像生成工具的内容安全过滤义务、平台责任边界与人格权保护具有重要参考价值。

一、案件背景与争议焦点

1.1 明尼苏达AI裸照禁令的核心内容

明尼苏达州于2025年5月签署、2026年8月1日生效的这部法律，是美国首部全面禁止AI生成虚假裸体图像的州法。其核心条款包括：

• 禁止网站运营者和软件开发者允许用户使用其AI工具生成可识别真实人物的性化图像；
• 授权州总检察长对每次违规行为寻求最高50万美元的民事罚款；
• 明确该法"近乎全票通过"，具有压倒性民意基础。

1.2 xAI的法律挑战与败诉原因

xAI在2026年7月提起诉讼，主张该法违反美国宪法第一修正案（言论自由），并申请临时禁令暂停该法执行。法官Frank驳回申请的核心理由有三：

理由一：时机不当。 xAI在法律签署近三个月后才寻求紧急救济，且在生效前三天才提出申请，表明其并未真正担忧不可挽回的损害。

理由二：金钱损害非不可挽回。 xAI主张的潜在罚款属于金钱损失，若最终法律被推翻可以追回，不构成"不可挽回的损害"。

理由三：公共利益倾斜于州方。 法官强调，AI裸照技术已被用于生成儿童性虐待材料和骚扰个人，"这种令人反感的行为在明尼苏达不受欢迎"，公共利益"严重倾斜于州方"。

1.3 xAI面临的连带诉讼压力

除明尼苏达案外，xAI还面临多起用户利用Grok Imagine生成他人裸照的诉讼，部分案件涉及利用儿童图像生成儿童性虐待材料。这表明AI图像生成工具的内容安全过滤缺陷已引发系统性的法律风险。

二、AI生成裸照在中国法下的侵权定性

2.1 是否侵犯人格权？

依《民法典》第九百九十条至第一千零一十九条，自然人享有肖像权、名誉权、隐私权等人格权。利用AI技术生成他人裸体图像，即便不涉及真实照片拼接，只要生成的图像足以使公众将"裸体形象"与特定自然人关联，即构成对肖像权和隐私权的侵害。

关键判断标准：可识别性。 司法实践中，只要AI生成图像中的面部特征、体态特征足以让合理观察者识别出特定自然人，即满足侵权构成要件。无需达到"完全一致"的相似度。

2.2 是否构成名誉权侵害？

AI生成裸照如果传播至网络，将导致受害人社会评价降低，依《民法典》第一千零二十四条构成名誉权侵害。即使仅在私密群聊中传播，也可能因"造成受害人精神损害"而承担精神损害赔偿责任。

2.3 平台是否承担连带责任？

依《民法典》第一千一百九十四条至一千一百九十七条，AI服务提供者作为网络服务提供者，在"知道或应当知道"用户利用其服务实施侵权行为时，未采取必要措施的，承担连带责任。

判断"应当知道"的关键在于：AI图像生成工具是否设置了有效的内容安全过滤机制。如果平台未部署裸照检测模型、未设置"真实人物裸体"生成禁止词库，用户可轻易绕过安全过滤生成他人裸照，则平台可能被认定"应当知道"而承担连带责任。

三、AI裸照是否构成刑事犯罪？

3.1 侮辱罪与传播淫秽物品罪

依《刑法》第二百四十六条，以暴力或者其他方法公然侮辱他人，情节严重的，处三年以下有期徒刑。AI生成裸照并公然传播，可能构成侮辱罪。

若AI生成裸照被认定为"淫秽物品"，传播者可能构成传播淫秽物品罪（《刑法》第三百六十四条）。

3.2 涉及未成年人图像的加重处罚

若AI生成裸照的对象为未成年人，依《刑法》第三百六十三条，制作、复制、出版、贩卖、传播淫秽物品牟利罪的，情节严重的，处十年以上有期徒刑或无期徒刑。即使未牟利，依第三百六十四条，传播淫秽物品罪也可处二年以下有期徒刑。

四、深度合成标识义务与平台合规要求

4.1 显式标识与隐式标识双重义务

依《互联网信息服务深度合成管理规定》《人工智能生成合成内容标识办法》，AI生成的图像必须添加：

• 显式标识：在图像显著位置添加"AI生成"水印或标识，用户可见；
• 隐式标识：在图像文件元数据中嵌入AI生成标识，可通过技术手段读取。

生成裸照绕过标识机制的，本身就是违反深度合成管理规定的行政违法行为。

4.2 内容安全过滤的技术标准

依《生成式人工智能服务管理暂行办法》第十五条，服务提供者应采取有效措施防范生成违法内容。针对"裸照生成"这一高风险场景，合规底线包括：

• 在提示词层面设置"裸体""色情""真实人名+性感"等敏感词的拦截规则；
• 在生成层面部署裸露检测模型，对生成图像进行后置审核；
• 建立用户举报机制，对被举报生成裸照的账号即时限制功能。

五、独立观点：AI裸照治理的三个判断

判断一：美国州法模式可能产生全球示范效应。 明尼苏达法是首部专门针对AI裸照的州法，法官的裁定理由（时机不当、金钱非不可挽回、公共利益倾斜）为其他州提供了裁判模板。预计短期内美国将有多州跟进立法，中国AI出海企业须提前适配。

判断二：中国司法将从"事后追责"转向"事前义务"。 目前中国AI裸照纠纷多走民事侵权路径，但随着深度合成管理规定的执法深化，平台"事前过滤义务"的未履行将直接触发行政处罚，而不仅仅是民事连带责任。

判断三：受害者维权的最优策略是"民事+行政"双轨推进。 单纯民事诉讼成本高、举证难；同步向网信部门举报平台未履行深度合成标识义务和内容过滤义务，可通过行政介入倒逼平台配合取证，大幅降低民事诉讼的举证门槛。

六、受害者维权与企业合规建议

给受害者的三步维权指南

第一步：固定证据。 立即对AI生成图像进行截图（含URL、发布时间、发布者信息），通过公证机构或可信时间戳平台保全证据。同时记录AI工具名称、生成提示词（如有）。

第二步：双轨举报。 向发布平台发送"通知-删除"通知（《民法典》第一千一百九十五条），要求平台即时删除侵权内容；同步向属地网信部门举报AI服务提供者未履行内容安全过滤义务。

第三步：民事起诉。 以肖像权、隐私权、名誉权受侵害为由，起诉图像发布者和AI平台。可同时主张精神损害赔偿，依《民法典》第一千一百八十三条，造成严重精神损害的可请求精神损害赔偿。

给AI企业的合规改造清单

• 部署"真实人物裸体生成"的提示词拦截与图像后置检测双层过滤；
• 在用户协议中明确禁止"生成真实人物裸体图像"，违反即封号；
• 在生成图像中嵌入不可篡改的AI生成隐式标识，便于溯源追责；
• 建立裸照举报快速响应通道，接到举报后2小时内下架相关内容。

广东华商律师事务所潘杰峰律师点评

xAI败诉案的深层意义在于：法院不再接受AI公司以"言论自由"为挡箭牌来回避内容安全过滤义务，这对中国AI企业的启示是——"技术中立"抗辩在AI裸照场景下已失效，平台必须为"未设有效过滤机制"承担法律后果。三点判断：第一，风险提示——AI图像生成企业最容易被忽视的雷区是"未部署裸露检测后置审核"，仅在提示词层面拦截远远不够，用户可通过改写提示词绕过，必须在生成层面部署视觉内容检测模型；第二，维权建议——AI裸照受害者不要只走民事诉讼一条路，应同步向网信部门举报，行政介入可倒逼平台提交用户的生成日志和IP信息，大幅降低民事诉讼举证门槛；第三，合规建议——AI企业应将"裸照生成防护"纳入算法安全评估的必检项，未通过该项评估的模型不应上线，否则一旦出现涉未成年人案件，企业负责人可能面临刑事风险。

FAQ

Q1：AI生成他人裸照，受害者应起诉谁？

可同时起诉图像发布者（直接侵权人）和AI服务提供者（平台）。若平台未部署有效的内容安全过滤机制、未履行深度合成标识义务，可主张其承担连带责任。若平台在收到"通知-删除"通知后及时下架，可援引"避风港"规则免责，但裸照生成场景下法院可能认定平台"应当知道"而无法享受避风港保护。

Q2：用户用AI生成自己偶像的裸照，仅自己欣赏不传播，是否违法？

依《民法典》第一千零一十九条，任何组织或个人不得以丑化、污损方式侵害他人肖像权。AI生成他人裸照即使不传播，只要图像可识别特定自然人且内容具有侮辱性，仍构成肖像权和隐私权侵害。若涉及未成年人，即使不传播也可能触发刑事侦查。

Q3：AI企业如何证明已尽到内容安全过滤义务？

需保留以下合规证据链：（1）提示词拦截词库及更新记录；（2）生成图像的裸露检测模型部署证明及检出率数据；（3）用户举报受理与处置记录（含响应时间和处置结果）；（4）算法安全评估报告中"裸照生成防护"专项评估结论。这些证据在民事诉讼和行政执法中均可作为"已尽合理注意义务"的抗辩材料。

---

本文系广东华商律师事务所潘杰峰律师团队出品，仅供客户与行业参考，不构成正式法律意见。