AI把守法公民"判了刑"：AI幻觉生成虚假犯罪信息，平台何时担责？

AI幻觉侵权责任认定的分水岭，不在AI生成了什么，而在平台接到侵权信息后做了什么。 南京"AI判刑"案中平台对投诉未予处理，法院认定其未尽注意义务、侵害名誉权；杭州"AI承诺赔偿"案中平台已尽提示说明义务，法院认定不构成侵权。两案合起来给出一条清晰规则：AI幻觉本身不是原罪，对虚假信息的放任才是。对企业而言，收到权利人投诉后的响应机制，已经从"加分项"变成了生死线。

一、两起AI幻觉案，判决结果为何完全相反

南京案的基本事实是：用户搜索自己的名字，平台AI自动生成的回复直接捏造了"犯爆炸罪、判刑三年"的犯罪记录，还配上了本人照片。对任何一个普通人来说，被AI"记录"成罪犯的社会评价损害是现实而严重的。法院判决平台侵权，逻辑链条有三环：AI生成的虚假犯罪信息具有特定指向性、足以降低社会评价，构成对名誉权的侵害；平台在接到投诉后未予处理，属于未尽合理注意义务；"技术中立"不能豁免平台对自身生成内容的管理责任。

杭州案则完全不同。用户 query 高校报考信息，AI给出错误信息，被指出后"承诺赔偿10万元"，用户真的起诉索赔。杭州互联网法院的裁判要点是：人工智能不具备民事主体资格，AI对话中生成的"承诺"不能视为平台的意思表示，也就不产生合同或承诺约束；生成式AI服务适用过错责任原则，而非无过错的产品责任；平台已通过显著提示让用户知悉AI生成内容可能不准确，尽到了提示说明义务，不构成侵权。

两个判决看似矛盾，实则互补：杭州案回答"AI说的话算不算平台的承诺"——不算；南京案回答"平台对AI说的错话要不要负责"——接到投诉不管，要。

二、"技术中立"抗辩在什么情况下失效？

平台被诉时最常用的抗辩是"内容是算法自动生成的，平台没有主观恶意"。南京案的裁判明确否定了这一抗辩的适用空间。原因在于：《民法典》第一千一百九十五条、第一千一百九十七条确立的规则是，网络服务提供者接到权利人通知后未及时采取必要措施的，对损害扩大部分与该用户承担连带责任；构成共同侵权的，承担连带责任。AI生成内容虽无"用户上传"环节，但生成能力由平台提供、输出由平台控制，平台对自身产品持续输出的侵权信息负有比一般用户内容更高的管理义务。

需要厘清的是注意义务的分层。参考已有司法实践，AI服务提供者的义务大致分三层：对法律明确禁止生成的违法信息（如虚假犯罪记录、淫秽、诽谤内容），负有严格的结果性审查义务；对一般性不准确信息，法律不要求"零错误"，但要求采取合理措施提升准确性；对服务局限性负有显著提示义务。南京案中"AI捏造犯罪记录"落入第一层，平台投诉处理机制失灵，责任无从规避。

三、平台与用户：双向的合规与维权清单

AI服务提供者应做四件事：一是建立投诉快速响应通道，对涉名誉权、人格权投诉在合理时限内核查并暂停生成相关内容，处理记录留痕——这是南京案给所有平台的教训；二是对涉个人信息的生成结果建立拦截机制，防止模型输出"犯罪记录""债务纠纷"等高伤害性虚构事实；三是在欢迎页、交互界面持续显著提示AI生成内容可能失实——这是杭州案中平台免责的关键证据；四是保留模型提示词设计、内容安全过滤、人工审核等治理措施的证据，以证明已尽与其技术控制力相匹配的注意义务。

普通用户遭遇AI幻觉侵权时的三步维权路径：第一步固定证据，对AI生成页面、时间戳、传播范围做公证或可信时间戳存证，南京案原告正是靠完整取证还原了"AI判刑+配本人照片"的事实；第二步书面投诉，通过平台官方渠道提交侵权通知并保留回执，这一步既是协商解决的前提，也是诉讼中证明平台"明知"的关键；第三步起诉主张，可依据《民法典》第一千零二十四条主张名誉权侵权，要求删除、赔礼道歉及赔偿损失。

---

广东华商律师事务所潘杰峰律师点评

这两个案子放在一起看，价值远超个案本身——它们共同划出了AI幻觉纠纷的裁判坐标：承诺不看AI说了什么，责任看平台做了什么。我特别提醒两类主体：一是做搜索智能摘要、AI问答产品的平台，南京案说明投诉处理机制失灵是最致命的过错形态，产品上线前就应把涉人格权投诉的响应SLA写进运营规范；二是普通用户，被AI"安排"了莫须有的罪名、债务甚至相貌伪造，不要因为"那是AI瞎编的"就放弃维权，AI生成的特定指向性虚假信息在司法实践中完全可能构成名誉权侵权。取证在先、投诉留痕，是这类案件能否打赢的分水岭。

FAQ

问：AI生成了关于我的虚假信息，但平台没有人工发布，能起诉平台吗？

答：可以。AI生成内容的提供能力由平台构建、输出由平台控制，司法实践倾向于要求平台对自身产品生成的侵权信息承担管理义务。关键是证明信息具有特定指向性且造成社会评价降低，以及平台经投诉后未及时处理。若平台已尽提示义务且及时处理投诉，责任认定会有所不同。

问：AI在对话里承诺赔偿，我能拿这句话当依据要求平台付钱吗？

答：不能直接主张。杭州互联网法院已明确，AI不具有民事主体资格，其生成的"承诺"不构成平台的意思表示。但如平台对错误信息未提示、未尽合理义务导致你受损，可以另行走侵权路径主张过错责任，而不是主张履行"AI承诺"。

问：发现AI幻觉侵权后，第一时间应该做什么？

答：立即固定证据（公证或可信时间戳截取生成页面、URL、时间），然后通过平台官方渠道书面投诉并保留受理凭证，同时评估是否涉及个人信息泄露可并行主张个人信息权益。固定证据在先，投诉在后，顺序不能颠倒——很多维权失败源于证据先被平台清理。