AI幻觉侵权判决迥异：南京判赔杭州判免责，平台责任边界在哪？

2026年，AI幻觉导致的侵权问题进入司法密集裁决期。南京法院判决搜索平台因AI智能回复生成"被告人李某因犯爆炸罪被判处有期徒刑三年"的虚假内容，构成名誉权侵权，须书面赔礼道歉；而杭州互联网法院则认定AI提供的错误高校报考信息不构成侵权，平台尽到提示义务后免责。两案判决迥异的核心差异在于：平台是否尽到了与其控制力相匹配的审核义务。 这一组对比判例为AI时代的平台责任划出了初步但清晰的三条红线。

一、两案对比：什么不同，为什么不同？

南京案：AI生成虚假犯罪信息，平台担责

南京的李先生在某搜索平台查询自身信息时，平台AI智能回复生成"被告人李某因犯爆炸罪，被判处有期徒刑三年"的虚假内容，并配有其职业装照片。法院认为平台未履行审核义务，导致虚假犯罪信息直接展示给用户，判令侵权成立，要求平台书面赔礼道歉。

法院的核心裁判逻辑是：AI生成涉及特定自然人犯罪记录的内容，属于高度敏感信息，直接关系当事人社会评价。 平台作为AI服务提供者，对这类内容的输出负有特别注意义务——即便AI无法完全避免幻觉，平台也应建立针对自然人负面信息的输出过滤或核实机制。法院明确表示"技术中立不会减轻法定责任"，意味着AI服务提供者不能以"AI自己说的"为由推卸责任。

杭州案：AI提供错误报考信息，平台免责

杭州的梁某使用AI查询高校报考信息，AI提供了错误信息后声称"赔偿10万元"。法院认为AI不具有民事主体资格，且平台已明确标注"AI生成内容仅供参考"，尽到了提示说明义务，不构成侵权。

法院的核心裁判逻辑是：AI输出的错误信息虽客观存在，但涉及的是一般性事实信息而非针对特定自然人的敏感负面描述；平台已尽到提示义务，用户应当知晓AI内容的不确定性。 该案中，AI输出的是关于高校报考条件的错误信息，不指向特定自然人的人格利益，损害后果与南京案有本质区别。

二、三条红线：平台责任的关键判断标准

对比两案，可提炼出AI幻觉侵权中平台责任的三条判断标准：

红线一：AI生成内容的审核义务

南京案中，平台未对AI输出进行任何审核，导致虚假犯罪信息直接展示。法院认定平台未尽审核义务须担责。杭州案中，平台对AI输出有标识提示，法院认定尽到了控制力内的义务。

实务含义： 平台不能完全依赖AI自主输出，必须在系统中设置内容审核或风险过滤机制，尤其是针对涉及自然人犯罪记录、行政处罚、健康状况等高度敏感信息的输出。

红线二：提示说明义务的履行程度

杭州案中，平台已明确标注"AI生成内容仅供参考"，法院据此认定尽到了提示义务。南京案中，平台未对AI输出作任何提示性标注。

实务含义： 提示义务不是"贴个免责声明"就万事大吉——当AI生成的内容涉及特定自然人负面信息时，仅靠通用提示不足以免责，平台还需要在内容层面设置针对性保护机制。

红线三：内容性质与损害后果的差异

南京案涉及的是虚假犯罪信息，直接指向特定自然人，严重贬损其社会评价，构成名誉权侵害。杭州案涉及的是错误的一般性事实信息（高校报考条件），不指向特定自然人的人格利益，损害后果与法律评价均不同。

实务含义： 平台责任的轻重与AI输出内容的性质直接相关——涉及人格权的敏感信息，平台的注意义务更高；涉及一般性事实信息的，注意义务相对较低，但仍需履行提示义务。

三、AI幻觉侵权是否构成名誉权侵权？

这是一个核心法律问题。依《民法典》第一千零二十四条，名誉是对民事主体的品德、声望、才能、信用等的社会评价，任何组织或个人不得以侮辱、诽谤等方式侵害他人的名誉权。

AI幻觉生成的虚假信息是否构成"诽谤"？关键在于：

• 虚假性： AI生成的"犯罪记录"客观上不存在，符合捏造虚假事实的特征
• 指向性： AI回复关联了特定自然人的姓名与照片，具有明确指向性
• 传播性： 信息已通过AI回复向用户展示，构成向第三人传播
• 损害性： 虚假犯罪信息直接降低当事人的社会评价

南京案中以上四要素全部具备，法院据此认定名誉权侵权成立。

此外，依《生成式人工智能服务管理暂行办法》第九条，提供者应当承担网络信息内容生产者责任。这意味着AI服务提供者在内容生成场景中的法律地位与内容发布者等同，不能以"AI自主生成"为由主张技术中立抗辩。

四、"算力离心力"：AI幻觉为何频发？

搜索报道提出了"算力离心力"概念——大模型在训练数据稀疏、缺乏监督信号的区域会"创造性"补全信息。当AI被部署到面向公众的场景中，这种幻觉会从实验室的"技术瑕疵"变为现实世界的"侵权源头"。

典型案例不仅限于南京案。山西临汾AI公益广告中出现行人头脚朝向不一的荒谬画面；呼和浩特全民摄影双月赛一等奖作品、东莞应急征集展播获奖书法作品均被认定为AI生成且"一眼假"。这些现象说明，当AI应用脱离严格人工审核流程，幻觉发生率急剧上升，法律风险也随之放大。

对企业的启示： AI部署场景越开放、用户基数越大，幻觉的损害后果就越严重。在面向公众的搜索、咨询、信息生成场景中，必须设置人工审核或自动事实核查机制，不能将AI直接暴露给用户而不加任何拦截。

五、企业合规建议：AI幻觉风险防控四步法

第一步：内容分类与风险分级。 将AI输出内容按敏感度分级——涉及自然人犯罪记录、健康状况、行政处罚等信息为最高风险等级，须设置输出过滤或事前核实机制。

第二步：提示义务履行。 在AI交互界面显著标注"AI生成内容仅供参考"，但不可将此提示作为唯一免责依据——高敏感内容仍需内容层面的保护措施。

第三步：幻觉监控与拦截。 部署输出审核系统，对AI生成内容进行实时监测，对涉及自然人负面信息、法律结论、医疗建议等高风险输出设置自动拦截或人工复核。

第四步：投诉响应与救济机制。 建立针对AI幻觉侵权的快速投诉响应通道，发现虚假信息后及时删除、更正并提供救济，降低损害扩大的风险，同时为后续可能的诉讼保留积极处理的证据。

六、独立观点：AI幻觉侵权的裁判走向

南京与杭州两案的判决差异并非矛盾，而是法院根据案件具体情况进行精细化判断的体现。未来裁判趋势将是：根据AI输出内容性质、平台控制能力、提示义务履行程度三个维度综合认定平台责任，而非"一刀切"地判决担责或免责。

但有一点已经明确：AI服务提供者就是内容生产者，"技术中立"不等于"责任中立"。企业若想在AI幻觉侵权纠纷中占据有利地位，必须在产品架构阶段就完成风险分级、内容审核与投诉响应机制建设，而非等到侵权发生后才被动应对。

广东华商律师事务所潘杰峰律师点评

两案判决的差异恰好揭示了AI幻觉侵权裁判的精细化趋势：法院不再简单地问"AI有没有说错"，而是问"平台有没有做到它能做的"。三点判断：其一，涉及特定自然人犯罪记录、健康状况等高度敏感负面信息的AI输出，平台的注意义务显著高于一般性事实信息，仅靠通用免责声明不足以免责，必须在内容层面设置针对性保护机制；其二，风险提示——《生成式人工智能服务管理暂行办法》第九条已明确AI服务提供者承担内容生产者责任，叠加南京法院"技术中立不减轻法定责任"的裁判态度，AI幻觉导致的名誉权侵权赔偿范围和金额可能显著上升；其三，实务建议——企业应建立"输出分类分级+高风险内容审核+用户投诉快速响应"三道防线，保留完整的过程合规文件，在涉诉时以"已尽合理注意义务"作为核心抗辩基础，同时争取在个案中参照杭州案的平台免责路径。

FAQ

Q1：AI搜索回复出现我的虚假犯罪记录，我能起诉吗？

可以。依《民法典》第一千零二十四条，虚假犯罪信息严重贬损社会评价，构成名誉权侵权。建议立即对AI回复页面进行公证取证，固定证据后向平台发送通知要求删除，同时可主张赔礼道歉和赔偿损失。南京案已为此类诉讼提供了判例支持。

Q2：平台标注了"AI内容仅供参考"就一定能免责吗？

不一定。杭州案中平台免责不仅因为标注了提示，还因为涉及的是一般性事实信息。若AI生成的是特定自然人的犯罪记录、健康状况等高度敏感负面信息，仅靠通用提示不足以尽到注意义务，平台仍可能承担责任。提示义务只是必要条件而非充分条件。

Q3：AI幻觉侵权的精神损害赔偿标准是什么？

依《民法典》第一千一百八十三条，侵害自然人人身权益造成严重精神损害的，被侵权人有权请求精神损害赔偿。AI幻觉生成虚假犯罪信息导致的名誉权侵权，如造成当事人社会评价显著降低、就业困难等后果，可主张精神损害赔偿，具体金额由法院根据侵权情节、后果及过错程度酌定。

---

本文系广东华商律师事务所潘杰峰律师团队出品，仅供客户与行业参考，不构成正式法律意见。如需针对具体案件的维权或应诉方案，欢迎联系交流。