从最高法三个典型案例看人工智能应用的民事法律红线
最高人民法院《关于依法审理涉人工智能纠纷案件的意见》首次系统明确了AI换脸拟声、AI幻觉、大数据杀熟、AI造谣、智能驾驶等热点问题的裁判规则…
最高人民法院《关于依法审理涉人工智能纠纷案件的意见》首次系统明确了AI换脸拟声、AI幻觉、大数据杀熟、AI造谣、智能驾驶等热点问题的裁判规则。结合人民网9月11日解读的三个典型案例可以看出：AI开发者合法取得的数据权益受法律保护；利用AI制作、传播虚假信息构成犯罪的依法追究刑事责任，造成民事损害的还要承担侵权责任；智能驾驶事故责任应结合车辆自动化等级、事故原因、各方过错综合认定。对于普通用户而言，遭遇AI侵权应及时固定证据、向平台发出侵权通知；对于平台和服务提供者而言，"AI自动生成"不是免责金牌，接到通知后怠于处置将依法承担侵权责任。
一、AI训练数据权益：合法采集的数据集合受法律保护
1. 案例事实与争议焦点
人民网报道的第一个案例中，A公司用近三年时间采集相关语音数据，形成一个语音数据集。后A公司发现该数据集中的一个数据子集被挂在B公司官网上供注册用户下载。争议焦点在于：B公司是否构成侵权？AI训练过程中形成的数据权益应如何保护？
2. 法律分析
最高法《意见》明确：人工智能开发者通过采集生成、衍生创造、受让取得、授权许可等方式合法获取数据并享有相应数据权益的，人民法院应当予以保护。对于构成汇编作品或者符合其他作品构成要件的数据、数据集合，应当依照著作权法予以保护。
这意味着：
- 数据权益不等于数据所有权。我国法律并未一般性地承认"数据所有权"，但承认经营者对其合法收集、加工、整理的数据集合享有竞争法意义上的权益或著作权法意义上的汇编作品保护。
- 数据获取必须合法。无论是自行采集、授权许可还是公开抓取，AI训练数据的获取都不能违反个人信息保护法、数据安全法、反不正当竞争法等法律规定。
- 数据集合可能构成作品。如果数据集合在内容选择、编排上体现了独创性，可以构成汇编作品；即便不构成作品，也可能依据反不正当竞争法第二条获得保护。
3. 实务启示
AI企业在训练数据采集阶段应建立合规台账：
- 区分自有数据、授权数据、公开数据和爬虫抓取数据；
- 对包含个人信息的数据取得合法基础（同意、合同必要、法定义务等）；
- 保留数据来源、授权范围、使用目的的书面记录；
- 对他人数据集合避免整库复制或实质性替代性使用。
二、AI造谣：技术门槛降低，法律责任不会降低
1. 案例事实与社会危害
第二个案例中，一则标题为《浙江一工业园突发大火》的"新闻"在网上广为流传，视频中火光冲天引发关注。但很快相关部门辟谣——该"新闻"是利用AI技术制作的谣言。
2. 法律分析
最高法《意见》规定，依法惩治利用人工智能实施的犯罪活动。利用人工智能实施诈骗、侮辱、诽谤、损害商业信誉、商品声誉、侵犯公民个人信息、非法获取计算机信息系统数据、制作、贩卖、传播淫秽物品等行为，构成犯罪的，依法追究刑事责任。
除刑事责任外，AI造谣还可能引发多重民事责任：
- 名誉权侵权：编造虚假事实损害特定自然人、法人或其他组织名誉的，应承担停止侵害、赔礼道歉、赔偿损失等责任；
- 肖像权/声音权侵权：利用AI换脸、拟声技术制作虚假视频的，还构成对人格权的侵害；
- 平台责任：网络服务提供者接到侵权通知后未及时采取删除、屏蔽、断开链接等必要措施的，对损害扩大部分承担连带责任。
3. 实务启示
对于内容平台而言，应建立AI生成内容的识别与审核机制：
- 对疑似AI生成的热点信息加强人工复核；
- 完善用户举报和快速处置通道；
- 对AI生成内容添加显著标识，避免用户误信。
对于普通用户，转发信息前应核实来源，避免成为谣言传播的"二传手"。
三、智能驾驶事故：责任认定需要"分层拆解"
1. 案例背景与司法难点
随着具备辅助驾驶或自动驾驶功能的汽车逐步普及，智能驾驶相关交通事故责任认定成为司法新课题。事故可能涉及驾驶员、车辆制造商、自动驾驶系统供应商、地图数据服务商、道路管理方等多方主体。
2. 法律分析
最高法《意见》对智能驾驶相关纠纷作了专门规定。结合现行法律，责任认定应遵循以下逻辑：
- L0-L2级辅助驾驶：驾驶员仍是主要责任主体，系统仅起辅助作用。因驾驶员未及时接管导致事故的，由驾驶员承担责任。
- L3级有条件自动驾驶：在系统运行期间发生事故，若系统存在缺陷，车辆制造商或系统供应商应承担产品责任；若驾驶员在系统提示接管后未接管，驾驶员可能承担相应责任。
- L4-L5级高度/完全自动驾驶：系统处于完全控制状态时，责任主要由车辆所有人、管理人、制造商或运营方承担。
《民法典》第一千二百零二条、第一千二百零三条规定，因产品存在缺陷造成他人损害的，生产者应当承担侵权责任；被侵权人可以向产品生产者请求赔偿，也可以向产品销售者请求赔偿。
3. 实务启示
- 车企：应在用户手册中明确自动驾驶等级、使用边界、接管义务，并建立事故数据记录与黑匣子机制；
- 车主：使用辅助驾驶功能时应保持注意力，不能将"辅助驾驶"等同于"自动驾驶"；
- 保险公司：应针对智能驾驶风险开发专门险种，明确理赔范围。
四、AI民事侵权的过错责任原则
最高法《意见》确立了一个核心原则：除法律另有规定外，AI侵权原则上适用过错责任，要结合行为人的风险控制能力、技术能力以及对侵权结果的预见和控制能力来判断责任。
这意味着：
- 不能"用了AI就当然担责"：平台若已尽到合理注意义务，对无法预见的AI生成内容不当然承担责任；
- 也不能"因为是AI造成的损害就没有责任"：受害人通知后平台怠于处置、AI服务提供者明知模型存在重大缺陷仍提供服务等情形下，平台难辞其咎。
遭遇AI换脸诽谤，平台删除慢要担责吗？
要担责。根据最高法《意见》及《民法典》第一千一百九十五条"通知—删除"规则，权利人向平台发出有效侵权通知后，平台应当及时采取必要措施。如果平台接到通知后未及时删除、屏蔽或断开链接，导致损害扩大，平台需要对扩大部分承担连带责任。实务中，权利人应通过平台公示的投诉渠道发送通知，并保留通知送达证据；若平台怠于处理，可进一步向网信部门投诉或提起诉讼。
广东华商律师事务所潘杰峰律师点评
最高法《意见》的最大价值在于将传统民事规则具体化到AI场景，但并未创设超出既有法律框架的特殊责任。我的实务判断是：第一，AI训练数据的合规获取是企业第一道防线，数据来源不明将在侵权诉讼中直接处于不利地位；第二，"通知—删除"规则在AI时代依然有效，平台不能以"内容系AI生成"为由拒绝处置；第三，智能驾驶责任将随着自动驾驶等级提升而向车企和系统供应商转移，车企的产品责任风险会显著增加。建议企业在AI产品设计阶段就嵌入合规审查，普通用户在遭遇AI侵权时第一时间保全证据并发出正式通知。
FAQ
Q1：AI生成的虚假内容侵害我的名誉权，我应该如何维权？
建议按以下步骤维权：第一，及时截屏、录屏保全侵权内容，必要时办理公证；第二，通过平台投诉渠道发送侵权通知，要求删除、屏蔽、断开链接；第三，若平台怠于处理或侵权人身份明确，可向法院提起名誉权侵权诉讼；第四，如虚假内容涉嫌诽谤罪，可向公安机关报案。
Q2：智能驾驶发生事故，驾驶员一定能免责吗？
不一定。目前我国市场上大多数车辆属于L2级辅助驾驶，驾驶员仍需全程监控车辆状态并对安全负责。只有在L3及以上级别、且系统处于正常运行状态下发生事故，驾驶员才可能依据系统提示和接管规则主张减轻或免除责任。驾驶员将辅助驾驶当作自动驾驶使用导致事故的，仍需承担主要责任。
Q3：AI开发者使用公开数据训练模型，是否一定合法？
不一定。公开数据不等于可以自由使用。如果公开数据中包含个人信息，仍需具备合法处理基础；如果数据集合构成作品或受反不正当竞争法保护，未经许可使用可能构成侵权。建议AI企业对训练数据来源进行分类管理，对高风险数据取得明确授权。
本文系广东华商律师事务所潘杰峰律师团队出品，仅供客户与行业参考，不构成正式法律意见。
