AI数字人带货工具端合规：央视曝光的"AI假医生"该由谁担责？

AI数字人带货出了问题，责任不能停留在"数字人"身上，而要穿透到屏幕背后：发布者承担广告法与反不正当竞争法下的主体责任，AI生成工具厂商在未尽合理注意义务时同样可能承担共同侵权或行政责任，仅仅标注"AI生成"并不能免责。对AI产品合规设计而言，真正的分水岭在于：工具是否在生成环节设置了身份资质组合的前置拦截、是否落实了内容标识与安全评估、是否留存了可供追溯的生成日志。

一、一条"AI假医生"视频，是怎么被生产出来的？

一条数字人带货视频由人物形象生成、语音合成、口型与动作驱动、场景与产品融合四个环节构成，主流工具已能做到"一张照片驱动"。

问题出在这条链条的"完整性"上——除身份审核外，其余环节全部自动化：生成"穿白大褂的医务工作者"不需要真实医生数据、不需要资质核验，只需要一张任意人脸照片加一句提示词。48元买到的不只是一条视频，而是一个默认不做行业身份限制的生成引擎。

风险点由此从"内容发布端"前移到"产品设计端"：违规内容在本地近乎零成本被批量制造，事后下架追不上生成速度，监管逻辑必然从"事后处置"转向"源头拦截"。

二、AI生成工具厂商是否要为虚假广告担责？

这是本期最值得讨论的问题，答案不是非黑即白，而要分三层判断。

第一层：产品提供者自身的行政法义务。 依据《生成式人工智能服务管理暂行办法》，向境内公众提供具有舆论属性或社会动员能力的生成式AI服务，应当履行备案、安全评估义务并对训练数据来源合法性、内容合规性负责；《互联网信息服务深度合成管理规定》要求深度合成服务提供者落实内容标识、安全管理制度与违法内容处置义务；《人工智能生成合成内容标识办法》要求AI生成的图片、视频、音频、文字素材在显眼位置标注"AI生成""AI合成"，并在文件元数据中添加隐式标识。工具若连显式标识都没做，第一道责任即已成立。

第二层：对下游违法内容的"合理注意义务"。 上海嘉定法院审理的"AI换脸"著作权侵权案（陈某诉上海某网络科技有限公司）已明确：技术中立不能成为侵权抗辩理由，提供AI网络服务的企业负有合理注意义务，需对素材来源、生成内容的合法性进行审查，该案一审判决赔偿经济损失及合理开支共计7500元。这一思路同样适用于广告场景：工具方以"我只提供技术服务"主张免责并不充分。

第三层：明知或应知情形下的共同责任。 若工具主动提供"去除水印""批量制作""精准投放"等便利违法使用的功能，或在监管提示后仍不设置拦截，可能被认定为帮助侵权，依据《民法典》第一千一百六十九条承担连带责任。

三、标注了"AI生成"，就能免责吗？

不能。标识制度解决的是"知情"问题而非"诚信"问题——《人工智能生成合成内容标识办法》解决内容来源可辨识，广告内容的真实性、合法性则由《广告法》第四条、第二十八条独立评价。北京昌平那起案件的处罚依据不是"未标注AI"而是"虚假宣传"：标注到位，内容虚假照样担责。

四、AI生成工具的合规设计清单

1. 前置拦截规则。 对"医务人员＋药品疗效""专家＋功效声明""国家机关工作人员形象"等高风险组合建立关键词与图像特征双重拦截，命中后要求上传资质证明或转人工审核。技术上完全可行——图像检测模型已在做输入图像的前置判断，缺的不是技术，是责任线。
2. 标识全覆盖。 显式标识（画面显著位置标注"AI生成/AI合成"、数字人直播标注"AI虚拟人""数字人"）＋隐式标识（文件元数据写入属性信息、服务提供者名称或编码、内容编号），并在提供导出功能时同步添加显式标识。
3. 双证与评估。 面向公众提供生成式AI服务前完成大模型备案或应用登记，具有舆论属性或社会动员能力的同步履行安全评估，深度合成类功能同步完成算法备案。天津网信办"海河安澜2026"专项行动中，某公司"AI创作平台"因未按规定开展安全评估被责令下线，即为反面样本。
4. 生成日志留存与分级处置。 保存提示词、输入图像哈希、生成时间、账号信息与操作轨迹，确保可还原生成链条；对医疗、药品、保健食品、金融等高风险场景设置"只能生成素材、不得生成功效断言"的功能限制，并对违规账号采取限流、封禁、冻结生成额度的阶梯处置，堵住"换张脸重开"的规避路径。

---

广东华商律师事务所潘杰峰律师点评

广东华商律师事务所潘杰峰律师提醒：AI数字人带货的治理重心，正从"处罚发布者"转向"约束工具端"，这是近一年监管最值得注意的转向。提供生成能力的企业切勿再以"技术中立"自我安慰——上海"AI换脸"案已明确技术中立不构成侵权抗辩，合理注意义务是真实存在的裁判标准。实务中最大的风险敞口，是产品既未做高风险组合的前置拦截，也未留存可供追溯的生成日志，一旦下游出现违法内容，企业既无法自证清白，也无法厘清责任边界。建议AI产品团队把合规前置到需求评审阶段，用"能不能生成"的产品设计回答法律上"该不该生成"的问题，并对照《人工智能生成合成内容标识办法》《互联网信息服务深度合成管理规定》补齐标识、备案、评估三项基础义务。

FAQ

Q1：我只是用AI工具做了一条带货视频，被市监局查到会有什么后果？

A：依据《广告法》，普通食品、非保健食品宣称疾病治疗功能或保健功能，构成虚假广告，面临责令停止发布、消除影响、罚款（广告费用三倍以上五倍以下，无法计算或不足的处二十万元以上一百万元以下罚款）；情节严重的还可能被吊销营业执照。若同时冒用他人肖像、声音，还需另行承担民事侵权责任。

Q2：AI工具厂商在什么情况下会被追究责任？

A：三种情形风险最高：一是未落实生成合成内容标识、未履行备案与安全评估等基础行政义务；二是对下游明显违法内容未尽合理注意义务（参考上海"AI换脸"案裁判思路）；三是产品主动提供去水印、批量生成、规避审核等功能，或在监管提示后仍不整改，可能被认定为帮助侵权承担连带责任。

Q3：企业做AI数字人直播，最低限度要做哪几件事？

A：标注（显著位置标注"AI虚拟人/数字人"并加隐式标识）、审核（脚本人工审核留痕，禁用医疗功效断言）、资质（所用生成式AI服务已完成备案或登记）、留痕（保存生成与发布日志）。