广电总局新规：AI广电视听节目强制标识与人工审核合规要点

广电总局在国新办发布会上划定的三条红线——“必须标识、必须人工审核、严禁AI魔改”，意味着广电视听领域的AI合规从倡导性要求升级为行业硬约束。对AI产品设计和运营方而言，这不仅意味着内容生成环节要加装显式/隐式标识机制，更意味着产品架构必须预留人工复核接口、内容溯源链条和应急下架能力。未落实上述措施的AI工具或平台，未来可能面临行政处罚、下架整改，以及在民事侵权诉讼中被认定为过错的法律风险。企业应立即把“标识+审核+不可篡改日志”作为AI视听产品的默认配置，而非事后补丁。

一、新规到底要求什么？三条红线的法律内涵

从发布会表述看，新规针对的是广电视听节目“策划、制作、审核、传播、服务”全环节，核心可拆为三项义务：

1. 内容标识义务：凡使用人工智能技术生成、制作并播出的节目，必须添加相应内容标识。这与《人工智能生成合成内容标识办法》形成上下衔接——后者要求AI生成合成内容添加显式与隐式标识，广电总局进一步把适用范围聚焦到电视剧、网络剧、微短剧、综艺、动画片等广电视听品类。
2. 人工审核义务：节目制作关键环节及成片内容必须坚持人工审核把关。这意味着AI不能成为唯一的审核主体，人工复核必须嵌入内容上线前的关键节点。
3. 禁止AI魔改：严禁对原有作品、表演、人物形象进行无授权的AI修改、歪曲或恶搞。该条款直接回应了近期“AI魔改经典影视剧”“AI换脸微短剧”引发的社会争议。

这三项要求虽然以发布会形式提出，但具有明确的政策导向和执法预期，未来很可能转化为规范性文件或行业标准。

二、新规的法律依据与责任边界在哪里？

广电总局的要求并非凭空创设，而是对现有法律框架在视听领域的细化落实：

• 《生成式人工智能服务管理暂行办法》：第九条明确要求服务提供者对图片、视频等生成内容进行显著标识；第四条要求不得生成虚假信息、不得侵害他人权益。
• 《人工智能生成合成内容标识办法》：规定了显式标识和隐式标识的技术要求，覆盖文本、图片、音频、视频等形态。
• 《著作权法》与《民法典》人格权编：AI魔改若歪曲原作品或侵害演员肖像权、声音权益，可能构成侵权。
• 《广播电视管理条例》：广播电视节目内容须符合国家规定，违者可能面临责令停播、罚款、吊销许可证等行政处罚。

值得注意的是，最高法《关于依法审理涉人工智能纠纷案件的意见》亦明确，“AI生成”不是免责挡箭牌。若AI产品未按监管要求采取基本安全措施，发生损害时易被认定为存在过错。

三、AI视听产品合规设计必须补上的四个模块

结合新规与现有制度，建议AI视听产品从四个维度重构合规设计：

1. 标识模块：在生成内容中自动嵌入符合GB/T标准的显式水印和隐式数字水印，并在播放界面、元数据、下载文件中保持一致。
2. 审核模块：建立“AI初筛+人工复核+随机抽检”的三级审核机制，关键环节（如角色换脸、声音合成、剧情魔改）强制人工确认。
3. 溯源模块：保留生成日志、模型版本、训练素材来源、操作人员身份等关键记录，确保发生争议时可追溯。
4. 下架与应急模块：建立快速响应机制，对监管部门通知、权利人投诉、用户举报实现小时级下架，并留存处置记录。

四、不同主体的合规侧重点

• 内容平台：应要求上传者声明是否使用AI生成，并在推荐、分发环节对AI内容加挂标签。
• AIGC工具方：在用户协议中明确禁止用于违法违规内容，对输出内容默认添加标识，限制高敏感功能（如换脸、声音克隆）的使用场景。
• 节目制作方：将AI使用纳入制片流程审批，成片前进行法律合规审查，重点排查肖像权、著作权、名誉权风险。

广东华商律师事务所潘杰峰律师点评

广电总局在国新办层面的公开表态，释放出视听领域AI监管“从软到硬”的明确信号。实务中，很多内容平台把AI标识和人工审核当作“内容安全”的一个子模块，由运营团队兼管，这种做法在新规落地后将面临合规风险。建议企业把AI合规前移到产品需求文档和验收标准中，明确标识、审核、溯源、应急四类功能的技术负责人和法律责任人。特别是微短剧、综艺、动画片等高风险品类，应在新规正式文件出台前完成自查，避免在监管细则落地后被批量整改。

FAQ

Q1：AI生成的广告短片是否属于“广电视听节目”，需要标识和人工审核？

A：若广告短片通过广播电视、网络视听平台传播，或属于广电视听节目范畴内的内容形态，应纳入标识和审核要求。即便不属于严格意义上的“节目”，依据《人工智能生成合成内容标识办法》和《生成式人工智能服务管理暂行办法》，AI生成合成内容也应添加标识，建议按更严标准执行。

Q2：人工审核具体要做到什么程度才合规？

A：人工审核应覆盖关键环节和成片内容，重点审查是否存在违法违规、侵害人格权、歪曲原作品、误导公众等问题。仅有AI自动审核不足以满足“坚持人工审核把关”的要求，必须形成人工签字或系统确认记录。

Q3：平台使用第三方AI工具生成内容，责任由谁承担？

A：平台作为内容传播主体通常承担主体责任；第三方AI工具方依据服务协议承担相应责任。若平台未尽审核义务，可能与工具方构成共同侵权或共同违法，建议平台在合作协议中明确AI内容标识、审核、溯源等合规义务分配。