中央网信办"清朗·整治AI应用乱象"专项行动第二阶段启动：561万条违规信息被清理，企业合规红线已划定

2026年9月2日，中央网信办通报"清朗·整治AI应用乱象"专项行动第二阶段成果——累计清理违法违规信息561万余条，查处违规账号4.9万余个，处置违规网站、应用程序2400余个，并通报7类典型违法情形。对AI产品企业而言，本轮专项治理释放的强烈信号是：算法备案、内容标识、训练数据合规、内容审核"四件套"不再是纸面义务，而是平台和监管联动核查的硬指标。 不再存在"先上线再合规"的灰色空间。

一、专项行动通报了哪七类典型问题？

中央网信办在通报中明确了七类重点整治情形，AI产品企业应当逐一对照自查：

第一类：AI"魔改"经典生成"数字泔水"。 微博、抖音、快手、微信等平台账号滥用AI技术"魔改"《三国演义》《西游记》等经典名著，颠覆重要人物人设、虚构低质猎奇剧情博取流量。相关账号已被依法依约处置。

第二类：AI制作发布虚假不实信息。 利用生成式AI工具批量炮制虚假新闻、社会事件、经济数据等，借助矩阵账号进行分发传播。

第三类：AI假冒仿冒他人。 通过深度合成技术伪造他人肖像、声音实施诈骗、营销误导或不当牟利。

第四类：制作发布暴力低俗信息。 利用AI生成色情内容、暴力场景、血腥恐怖图像，逃避传统关键词审核。

第五类：AI侵害未成年人权益。 通过AI对话产品诱导未成年人沉迷、不当价值观输出、对未成年人实施"数字性骚扰"等。

第六类：利用AI"托管"从事网络水军活动。 用AI工具批量生成评论、转发、点赞，制造虚假流量、煽动舆论、炒作事件。

第七类：AI产品服务和应用程序违规。 APP违规收集个人信息、超范围调用AI能力、未履行算法备案、内容标识缺失等。

二、AI产品合规设计的"四个硬指标"

七类问题对应到法定义务，可归纳为AI产品企业必须落地的四个硬指标：

指标一：算法备案与安全评估

依《生成式人工智能服务管理暂行办法》第十七条，提供具有舆论属性或社会动员能力的生成式AI服务，应当开展安全评估并履行算法备案。"舆论属性或社会动员能力"在执法实践中被宽泛解释——任何面向公众开放的内容生成、聊天陪伴、图像视频生成工具均落入备案范围。备案覆盖模型基本信息、训练语料来源、内容安全机制、关键词库等十余项内容。

指标二：AI生成内容显式标识

依《人工智能生成合成内容标识办法》及《互联网信息服务深度合成管理规定》，AI生成的文本、图片、音视频内容必须添加显式标识（用户端可见）和隐式标识（文件元数据）。9月专项治理重点之一，就是豆包、元宝、千问、文心一言等大模型被要求"严把原始语料内容审核关""强化AI生成合成内容标识要求落地"。未标识或标识不完整构成《互联网信息服务深度合成管理规定》第十六条规定的违法行为，可处1万至10万元罚款。

指标三：训练数据合规与版权风险隔离

"AI魔改经典"案的根源在于训练语料未取得授权。依《生成式人工智能服务管理暂行办法》第七条，提供者应使用合法来源的数据训练，涉及他人作品的应取得授权或采取规避措施（如合理使用评估、商业授权）。最高法《关于审理侵害知识产权民事案件适用惩罚性赔偿的解释》明确，恶意使用他人作品训练的，可适用惩罚性赔偿。

指标四：内容审核与未成年人保护机制

平台应当具备识别违规内容的多模态识别模型，完善违规样本库、关键词库、人脸/声纹库。本次通报指出，抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎、豆瓣、淘宝等平台均上线了人脸实时治理系统、内容拦截系统。对话类产品应增设未成年人模式、不当内容过滤和举报通道。

三、AI产品企业"四步走"合规改造路径

综合清朗专项的执法逻辑与法规要求，建议AI产品企业按以下步骤完成合规改造：

第一步：清源——开展训练数据合规审查。 重点排查数据来源授权链路，对未授权的版权数据、个人信息数据进行清洗、去标识化或剥离处理。涉及重要数据的，依《数据安全法》履行数据安全评估。

第二步：明标——完成内容标识全链路改造。 在用户生成环节强制添加显式标识，在文件元数据中嵌入隐式标识，提供用户层面的"AI生成内容核查"通道。

第三步：备案——履行算法备案与安全评估。 服务上线前完成"算法备案清单"填报、模型安全评估报告、语料来源说明、内容审核机制说明、应急预案等。涉及多个模型或多次重大版本更新的，应同步变更备案。

第四步：固防——建设常态化内容审核机制。 建立"关键词+图像识别+多模态识别+人工复核"四级审核流程；设立未成年人保护专区；建立违规账号与内容的快速处置通道；定期发布内容治理报告。

四、独立观点：本轮治理的三个判断

判断一：从"运动式治理"走向"常态化高压"。 与过去专项结束后即放松不同，9月的通报明确"网信部门将在总结专项行动治理成效的基础上，进一步把握人工智能发展趋势和规律，密切关注AI生成合成内容新情况新风险"。这意味着7类问题清单可能阶段性升级为常态化巡查清单。

判断二：从平台责任延伸到开发者责任。 通报点名称华为、小米、OPPO、vivo等应用商店"对在架APP进行抽检复测，有效拦截违规应用入库"。这意味着AI应用开发者（而非仅是平台）将成为下一阶段合规问责重点。APP上架前过审、上架后被抽检的两道关都已收紧。

判断三：从国内监管联动国际监管趋势。 与美国司法部支持OpenAI的合理使用抗辩形成对比，中国监管更强调"内容安全"与"标识强制"。企业若同时开展境内外业务，需做两套合规设计：境内侧重内容审核与标识，境外侧重训练数据授权链与版权合规。

广东华商律师事务所潘杰峰律师点评

清朗专项第二阶段通报标志着AI产品合规已从"事后处置"全面转入"事前评估"。三点判断：第一，风险提示——AI产品企业最易踩的三类雷区是：未履行算法备案即上线服务、未对生成内容添加标识、训练数据来源未做版权合规审查，任一情形被查出都可能触发"一票否决"式下架；第二，流程建议——AI产品设计阶段即应嵌入"算法备案申报-语料合规审查-内容审核机制-显式隐式标识"四件套，事后打补丁成本极高，且无法回溯弥合已发生的违法事实；第三，**维权指引——被错误处置的账号或下架的应用，可依据《行政处罚法》《生成式人工智能服务管理暂行办法》申请听证、提起行政复议或行政诉讼，主张"事实不清、程序违法"等程序性抗辩，避免被简单"认罚"形成永久合规污点。

FAQ

Q1：什么样的AI产品属于"具有舆论属性或社会动员能力"，必须做算法备案？

依《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》及《生成式人工智能服务管理暂行办法》第十七条，面向社会公众开放的内容生成（文本、图片、音视频）、对话陪伴、AI助手、智能客服、智能搜索等类型，通常被认定为具有舆论属性或社会动员能力。仅服务于内部研发测试或特定B端客户、不对外提供内容生成服务的，可能不属此范围，但需保留内部使用证据。

Q2：内容标识只做"用户可见的提示语"够了吗？

不够。《人工智能生成合成内容标识办法》要求"显式标识+隐式标识"双轨：显式标识是用户可在交互界面或文件上直接看到的"AI生成"等提示；隐式标识是写入文件元数据的识别码，用于监管溯源。仅做显式标识仍可能构成未完整履行标识义务。

Q3：训练数据用了未授权的版权素材，企业会被处罚吗？

存在被处罚风险。依据《生成式人工智能服务管理暂行办法》第七条、《著作权法》及相关司法解释，使用未授权的版权素材作为训练数据，可能承担民事赔偿、行政处罚乃至刑事责任（如"以营利为目的，复制发行他人作品"达数额标准）。建议在训练数据收集前完成"授权—合理使用评估—去标识化处理"三道筛查，对确属合理使用的部分保留评估记录。

---

本文系广东华商律师事务所潘杰峰律师团队出品，仅供客户与行业参考，不构成正式法律意见。