网信办通报AI内容标识执法案例：未落实标识与安全评估被责令下线

AI产品合规的处罚重心已经从"有没有备案"转向"标识有没有落实"。四川案例表明，显式标识、隐式标识、导出环节标识三项缺一都可能被责令下线；江苏案例则再次确认，"API中转站"式调用大模型对外提供服务，应用层运营者自身仍负安全评估义务。企业不能把合规寄托在上游模型的备案上，必须在产品设计阶段就把三层标识、安全评估、内容审核机制做成可验证的工程实现，而不是上线后再补一份文档。

一、这起案例为什么值得所有AI产品经理看？

过去两年，生成式AI监管的公开处罚多集中在"未备案""未评估"。本轮通报出现了明显变化：处罚事由细化到"显式标识未加""元数据未写隐式标识""导出时未标识"三个具体技术动作。这说明监管的检查清单已经下沉到产品实现层，执法人员会像用户一样实际使用产品，逐项比对《人工智能生成合成内容标识办法》的条款。

更值得关注的是处罚力度。四川案例的处理结果是"责令下线该小程序"，而不是"限期整改"。小程序一旦下线，意味着产品无法访问、存量用户流失、商业合作中断，恢复上线需要重新提交材料并经监管核验。对依赖流量增长的AI应用而言，这几乎是产品生命周期层面的打击，而非一般意义上的行政罚款。

二、AI生成合成内容标识的三层义务是什么？

《人工智能生成合成内容标识办法》由国家网信办、工业和信息化部、公安部、国家广播电视总局联合发布，核心是要求对AI生成合成内容进行标识并向公众提示。落到产品设计上，可以拆成三层：

第一层是显式标识，即在生成内容的界面上以用户可感知的方式提示"该内容由AI生成"，例如文末或图片角标的水印文字。它的立法目的是防止公众混淆，保护受众的知情权。

第二层是隐式标识，即写入文件元数据中的制作要素信息，包括属性信息、服务提供者名称或编码、内容编号等。这一层用户看不见，但可供平台、监管部门和下游分发方在技术上溯源判断内容来源。

第三层是导出环节标识，即当用户把内容导出、下载、分享到产品外部时，仍须保留显式标识。这是最容易被工程团队忽略的一层——很多产品在站内显示时加了标识，但用户点击"保存图片""导出文档"后标识就丢失了，等于在传播链条上断链。

四川案例同时踩中这三层，被责令下线并不意外。对本企业在做的AI生成功能而言，这三项应当作为上线前的硬性验收项，而不是可选的体验优化项。

三、调用大模型API，还要不要做安全评估？

答案是：要。江苏案例给出了明确答案——企业运营的2个网站以"API中转站"方式调用多个大模型产品接口，提供对话、问答服务，仍未按规定开展安全评估，最终被责令改正、从严处理责任人并予以警告。

法律依据在于《生成式人工智能服务管理暂行办法》第十七条：提供具有舆论属性或者社会动员能力的生成式人工智能服务，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》开展安全评估。这里的义务主体是"服务提供者"，即面向公众实际提供服务的运营者，而不是底层模型方。上游模型完成备案，只解决模型本体的合规问题；应用层面向公众提供对话问答，仍然独立触发安全评估义务。

这也是近期多地执法反复出现的场景。此前天津网信办"海河安澜2026"专项行动通报的"AI创作平台"案，同样是调用大模型接口未评估而被责令下线。可见"调用即免责"的误解在行业内相当普遍，而监管态度已经高度一致。

四、安全评估到底评估什么？

安全评估不是写一份模板报告，而是对产品风险的系统识别与整改闭环。通常应覆盖：服务内容安全机制与关键词拦截库、用户真实身份信息核验、个人信息保护与数据最小化、训练或调用数据的来源合法性、算法机制机理的可解释性、内容审核与人工复核流程、违法内容应急处置与举报机制、生成内容标识落实情况。

评估结论必须与产品的实际形态一致。如果产品实际支持图片生成，报告却只描述文本对话，那么这份报告在执法检查中不但不能免责，反而会成为企业未勤勉尽责的证据。评估报告、整改记录、测试日志应当一并留存，形成可追溯的合规档案。

五、AI产品合规设计的落地清单

结合本轮通报，建议企业按以下清单逐项自查：

第一，标识工程化。把显式标识做成生成结果渲染的强制环节，把隐式标识写入文件元数据写入逻辑，把导出标识做成所有导出、下载、分享接口的统一处理。三项都要有测试用例覆盖，并在版本迭代时回归验证。

第二，评估前置化。在公测或对外推广前完成安全评估，而不是接到整改通知才补。对于"API中转站"、多模型聚合、智能体编排这类新形态，只要面向公众提供内容生成，就应默认纳入评估范围。

第三，路径清晰化。自研或深度微调的底座模型走大模型备案；调用第三方已备案模型做应用封装的，按属地网信部门要求完成登记；面向公众提供生成合成类算法服务的，还需履行算法备案义务。三者是叠加关系而非替代关系。

第四，变更管理机制化。模型版本升级、新增生成模态、服务范围扩大、更换上游模型，都可能触发重新评估或变更登记。应建立变更触发清单，重大变更前重新判定合规状态。

广东华商律师事务所潘杰峰律师点评

广东华商律师事务所潘杰峰律师提醒：本轮通报释放的信号很明确——AI合规已经进入"技术细节执法"阶段，显式标识、隐式标识、导出标识三项缺一即可能被责令下线，处罚力度不亚于未备案。特别提示做"API中转站"和多模型聚合的团队，调用已备案大模型不能替代自身的安全评估义务，应用层运营者是独立责任主体。建议企业在产品PRD阶段就把标识方案和安全评估写进研发流程，上线前完成评估并留存整改闭环记录；已上线的产品应立即对照三项标识逐项自查，发现问题主动整改并向属地网信部门说明，切勿等到被责令下线再补救。

FAQ

Q1：我们只做企业内部使用的AI工具，也要加AI生成标识吗？

A：标识义务主要面向向社会公众提供服务的场景。但要注意两个例外：一是企业内部生成的内容如果对外发布、用于营销或交付给客户，就会落入标识要求范围；二是《互联网信息服务深度合成管理规定》对深度合成服务提供者的要求较为严格，建议即使内部使用，也在生成结果中保留标识能力，避免内容外流后被动违规。

Q2：隐式标识具体要写进哪些字段？

A：按照《人工智能生成合成内容标识办法》，隐式标识应包含属性信息、服务提供者名称或者编码、内容编号等制作要素信息，写入文件元数据中。不同文件格式的承载方式不同，图片通常写入EXIF等元数据区，视频写入容器元数据，文档写入文件属性。关键是导出后仍可被技术读取，不能被压缩或转码轻易抹除。

Q3：被责令下线后还能恢复吗？

A：可以，但需要完成整改并向监管部门提交恢复上线申请，通常要附安全评估报告、整改说明和标识落实的实测证据。恢复周期往往以周计，期间用户流失和商业损失难以挽回。因此最务实的做法是把合规做成上线前的验收项，而非事后补救项。