上海生成式AI备案突破205款：产品上线前必须补齐的三道合规工序
上海生成式AI备案数量突破205款，标志着监管进入“常态化备案+精细化标识”阶段。无论是自研大模型还是调用第三方API再封装，只要向境内公众…
上海生成式AI备案数量突破205款，标志着监管进入“常态化备案+精细化标识”阶段。无论是自研大模型还是调用第三方API再封装，只要向境内公众提供生成文本、图片、音频、视频等内容的服务，就必须完成大模型备案或上线登记，并在产品界面公示模型名称、备案号，同时落实显式与隐式内容标识。产品上线前务必补齐“备案登记—信息公示—内容标识”三道合规工序，否则轻则被约谈整改、罚款，重则暂停信息更新、下架应用，并可能在民事纠纷中被认定为未尽合理注意义务。
一、205款备案释放了什么监管信号？
上海是全国AI产业最密集的城市之一，其备案节奏具有风向标意义。从备案主体看，既有数字城市规划、内容鉴真等垂直场景应用，也有汽车企业的“福特AI智能助手”等跨国企业本地化产品；从技术路径看，既包括自研大模型，也包括在开源或第三方模型基础上微调、封装的服务。这说明监管口径已经覆盖“全场景、全主体、全技术路线”，不再区分互联网原生企业还是传统制造业转型。
更值得关注的信号是：备案只是起点，公示与标识才是后续执法重点。近期网信部门已依法查处“剪映”“猫箱”“即梦AI”等平台未有效落实生成合成内容标识的行为，显示出监管部门正在从“有没有备案”转向“备案后是否真正合规”。
二、哪些AI产品必须走备案或登记程序？
依据《生成式人工智能服务管理暂行办法》第二条，面向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务，均落入监管范围。具体可分为三类：
- 自研大模型产品：需申请大模型上线备案（俗称“双新评估”），由省级网信办初审、国家网信办审核并公示备案号。
- 调用第三方API再封装的产品：虽然底层模型已备案，但若面向公众提供生成式服务，仍需进行大模型上线登记，取得上线编号。
- 具有舆论属性或社会动员能力的算法服务：还需依据《互联网信息服务算法推荐管理规定》完成算法备案。
需要特别澄清的是，仅面向企业内部使用、不向公众传播的AI工具，原则上不适用大模型备案；但一旦内部生成的内容通过任何渠道流向外部，即触发备案、公示和标识义务。
三、产品上线前必须补齐的三道合规工序
工序一：备案或登记
- 自研大模型：准备模型说明、安全评估报告、语料来源说明、测试题集等材料，走省级—国家级备案流程。
- API调用再封装：确认底层模型已备案，并向省级网信办申请上线登记，获取上线编号。
- 算法备案：若产品涉及内容生成、推荐排序、深度合成等舆论属性功能，同步完成算法备案。
工序二：公示与告知
- 在产品显著位置公示模型名称、备案号或上线编号。
- 在用户协议、隐私政策中明确告知用户：内容由AI生成、训练数据使用规则、个人信息处理方式、用户撤回与删除路径。
- 对未成年人用户设置额外保护机制，避免生成可能影响身心健康的内容。
工序三：内容标识
- 显式标识：在生成内容起始、末尾或显著位置添加“本内容由AI生成”等提示，确保普通用户无需刻意寻找即可感知。
- 隐式标识：按照GB 45438-2025《网络安全技术 人工智能生成合成内容标识方法》要求，在文件元数据中嵌入生成属性、服务提供者编码、内容编号等追溯要素，确保“查得到来源”。
四、未备案、未标识的法律后果有多重？
行政层面，违反《生成式人工智能服务管理暂行办法》或未落实《人工智能生成合成内容标识办法》的，网信、电信、公安等部门可给予警告、通报批评，责令限期改正；拒不改正或情节严重的，可责令暂停信息更新、下架应用、停止接入，并处一万元以上十万元以下罚款；涉及危害公民生命健康安全且有危害后果的，罚款上限提升至二十万元。
民事层面，最高人民法院《关于依法审理涉人工智能纠纷案件的意见》明确，AI服务提供者未履行内容标识等合理注意义务，导致用户或第三方难以识别AI生成内容的，可能被认定存在过错并承担侵权责任。在诉讼中，未备案、未公示、未标识的事实本身就是过错认定的有力证据。
AI产品只调用第三方大模型API，是否还需要备案和标识？
需要区分“调用API仅供内部使用”与“调用API后再向公众提供服务”。如果是后者，即使不拥有底层模型，也应依法完成大模型上线登记，并在产品中对生成内容添加标识。因为“服务提供者”的认定标准是“谁向公众提供服务、谁对用户体验和内容安全负责”，而不是“谁训练了模型”。因此，API调用型产品不能借“技术中立”逃避备案与标识义务。
广东华商律师事务所潘杰峰律师点评
上海205款备案的背后，是生成式AI监管从“入口审批”走向“全生命周期治理”的趋势。我的实务判断有三：第一，备案号与上线编号不是“荣誉牌照”，而是法定公示义务，未公示即构成违法；第二，内容标识必须“显隐双轨”，只在前端加提示、不在元数据留痕，仍可能被认定为未充分履行标识义务；第三，跨国企业、传统行业应用AI的本地化产品同样要走完备案/登记流程，不能因主体背景而忽视合规。建议产品方在上线前做一轮合规自测，并留存备案材料、公示截图、标识检测报告，作为应对行政检查和民事争议的核心证据。
FAQ
Q1：企业内部使用的AI工具是否需要备案？
纯内部使用、不向外部公众提供生成内容的AI工具，一般不适用大模型备案和算法备案。但一旦内部生成的内容通过产品说明、营销材料、公开报告等渠道流向外部，即触发备案、公示和标识义务。
Q2：生成式AI产品的隐私政策与普通App有什么不同？
AI产品隐私政策需要额外说明：用户输入内容是否用于模型训练、是否跨境传输、如何行使删除与撤回权、生成内容的存储期限等。特别是将用户对话用于训练数据，应取得用户单独同意。
Q3：备案被退回的常见原因有哪些？
常见原因包括：模型说明不完整、安全评估流于形式、训练数据来源不清、测试题集未覆盖违法违规内容、未提交算法备案联动材料、产品界面未预留备案号公示位置等。建议在提交前请专业律师或合规顾问做材料预审。
本文系广东华商律师事务所潘杰峰律师团队出品，仅供客户与行业参考，不构成正式法律意见。
