北京生成式AI服务备案累计达319款:新增22款背后的产品合规必修课
生成式AI产品备案不是一次性行政手续,而是持续合规的起点。北京累计319款备案、单次新增22款的监管节奏说明:网信部门对生成式AI服务的台账…
生成式AI产品备案不是一次性行政手续,而是持续合规的起点。北京累计319款备案、单次新增22款的监管节奏说明:网信部门对生成式AI服务的台账化管理已常态化,"未备先上"将面临直接下架风险;同时,"备而不管"——即完成备案后却不在产品内公示模型信息、不添加内容标识——同样构成违规。对AI产品团队而言,必须把备案编号、模型名称、生成合成标识做成产品前端与详情页的标准字段。
一、备案制到底管什么
《生成式人工智能服务管理暂行办法》确立了我国对面向公众提供生成式AI服务的备案管理制度。其核心逻辑是:先识别风险主体,再持续跟踪其产品形态。备案信息通常包括服务名称、服务提供者、模型名称、备案编号等关键字段,网信部门通过定期公告形成可查询的"白名单"。
从本次北京新增备案可以看出两条趋势:一是备案服务形态多样化,涵盖数字科技、通信、政务数字化等不同行业;二是备案频率提高,说明监管数据更新正在提速。对企业来说,这意味着产品上线前的合规清单里,备案不再是可以"先跑起来再说"的柔性要求。
二、未备案就上线是否违法?
答案是肯定的。依据《生成式人工智能服务管理暂行办法》第十七条,具有舆论属性或者社会动员能力的生成式人工智能服务,应当按照国家有关规定开展安全评估,并按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。面向公众提供服务的生成式AI应用,如未依法备案,监管部门可依据办法第二十六条责令改正、给予警告或罚款,情节严重的责令暂停或终止服务。
实务中常见两类违规形态:第一类是"裸奔上线",即产品未备案便开始向公众开放;第二类是"借壳上线",即产品本身未备案,却调用第三方已备案模型的API对外提供服务,但未在显著位置公示所使用模型的备案信息。第二种形态在B端应用和AI工具集成场景中尤为常见,容易被忽视。
三、公示义务为何容易被忽略
本次公告专门强调:已上线的生成式人工智能应用或功能,应在显著位置或产品详情页面公示所使用已备案的生成式人工智能服务情况,注明模型名称、备案编号。这条要求源自暂行办法的合规延伸义务,也是实务中执行最薄弱的一环。
很多产品团队把备案视为"后台行政动作",完成备案后没有在产品前端做任何展示。原因在于:一是担心暴露技术供应商信息;二是认为用户不会关心;三是产品经理与法务合规团队之间缺少交接。但无论出于何种原因,未公示都直接违反监管要求。合规设计上建议将"模型名称+备案编号"作为产品设置页或关于页面的固定字段,并在用户首次使用生成式功能时通过弹窗、提示条等方式告知。
四、生成合成内容标识如何产品化
除了备案与公示,《人工智能生成合成内容标识办法》还要求服务提供者在生成合成内容中添加显式标识和隐式标识。显式标识是指用户可直接感知到的提示,如"内容由AI生成";隐式标识则是嵌入内容文件元数据中的技术标识,便于后续溯源。
产品化落地的关键是把标识机制内建于内容生成与分发链路:
- 生成端默认加标:文本、图片、音频、视频在输出时自动附加显式提示,并在文件元数据中写入隐式标识;
- 导出端保留标识:无论用户下载、截图、转发,隐式标识应持续存在,防止通过二次传播被剥离;
- 平台端核验标识:若产品允许用户上传内容并再次发布,应建立标识校验机制,对缺失或篡改标识的内容进行提示或拦截;
- 前端展示统一口径:避免"AI辅助生成""智能生成""算法推荐"等模糊表述,统一使用"人工智能生成"或"AI生成"等明确语义。
五、企业可执行的合规建议
第一,建立"上线前备案审查"流程。任何面向公众开放的新功能、新模型,必须在上线前确认是否触发备案义务,并取得相应备案编号。第二,将备案信息嵌入产品界面。在显著位置或产品详情页公示模型名称与备案编号,建议同时提供可点击跳转至网信办公告的链接或备案编号查询入口。第三,完善内容标识技术方案。显式标识不得被用户关闭或隐藏,隐式标识应采用主流格式并保留校验日志。第四,建立变更再评估机制。当服务提供者、模型版本、服务范围发生变更时,重新评估是否需要变更备案或重新备案。第五,保留合规留痕。备案申请材料、公示截图、标识测试记录等至少保存三年,作为监管检查与诉讼抗辩证据。
广东华商律师事务所潘杰峰律师点评
北京累计319款备案的数字说明,生成式AI服务的合规门槛正在从"有没有备案"升级为"备得全不全、公示到不到位、标识实不实质"。企业最容易踩的坑不是不备案,而是备案完成后没有在前端和产品详情页做合规展示。我建议产品团队把备案编号和模型名称写进产品信息架构的必选字段,而不是 buried 在用户协议里。同时要注意,调用第三方已备案模型并不等于自身产品当然免责,必须在产品层面履行公示与标识义务。
FAQ
Q1:自己的产品只是接入了OpenAI或国内某大模型API,还需要单独备案吗?
A:如果你只是调用已备案模型API且不对模型本身进行改造,通常不需要重新备案该模型,但你的应用若面向公众提供生成式服务,仍可能因具有舆论属性或社会动员能力而需要履行相应备案或安全评估义务;同时必须在产品中公示所使用的已备案模型名称和备案编号。
Q2:备案编号应该放在产品哪个位置才算"显著位置"?
A:显著位置一般指用户无需多次点击即可合理发现的位置,如首页底部、设置页"关于我们"、首次使用弹窗、产品详情页等。建议同时设置在用户协议或隐私政策中引用备案信息,但单独的用户协议条款不能替代前端公示。
Q3:已经完成备案,后续更换了模型版本,需要重新备案吗?
A:是否需要重新备案取决于变更是否涉及备案信息中的核心要素。模型名称、服务提供者、服务范围等发生实质性变化的,应依法办理变更或重新备案手续。建议在每次模型重大升级前咨询网信部门或专业律师,避免因"备而不管"被行政处罚。
