智能体、端侧大模型将纳入备案：AI产品合规划出新赛道

AI备案的规制对象正在从"模型"扩展到"产品形态"。《国家信息化"十五五"规划》首次把智能体、端侧大模型、拟人化互动服务三类新形态写入评估备案范围，并新增"重点领域应用安全风险评估制度"。这意味着，过去大量企业依靠"我只是调用已备案大模型做应用"实现的合规豁免，未来空间将收窄。对AI产品团队而言，现在就该把合规设计的对象从"有没有做大模型备案"转向"我做的这个东西属于哪一类需要备案的形态"。

一、为什么这次扩容不是口号，而是必然

现行制度的逻辑起点是《生成式人工智能服务管理暂行办法》。其第十七条规定：提供具有舆论属性或者社会动员能力的生成式人工智能服务，应当按照国家有关规定开展安全评估，并履行算法备案手续。围绕这一条，形成了一套"以模型为轴心"的备案逻辑。但两年多的产品实践，暴露出三处明显的适配断层：

第一，智能体不重新训练模型，却能自主行动。 一个调用已备案大模型作为底层的智能体，可以自动浏览网页、调用支付接口、代替用户发消息、操作其他系统。它的风险不来自"生成什么内容"，而来自"能做什么事"。按现行的生成式AI备案口径，这类产品长期缺乏明确的对表口径。

第二，端侧大模型把推理搬出了云。 模型被压缩后烧进手机、车机、机器人、学习机，服务不再通过公开网络提供，内容审核、日志留存、实时拦截这些云端手段基本失效。监管如果只盯云端，等于放掉一整类风险敞口。

第三，拟人化互动服务的问题不在内容违法，而在关系成瘾。 情感陪伴类AI可能输出的内容并不违法，却可能诱发未成年人沉迷、认知操纵、社交功能退化。这类风险无法用"违法信息关键词"来度量。

《规划》把三类形态点名，本质上是在补这三个断层。"建立重点领域应用安全风险评估制度"这一句同样重要——金融、医疗、教育、能源等重点领域的AI应用，未来的合规动作可能不是"做一次备案"，而是"做一次持续的风险评估"。

二、三类新形态，备案难点各不相同

智能体：备案对象是"模型"还是"行为边界"？

智能体最大的特点是把大模型的"说"变成了"做"。备案材料如果仍按模型口径填写"训练数据来源、模型架构、内容安全机制"，监管无法判断这个智能体能触达多深的权限。

从合规设计角度看，智能体备案最可能被追问的是三件事：调用工具清单（能调用哪些API、能操作哪些系统）、权限边界（单次操作上限、是否涉及资金与支付）、人类接管机制（哪些动作必须人工确认、能否一键中止）。这与《规划》提出的"构建智能体技术成熟度评价体系，研制智能体身份标识等标准"方向一致——身份可识别、行为可追溯，是智能体进入监管视野的前置条件。

端侧大模型：云端那套合规手段失效怎么办？

端侧部署的难点是"看得见的管不着"。设备在用户手里，模型在本地跑，服务提供者无法实时审核每一次输出。因此备案重点必然前移：模型出厂前的能力基线评测、内容安全阈值设定、设备端是否保留可审计的本地日志、模型更新是否具备远程可控的降级能力。

同时要注意，《规划》在"提升数据安全和个人信息保护水平"一节提出"加强智能设备个人信息保护检测评估、强化生物特征信息的技术应用管理"。端侧设备往往同时采集人脸、声纹、位置等敏感个人信息，这与《个人信息保护法》第二十八条关于敏感个人信息"特定目的和充分必要性"的要求直接挂钩，也涉及第五十五条（处理敏感个人信息应事先进行个人信息保护影响评估）的规定。

拟人化互动服务：一套没有国家标准可抄的评估

拟人化互动服务的风险评估最难量化。建议在产品设计阶段就锚定三类可验证指标：未成年人识别与防沉迷机制的有效性、情感依赖的干预阈值、以及在涉及自伤、就医、投资建议等关键场景的转人工与外部求助引导路径。这些指标既是备案材料的内容，也是日后发生争议时证明"已尽到合理注意义务"的证据。

三、已备案企业要补做一次"形态盘点"

不少企业存在一个误区：主模型已完成生成式AI备案，应用层产品就天然合规。这种理解在2026年已经越来越危险。

正确做法是做一次"形态—义务"对照盘点：把产品拆成最小功能单元，逐项判断是否构成生成式AI服务、智能体、端侧模型、拟人化互动服务、深度合成服务中的一种或多种；再对照《生成式人工智能服务管理暂行办法》第四条至第十五条、《互联网信息服务深度合成管理规定》与《人工智能生成合成内容标识办法》逐条核对义务。特别注意三点：

• 标识义务是法定义务，不是免责牌。《人工智能生成合成内容标识办法》2025年9月1日施行，要求添加显式标识并在文件元数据中添加隐式标识。
• 公示义务。 使用已备案生成式AI服务的，应在显著位置或产品详情页面公示所使用服务的名称及备案号。
• 训练数据来源合法性始终是《暂行办法》第七条的核心要求。智能体若在运行中不断沉淀用户数据用于优化，还需评估是否构成新的训练行为。

四、合规设计的三条时间线

短期（1—3个月）：完成产品形态盘点，形成一页纸的"形态判定表"；智能体补齐工具调用清单与权限矩阵；端侧产品补齐本地日志与远程降级方案。

中期（3—12个月）：跟踪智能体身份标识、技术成熟度评价等标准制定进展（《规划》已明确"加快人工智能及智能体、智能终端等新兴领域标准研制"）；对重点领域应用开展一次风险自评估，形成可提交的报告文本。

长期：《规划》第十一章已列明"推进人工智能、数字经济、电信、网络犯罪防治、反网络暴力等基础性立法"，并明确"研究发布相关司法解释"。合规不是一次性项目，而是产品生命周期中的固定工序。

---

广东华商律师事务所潘杰峰律师点评

这次《规划》的分量不在措辞，而在"评估备案对象扩容"这七个字。过去两年，我接触的AI创业团队普遍把合规理解为"模型备案"，应用层几乎不做额外动作；一旦监管口径从模型扩展到形态，这批产品会集中暴露在无对表依据的状态下。我的判断是：智能体和端侧模型不会立刻全面强制备案，但"重点领域应用安全风险评估"很可能先于备案落地，金融、医疗、教育类AI产品要优先准备。建议企业现在做两件低成本、高回报的事：一是留存产品形态判定的书面记录（哪怕结论是"无需备案"），二是在用户协议和隐私政策中把AI能力范围、人类接管机制写清楚——这两样在监管问询和民事纠纷中都会成为关键证据。具体备案路径，建议潘律师审核确认后与属地网信部门沟通。

FAQ

问：调用已备案大模型做的应用，还需要单独备案吗？

答：不能一概而论。若仅在已备案模型基础上做界面封装、不改变模型能力、不新增智能体自主行动能力，实践中通常无需重复备案，但需按规定公示所使用模型名称及备案号；若应用层新增了工具调用、自主决策、拟人化交互等能力，则可能落入新的评估备案范围，建议与属地网信部门沟通确认。

问：《规划》提到的"智能体评估备案"现在就要做吗？

答：《规划》属于规划性文件，具体备案程序、材料清单和受理口径需由配套规定或标准明确，目前尚未看到正式操作细则。现阶段建议按"能力盘点＋风险自评估＋文档留存"的方式先行准备，待细则出台后可快速对表。

问：端侧大模型的合规重点和云端有什么不同？

答：核心区别在于服务提供者对输出内容的实时控制能力下降。合规重点应前移到模型出厂前的能力基线与安全阈值设定、设备端日志与可审计机制、以及模型更新时的远程可控降级能力，同时要单独评估人脸、声纹等敏感个人信息的本地处理是否满足《个人信息保护法》的单独同意与影响评估要求。