智能体手机上市需“双证”:端侧生成式AI备案合规要点解读
智能体手机要合法落地,需要两张“证”:工信部的入网许可解决“硬件能不能卖”,网信部门的生成式AI服务备案解决“AI服务能不能全量上线”。端侧…
智能体手机要合法落地,需要两张“证”:工信部的入网许可解决“硬件能不能卖”,网信部门的生成式AI服务备案解决“AI服务能不能全量上线”。端侧部署不改变备案义务——只要面向境内公众提供生成内容服务,无论算力在云端还是手机本地,都必须按《生成式人工智能服务管理暂行办法》完成备案并在产品显著位置公示。对智能体产品团队而言,真正的合规难点不在“要不要备案”,而在数据本地化、系统级权限和内容过滤三个环节如何通过审核。
一、端侧AI为什么要单独备案?
传统生成式AI服务运行在云端,模型推理、数据存储、内容审核都在服务提供者可控的服务器上完成。端侧AI把模型和推理过程搬到手机本地,这带来三个监管关切:
第一,数据不出设备但行为难追溯。云端服务的内容日志、安全评估记录留在服务方服务器,监管可查可控;端侧生成的内容发生在用户设备上,服务提供者无法像云端那样实时留痕。备案审核因此特别关注本地数据处理机制——本地生成记录如何留存、脱敏上传哪些遥测数据、出现违法内容后如何追溯。
第二,系统级权限带来新的风险面。智能体手机的卖点是跨应用调度:AI代替用户发消息、订票、转账、读取相册和通讯录。这意味着AI拿到的是操作系统级权限,其行为边界不再是“对话框里说了什么”,而是“替用户做了什么”。权限管控由此成为端侧备案的审核重点:哪些操作需要用户逐次确认、哪些可由智能体自主执行、支付和隐私敏感操作是否有熔断机制。
第三,内容过滤从云端前移到端侧。《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》都要求提供者对生成内容承担违法信息拦截义务。端侧产品需要证明本地内容安全模型同样有效——这正是审核部门对端侧场景单列备案批次、逐一公告的原因。
二、端侧部署可以豁免备案吗?
不可以。《生成式人工智能服务管理暂行办法》的适用标准是“向境内公众提供生成式人工智能服务”,监管指向的是服务本身而非技术架构。模型跑在云端还是端侧,不改变“面向公众生成内容”这一服务性质。从7月15日“Apple智能”等7款、到9月23日“YOYO Claw”等3款连续公告可以看出,监管的立场非常明确:端侧生成式AI不仅需要备案,而且被当作独立场景重点审查。
对企业的实际影响是:采用“端云混合”架构的产品,端侧模块与云端模块可能都要纳入备案范围;通过OTA向存量手机推送AI功能的厂商,等于向所有存量用户“新上线”一项生成式AI服务,同样落在备案义务之内。这也是报道中“前者解决能不能卖、后者解决能不能全量上线”一说的法律内涵——没有备案,硬件卖得出货,AI功能也不能放开使用。
三、智能体产品上线前合规清单
结合已公告端侧备案案例的审查逻辑,建议智能体产品团队在提交备案前完成以下准备:
一,架构与数据梳理。画清数据流图:哪些数据留在本地、哪些上传云端、境外用户数据是否回流境内服务器。端侧强调“本地处理”是卖点,但如果训练数据、遥测数据、崩溃日志上传了境外服务器,就同时触发数据出境合规问题。
二,权限分级设计。为智能体的每类操作建立风险分级:读信息可提示后执行,写操作需逐次确认,支付、删除、向第三方发送内容等高危操作设二次验证和频次限制,并保留操作日志供审计。
三,内容安全双轨制。端侧本地模型负责实时拦截,云端负责策略更新与样本回流,两套机制都要有测试报告。备案材料中的安全评估不是走形式,实际演示不通过会直接卡住上线节奏。
四,公示义务落地。已在显著位置或产品详情页公示模型名称与备案号的产品可以做参照:备案完成后,在设置页、功能介绍页同步公示,这既是《暂行办法》的明文要求,也是应用商店审核时的核查项。
广东华商律师事务所潘杰峰律师点评
广东华商律师事务所潘杰峰律师提醒:端侧AI备案连续公告传递的信号是,监管不因技术架构变化而放松要求,反而对“系统级权限+生成能力”这对组合保持高压关注。深圳及大湾区聚集了大量智能体硬件创业团队,常见误区是把备案当成拿证前的最后一步——实际上安全评估、权限设计、内容过滤的证据准备至少要提前三到六个月启动,否则硬件量产排期会被合规流程卡死。建议团队在立项阶段就把备案路径写入产品规划,涉及境外数据回传的,同步评估数据出境路径。
FAQ
Q1:智能体手机厂商自己不做大模型,还要备案吗?
A:要看服务由谁面向公众提供。如果厂商调用已备案的第三方模型对外提供服务,自身仍属于服务提供者,需要按接入了已备案模型的情况履行登记或备案手续,并在产品中如实公示所用模型名称与备案号;如果厂商基于第三方模型做了微调形成新模型对外服务,一般需要以自身名义重新备案。把“模型是别人的”当作免责理由,在监管和实践层面都站不住。
Q2:海外版智能体产品不在境内提供,需要国内备案吗?
A:仅面向境外用户提供、不在境内落地推广的,不属于《暂行办法》的境内备案范围。但两点要特别注意:一是境内用户通过切换区域、代下载等方式使用,实践中监管仍可能认定构成向境内公众提供服务;二是产品若涉及将境内用户数据传至境外训练或推理,需要另行评估数据出境合规。建议出海产品做隔离设计,避免境内流量“顺带”进入海外版本。
