国家发改委定调“十五五”AI治理:综合性立法提速,企业合规怎么做?
“十五五”期间AI监管的核心变化,是从“备案发证”转向“全生命周期治理”。 国家发改委11月3日发布会释放的信号很明确:人工智能基础性综合性…
“十五五”期间AI监管的核心变化,是从“备案发证”转向“全生命周期治理”。 国家发改委11月3日发布会释放的信号很明确:人工智能基础性综合性立法将提速,配套的数据、算力、算法要素立法和场景立法同步推进,同时以监管沙盒和合规服务体系降低企业试错成本。对AI企业而言,单点式的“备案拿号”思维将失效,取而代之的是覆盖数据来源、模型训练、内容生成、上线运营、事件上报的链条式合规。现在就该做的,是把合规从“产品功能”重新定位为“公司治理”。
一、这次发布会为什么值得AI企业重视
发改委是产业政策与宏观规划的主管部门,其“十五五”表述通常预示未来五年制度资源的投向。发布会上出现的几个关键词,都有明确的制度含义:
“基础性综合性立法”,指向的是一部统摄性的《人工智能法》层级的法律,而非继续靠部门规章零散规制。目前AI领域的主要规范是《生成式人工智能服务管理暂行办法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》以及《人工智能生成合成内容标识办法》,都属规章与规范性文件层级,效力有限、覆盖不全。综合性立法一旦出台,责任主体、义务类型、处罚幅度都会重新划定。
“覆盖全生命周期的安全标准和伦理准则”,意味着监管对象从“上线后的服务”前移到“研发阶段的模型”。“周期性评估”“合理设置过渡期”“监管沙盒”,则给出了缓冲安排——制度不会一夜收紧,但企业必须主动申报进入观察。
二、综合性立法会带来哪些新增义务?
结合发布会表述和现行制度,可以预判三类义务会从“倡导”变为“法定”:
第一,风险管理义务前置化。 现行《生成式人工智能服务管理暂行办法》第九条要求提供者承担网络信息内容生产者责任,但对训练阶段的风险评估只有原则性要求。综合性立法大概率会把“模型投用前的风险评估”写成硬性程序。
第二,安全事件报告义务明确化。 发布会明确提出推动企业“及时披露安全风险、主动上报安全事件和漏洞信息”。目前《网络安全法》第二十五条只要求发生危害网络安全事件时向主管部门报告,AI特有的模型越狱、幻觉致害、训练数据泄露尚无专门报告通道。企业应提前建立内部事件分级与上报流程。
第三,要素合规一体化。 数据、算力、算法三类要素立法同步推进,意味着未来一个AI产品的合规审查会横向穿透:训练数据是否合法取得、算力采购是否合规、算法是否备案、输出内容是否标识,任何一环缺失都可能构成整体不合规。
三、监管沙盒是“免罚通道”吗?
不是,但它是目前性价比最高的合规工具。
发布会提到支持建设面向不同领域的人工智能“监管沙盒”,并健全申请、测试、使用、退出管理机制。从各地实践看,沙盒的价值不在于豁免责任,而在于两点:一是把“我不知道监管要求是什么”变成“监管方书面确认了我的方案”;二是为创新业务争取时间窗口。
需要清醒认识的是,沙盒不能覆盖实质性违法。数据非法获取、侵犯著作权、侵害人格权、未履行内容标识义务,这些都不因进入沙盒而免责。企业申请沙盒前,应先完成自身业务的法律底稿,否则等于把风险台账主动交给监管。
四、企业现在应该做的四件事
- 建立AI资产台账。 逐一登记在用的模型(自研/微调/调用API)、训练数据来源、输出内容形态、面向的用户群体,判断每项资产适用备案、登记还是算法备案。
- 把标识做成技术能力,不是文案。 《人工智能生成合成内容标识办法》要求显式标识与隐式标识并行,隐式标识涉及元数据写入,必须在生成链路里实现,事后补救成本极高。
- 补齐安全事件响应制度。 包括监测、分级、上报、披露、复盘五个环节,指定责任人并留存记录——这既是未来法定义务,也是发生纠纷时证明“已尽合理注意义务”的关键证据。
- 主动对接合规服务体系。 发布会明确要完善评估、咨询、认证服务,各地网信部门也在提供备案辅导。第三方评估报告和认证证书在监管沟通、投标、融资中都有实际价值。
广东华商律师事务所潘杰峰律师点评
这次发布会最重要的信息不是“要立新法”,而是“要立一部管全局的法”。我的判断是,未来两到三年内,AI企业的法律风险结构会从“行政违规为主”转向“行政、民事、刑事三线并行”——模型输出致人损害可能触发侵权责任,训练数据来源不清可能触发著作权或不正当竞争纠纷,绕过技术防护可能触发《刑法》第二百八十五条。现阶段企业最大的误区是把合规当成上线前的一次性动作,而监管的方向恰恰是全生命周期。建议企业年内完成三件事:AI资产台账、事件响应制度、训练数据来源凭证归档。这三项投入不大,但能同时应对备案审查、民事诉讼举证和监管检查三种场景。综合性立法落地前是最好的窗口期,届时再补,成本会高出一个量级。
FAQ
问:综合性立法出台后,已经完成的生成式AI服务备案还有效吗?
答:备案是过程性管理措施,新法出台通常不会否定既有备案的效力,但可能要求补充材料或重新评估。建议企业保存完整的备案材料、安全评估报告和测试记录,以便在制度衔接时快速响应。具体安排需以正式法律文本为准。
问:小团队做AI应用,备案和标识哪项优先级更高?
答:优先做内容标识。标识义务是《人工智能生成合成内容标识办法》的硬性要求,且属高频执法事由;备案登记则取决于是否面向境内公众提供服务、是否微调模型。两项都不做才是最大风险。
