网信办发布AI大模型三项安全国家标准：训练数据安全基线与政务AI合规框架解读

2026年9月4日，在2026年国家网络安全宣传周新闻发布会上，中央网信办集中发布三项AI安全国家标准——《生成式人工智能服务安全基本要求》《生成式人工智能预训练和优化训练数据安全规范》《政务大模型应用安全规范》。这意味着我国AI合规设计从"部门规章"层面正式下沉到"国家标准"层面，大模型从训练数据采集、模型服务供给到政务场景部署的"全链条安全基线"已经成型。对企业而言，标准虽属推荐性质，但在算法备案、安全评估、政府采购评审中将成为事实上的"合规检查清单"，不及时适配的企业将在备案审批和市场准入环节被卡脖子。

一、三项标准出台背景与监管信号

2023年《生成式人工智能服务管理暂行办法》施行以来，AI服务备案数量快速增长，但训练数据来源合规、内容安全过滤、模型输出可控等核心环节长期缺乏统一的技术标准，监管与企业之间存在"规则笼统、执行各异"的张力。

此次三项标准同步发布，释放了三个监管信号：

信号一：从"服务侧合规"向前延伸至"训练侧合规"。 《预训练和优化训练数据安全规范》直接切入大模型训练数据的采集、清洗、标注、存储全流程，要求企业建立训练数据来源溯源机制与数据安全风险标签体系。

信号二：从"通用安全"向细分场景延伸。 《政务大模型应用安全规范》是首部面向政府部门的AI安全标准，标志着AI监管从"管企业"扩展到"管政企全生态"，政务AI采购将进入"标准准入"时代。

信号三：国家标准与部门规章形成"双层规制"。 《暂行办法》划定法律红线，国家标准提供技术操作细则，二者配合后，执法机构在安全评估、备案审查中可直接引用标准条款作为判定依据。

二、《生成式人工智能服务安全基本要求》核心内容

该标准是三项文件中的"总纲"，对标《暂行办法》第四章安全要求，将抽象合规义务转化为可操作的检查项。

2.1 服务供给安全基线

标准要求AI服务提供者在上线前完成五个环节的安全评估：（1）训练数据安全审查；（2）模型安全测试（含偏见、毒性、价值对齐）；（3）内容过滤与输出安全策略；（4）用户输入与输出日志留存；（5）应急响应与熔断机制。每个环节均设置了具体的测试指标与合格阈值。

2.2 安全评估结果与算法备案衔接

标准明确安全评估报告的格式要求与提交程序，与《暂行办法》第十七条的算法备案制度形成衔接——企业在提交算法备案时，可同步附上依据本标准编制的安全评估报告，监管部门将其作为备案审查的重要参考。

三、《训练数据安全规范》的企业合规要点

这是三项标准中企业最需要关注的文件，因为它直接触及大模型企业的"数据命脉"。

3.1 训练数据来源分类与审查义务

标准将训练数据来源划分为四类：（1）互联网公开采集数据；（2）商业采购/授权数据；（3）用户交互生成数据；（4）合成数据（AI生成数据用于训练）。对不同来源设定差异化的审查义务：

• 互联网采集数据：需建立URL溯源记录，标注采集时间、来源网站、版权状态，并对含有个人信息的网页进行脱敏处理。
• 商业采购数据：需审查授权链条完整性，核实授权范围是否覆盖"AI模型训练"用途。
• 用户交互数据：需在用户协议中明确告知"用户输入可能用于模型训练"并取得单独同意。
• 合成数据：需标注"AI生成"标签，防止"合成数据污染"导致模型退化。

3.2 数据标注安全要求

标准对数据标注环节提出"标注人员资质+标注规则审核+标注质量抽检"三重要求。涉及敏感领域（政治、暴力、色情等）的标注人员需经安全培训并签署保密协议；标注规则需经内部安全委员会审核；标注质量抽检比例不低于5%。

3.3 数据存储与删除义务

训练数据应分类分级存储，敏感个人信息数据须加密存储并设置访问权限。用户行使删除权时，标准要求企业不仅删除原始数据，还需从训练数据集中移除相关样本并记录删除操作日志。

四、《政务大模型应用安全规范》的政策影响

政务AI的"三段式"安全框架

该标准为政府部门使用AI构建了"选型—部署—运行"三段式安全框架：

选型阶段：政府机构选择AI供应商时，应核查供应商是否完成算法备案、是否通过安全评估、是否具备数据本地化存储能力。标准明确，未完成备案的AI模型不得纳入政府采购目录。

部署阶段：政务AI应部署在政务云环境内，训练数据不得出境，模型微调须在受控环境中进行，禁止使用境外云服务进行模型训练。

运行阶段：政务AI输出须经内容安全过滤后方可向公众展示，涉及行政决策的AI辅助结果须标注"AI辅助参考"并保留人工审核记录。

五、独立观点：AI合规设计的三个趋势判断

判断一：标准将实质上具有强制力。 三项标准虽属推荐性国家标准，但在算法备案、政府采购、安全评估、行政执法中将成为"事实上的合规标杆"。企业不应以"推荐性"为由忽视，而应将其作为内部合规检查的"最低线"。

判断二：训练数据合规将成为下一轮执法焦点。 参照2025年以来"清朗·整治AI应用乱象"专项行动的执法轨迹，下一阶段执法重点很可能从"输出内容违规"转向"训练数据违规"。未建立数据溯源机制的企业可能面临限期整改、暂停备案乃至行政处罚。

判断三：政务AI市场将出现"标准壁垒"。 政府采购评审中，未通过三项标准对标自查的AI供应商将被直接淘汰。中小企业若不及早建立标准对标体系，将失去政务市场准入资格。

六、企业标准适配"四步走"建议

第一步：差距分析。 对照三项标准逐条自查，形成"合规差距清单"，重点排查训练数据溯源、标注管理、政务部署合规三个薄弱环节。

第二步：制度建设。 建立训练数据安全管理制度（含数据来源审查、标注质量管理、数据存储删除流程）、安全评估操作规程、政务项目专项合规方案三套制度文件。

第三步：技术改造。 部署训练数据溯源系统（URL记录+版权标注+个人信息脱敏）、内容安全过滤系统（接入标准要求的过滤词库）、数据加密存储系统。

第四步：外部验证。 委托第三方测评机构依据三项标准开展合规测评，获取测评报告作为算法备案附件和政府采购资质证明。每年度至少复测一次，标准更新后30日内完成对标更新。

广东华商律师事务所潘杰峰律师点评

三项AI安全国家标准的集中发布，标志着我国AI治理体系从"立法搭框架"进入"标准填细节"的新阶段，有三点实务判断：第一，风险提示——企业最容易低估的是训练数据安全规范的影响，很多企业还停留在"输出内容审核"阶段，对训练数据溯源、标注质量管理、用户数据删除权的技术实现毫无准备，一旦执法转向训练侧，将措手不及；第二，流程建议——标准适配不能等执法上门再做，应在算法备案前就完成对标自查，将安全评估报告、数据溯源记录、标注质量日志作为备案"标配附件"提交，审批效率将大幅提升；第三，维权指引——被认定不符合标准的企业，可援引《行政处罚法》第五条的过罚相当原则和《暂行办法》中的申诉条款，主张标准属推荐性质、企业已在合理期限内推进适配，争取整改机会而非直接处罚。

FAQ

Q1：三项标准是强制性的吗？企业不遵守会怎样？

三项标准属于推荐性国家标准（GB/T），不具有直接强制力。但在算法备案审查、政府采购评审、安全评估、行政执法中，它们将被作为"合规标杆"参照。不遵守虽然不直接违法，但可能导致备案审批受阻、政府采购资格丧失，以及在安全评估中被认定存在安全隐患。

Q2：政务部门使用AI大模型必须符合《政务大模型应用安全规范》吗？

虽然该标准为推荐性质，但政府采购评审中通常会将其纳入技术评分项。同时，政务数据的安全要求本来就高于商业场景，即使不引用该标准，政务AI也须满足《数据安全法》《个人信息保护法》对重要数据保护、数据本地化存储的强制性要求。

Q3：训练数据中有用户个人信息，用户要求删除怎么办？

依《个人信息保护法》第四十七条，用户有权要求删除其个人信息。三项标准进一步要求，企业不仅要从原始数据中删除，还需从训练数据集中移除相关样本、记录删除操作日志，并在合理期限内完成模型微调以消除该数据对模型的影响。技术实现上需建立"数据溯源-样本定位-模型更新"联动机制。

---

本文系广东华商律师事务所潘杰峰律师团队出品，仅供客户与行业参考，不构成正式法律意见。