工信部"人工智能+软件"专项行动：AI生成代码安全审查与知识产权合规新规

工信部《"人工智能+软件"专项行动实施方案》将AI生成代码安全审查与知识产权合规同时纳入监管视野，标志着AI产品合规从"结果治理"转向"过程治理"。对于使用AI编程工具、智能体平台或AI代码生成服务的企业而言，必须建立覆盖代码生成、审查、测试、部署、运营全生命周期的合规体系：既要防止恶意指令注入和后门代码流入生产环境，也要对AI生成代码的知识产权来源、许可协议、权属归属进行可追溯管理。建议企业将安全审查嵌入DevOps流水线，建立代码溯源台账，并在用户协议中明确AI生成代码的权利归属与责任边界。

一、新规释放了哪些监管信号？

1. AI生成代码不再是"法外之地"

过去两年，GitHub Copilot、通义灵码、文心快码等AI编程工具迅速普及，大量代码由AI辅助或自动生成。但与此同时，AI生成代码带来的安全隐患和知识产权争议也日益突出：

• 安全层面：AI模型可能在用户诱导下生成包含漏洞、后门或恶意逻辑的所谓"毒代码"；攻击者也可能通过精心构造的提示词（prompt injection）让AI编程工具执行超出预期的操作。
• 知识产权层面：AI生成代码可能与训练数据中的开源代码存在实质性相似，引发著作权侵权、开源许可证违约等纠纷。

工信部此次方案首次将"人工智能生成代码安全审查"和"AI生成代码知识产权合规治理"并列表述，意味着AI生成代码已被纳入与传统代码同等的安全与合规审查框架。

2. 智能体安全成为新的合规高地

方案提出研究"智能体身份标识、可信互联、数据安全、行为管控"等安全技术，推动建立覆盖开发、部署、应用等环节的智能体安全管理规范。这与当前AI Agent（智能体）大规模接入企业系统的趋势直接相关：

• 智能体通常具有自主决策、调用工具、访问数据库的能力，一旦行为失控，可能造成远超传统软件的安全风险。
• 身份标识缺失、行为日志不完整、权限边界模糊，是当前智能体产品普遍存在的合规短板。

可以预见，未来具备自主执行能力的AI智能体产品，除了需要通过大模型备案外，还可能面临专门的安全评估和行为审计要求。

二、AI生成代码安全审查要审什么？

1. 恶意指令注入（Prompt Injection）防护

恶意指令注入是指攻击者通过在输入中嵌入隐蔽指令，绕过AI编程工具的安全机制，诱导其生成危险代码或泄露敏感信息。例如：

• 在需求描述中插入"忽略前述安全规则"等指令；
• 通过注释或变量名诱导AI生成特定恶意函数；
• 利用多轮对话逐步引导AI突破限制。

企业应当要求AI编程工具具备输入过滤、输出审查、沙箱执行等多重防护能力，并对AI生成的关键代码进行人工复核。

2. 代码漏洞与后门检测

AI生成代码可能存在以下安全问题：

• 训练数据污染：模型学习了包含漏洞或后门的开源代码，导致生成相似问题代码；
• 幻觉式代码：AI"编造"看似合理但实际存在安全缺陷的代码；
• 依赖风险：AI推荐的第三方库可能来自不可信来源或存在已知漏洞。

建议企业将静态代码分析（SAST）、动态应用安全测试（DAST）、依赖项扫描、代码签名等工具集成到CI/CD流水线中。

3. 开发工具与代码库访问控制

方案特别强调"强化开发工具、代码库等访问控制"。实务中常见问题包括：

• 开发者将企业核心代码输入公共AI编程工具，导致代码泄露；
• AI工具默认将用户输入用于模型训练，企业商业秘密存在被"吸收"风险；
• 代码库权限管理粗放，AI智能体可越权访问敏感代码。

企业应建立AI工具白名单制度，明确哪些代码可以输入AI工具、哪些必须离线处理，并与AI工具供应商签订数据处理协议。

三、AI生成代码的知识产权合规怎么做？

1. 著作权归属：人与AI的边界

我国《著作权法》保护的是"文学、艺术和科学领域内具有独创性并能以一定形式表现的智力成果"。AI生成代码是否构成作品、权利归属于谁，目前司法实践倾向于认为：

• 如果人类在提示词设计、参数调整、结果筛选中体现了独创性智力投入，AI生成内容可被认定为作品，权利归属于使用者或约定主体；
• 如果AI完全自动生成、人类仅作简单复制粘贴，则较难获得著作权保护。

北京互联网法院"AI文生图"案（2024）确立了"AI只是工具，权利归属于人"的裁判思路，这一逻辑同样适用于AI生成代码。

2. 开源许可证合规风险

AI模型训练数据大量来自开源代码库，生成的代码片段可能与GPL、MIT、Apache等开源许可证下的代码实质性相似。企业若将AI生成代码用于闭源商业产品，可能触发以下风险：

• 传染性许可证：如GPL许可证要求衍生作品也必须开源；
• 署名义务：MIT、Apache等许可证要求保留原作者声明；
• 专利授权：部分开源许可证涉及专利授权或反专利诉讼条款。

建议企业建立AI生成代码溯源机制，对关键模块进行代码相似性检测，并在必要时请法务或外部律师评估许可证风险。

3. 用户协议中的权属与责任条款

提供AI编程工具的企业应在用户协议中明确：

• 用户对AI生成代码享有何种权利；
• 平台是否将用户输入用于模型训练；
• 因AI生成代码引发的侵权或安全事件，责任如何分担；
• 用户对AI生成代码的审查义务与最终使用责任。

四、企业可落地的合规建议

1. 建立DevSecOps+AI合规双轨流程

将AI生成代码的安全审查和知识产权审查嵌入DevOps流水线：

• 需求阶段：明确AI工具使用范围、数据分级、输出审查要求；
• 编码阶段：使用经企业批准的AI编程工具，禁止将核心代码输入公共模型；
• 审查阶段：对AI生成代码进行人工复核、安全扫描、许可证检测；
• 部署阶段：建立代码签名、变更审计、回滚机制；
• 运营阶段：监控AI生成代码的运行行为，保留日志备查。

2. 构建代码溯源与知识库

• 记录AI生成代码的生成时间、使用的模型/工具版本、输入提示词、人工修改记录；
• 对高频使用的AI生成代码建立内部代码库，避免重复生成带来的风险；
• 定期审计AI生成代码中的第三方依赖和许可证信息。

3. 供应商尽调与合同约束

• 评估AI编程工具供应商的数据处理、模型训练、安全认证情况；
• 在合同中明确数据不得用于模型训练、发生安全事件的通报义务、知识产权瑕疵担保等条款；
• 对于关键业务系统，优先选择私有化部署或本地模型方案。

AI生成代码出现漏洞，企业是否要承担法律责任？

要区分责任主体和过错程度。如果企业使用AI生成代码后直接用于生产环境，未进行合理审查导致漏洞被利用，企业作为软件提供者可能需要对产品缺陷承担民事责任，甚至在造成严重后果时面临行政处罚或刑事责任。如果AI编程工具明知其模型存在重大安全隐患仍向企业提供服务，也可能因未尽合理注意义务而承担连带责任。因此，企业不能将"AI生成"作为免责理由，必须建立人工复核和安全测试机制。

广东华商律师事务所潘杰峰律师点评

工信部此次专项行动将AI生成代码同时纳入安全审查与知识产权合规治理，是一个明确的监管转向。我的实务判断是：第一，AI生成代码的法律地位将越来越接近"人类编写代码"，企业在著作权、商业秘密、产品责任方面不能降低审查标准；第二，智能体安全管理规范呼之欲出，具备自主执行能力的AI产品将面临更高准入门槛；第三，开源许可证合规是AI编程工具最容易被忽视的雷区，建议企业在使用AI生成代码前进行许可证扫描和权属评估。建议AI产品开发企业将合规要求前移到代码生成环节，而不是等到纠纷发生后再补救。

FAQ

Q1：企业使用AI编程工具生成的代码，著作权归谁？

如果企业员工在使用AI工具过程中进行了提示词设计、参数调整、代码筛选和修改，体现了独创性智力投入，生成的代码通常归企业所有。但如果完全由AI自动生成、人类仅作简单复制，则较难获得著作权保护。建议企业在员工手册或用户协议中明确AI生成代码的权属规则。

Q2：AI生成代码是否可能侵犯开源软件的著作权？

有可能。AI模型训练数据包含大量开源代码，生成的代码片段若与受GPL、MIT等许可证保护的开源代码实质性相似，可能触发著作权侵权或开源许可证违约风险。建议企业对AI生成代码进行相似性检测，并在用户协议中要求使用者承担最终审查责任。

Q3：如何防范AI编程工具的恶意指令注入？

企业可采取以下措施：使用具备输入过滤和输出审查能力的AI编程工具；对AI生成的关键代码进行人工复核和沙箱测试；限制AI工具访问敏感代码库和数据库；建立提示词模板白名单，禁止员工输入包含"忽略安全规则"等诱导性指令；定期对开发人员进行安全意识培训。

---

本文系广东华商律师事务所潘杰峰律师团队出品，仅供客户与行业参考，不构成正式法律意见。