AI出错谁来赔？人工智能法专家建议稿勾勒责任与救济框架

AI辅助诊断出错、自动驾驶事故、算法拒贷——现行法律下受害人常面临"找不到责任主体、证明不了过错、赢了官司拿不到钱"三重困境。浙江大学9月24日发布的《人工智能法专家建议稿》给出系统方案：按实际控制能力划分研发者、提供者、部署者、使用者四类主体的义务，高影响系统强制投保责任险，国家设救济基金兜底，AI歧视纠纷中举证责任向企业转移。需要明确的是，建议稿只是学术建议、不具有法律效力，但它勾勒的方向值得每一家AI企业和AI应用企业提前布局。

一、AI出错该找谁说理？现行法的三个堵点

堵点一是主体链条长。一个大模型从预训练、微调、平台分发到场景部署，可能跨越五六家企业，受害人往往只接触最前端的应用方，责任在链条内部层层稀释。堵点二是算法黑箱。训练数据、模型参数、决策逻辑都在企业手里，受害人要证明"AI的判断错了、错在哪、和损害有什么关系"，几乎注定举证不能。堵点三是赔偿能力。即便认定了责任，小型开发者可能根本赔不起，判决书变成"法律白条"。

现行规则并非空白：《民法典》第1165条的过错责任、产品责任制度，《个人信息保护法》第24条的自动化决策条款，《生成式人工智能服务管理暂行办法》对服务提供者的义务要求，都能覆盖一部分场景；司法实践也在个案中先行突破——上海法院在AI声音侵权案中，只要权利人证明声音存在被获取的合理渠道且合成语音高度相似，即转由平台就训练数据来源合法性举证；多地法院在AI合成肖像、克隆声音案件中陆续认定委托方与实施方的共同侵权责任。这些裁判缓解了个案中的举证困境，但分散的规则拼不出一套完整的救济体系，这正是专家建议稿出现的现实背景。

二、四类主体按"实际控制能力"担责，意味着什么？

建议稿把全生命周期主体分为研发者、提供者、部署者、使用者四类，义务跟着对系统的实际控制能力走，不得以"不具有其他身份"为由脱责。这个设计直击"层层转包、责任层层稀释"的行业痛点：部署者最了解运行环境，就承担运行环境的安全义务；提供者掌握模型能力边界，就承担风险提示义务。

两个细节值得企业特别注意。其一，基础模型设定连带责任，但为开源留了出口——已履行文档说明、风险提示义务的开源模型提供者原则上不担连带责任，故意隐瞒重大缺陷或实质参与违法应用的除外。与会律师"模型开源不等于训练数据合规"的提醒，直指开源社区的普遍盲区。其二，智能体的行为"不得径行拟制为用户的真实意思表示"——智能体自主执行造成的法律后果，不能当然归到用户头上。这对把智能体用于支付、签约、客服承诺的企业是重大信号：必须在产品层面限制智能体的意思表示权限，否则出现纠纷时企业与用户之间的责任划分将非常被动。

三、保险加基金，能否解决"赢了官司拿不到钱"？

建议稿借鉴了《道路交通安全法》的强制责任险加社会救助基金模式：医疗、司法、金融信贷等高影响系统强制投保人工智能损害责任险，在责任主体不明、无力赔偿或赔偿不足时由基金先行补偿。这一设计的价值在于把AI风险的最终承受者从"个案受害人"转向"行业风险池"，而保险公司出于费率压力，会反过来推动企业做好安全测评与风险整改——保险成为市场的隐形监管者。

要注意建议稿划定的"高影响"范围相当宽：用于医疗、司法、金融信贷等场景并实质影响实体性决定的系统，以及能直接改变物理环境、面向脆弱群体大规模部署的系统，都被推定为高影响；且明确不得仅以模型规模、算力或单一综合得分决定高影响认定。这意味着判断标准是"任务和场景"，而不是"参数量"，中小厂商做医疗咨询、信贷风控同样落入范围。

对企业的直接影响是成本结构变化：投保将成为高影响场景的市场准入条件，未依法投保的可被责令暂停运营。建议AI医疗、金融风控、自动驾驶相关企业现在就评估可承保性——安全测评报告、日志留存、人工接管机制，未来既是合规文件，也是保险核保材料，两套投入可以合并为一套工程。

四、立法落地前，企业现在能做什么？

第一，按四类主体框架做一次自查，明确自己在各业务链条中的身份和对应义务，避免"自以为是使用者、实际构成提供者"的错位。第二，把自动化决策的解释义务做实，《个人信息保护法》第24条已要求对个人权益有重大影响的自动化决策提供说明，举证责任向企业倾斜是司法趋势。第三，留存训练数据来源、模型版本、决策日志，这既是抗辩证据也是免责基础。第四，跟踪立法进程——国家发展改革委7月已表态"加快人工智能法立法进程"，建议稿中的制度很可能分批进入正式草案，AI核心业务企业应建立立法跟踪与影响评估机制，而不是等法条生效后再突击合规。

---

广东华商律师事务所潘杰峰律师点评

广东华商律师事务所潘杰峰律师提醒：专家建议稿虽无法律效力，但司法实践已经在向"控制力定责、举证责任向企业倾斜"的方向移动，AI声音侵权案中的举证责任倒置就是先声。对AI企业，当务之急是把训练数据合法性、模型风险提示、决策日志留存三件事做扎实，这决定了未来诉讼中的攻防位置；对传统企业，采购或部署AI系统时应通过合同明确部署者与提供者的义务分配和赔偿安排，不要指望出事后"找到谁算谁的"。涉及AI医疗、金融信贷场景的客户，可以提前做一次责任保险可行性与费率评估，把合规投入转化为可承保的风险画像。

FAQ

Q1：《人工智能法专家建议稿》是法律吗？对法院判案有约束力吗？

A：不是法律，只是学术机构提出的立法建议，对法院没有约束力。截至2026年9月30日，人工智能法草案尚未提请全国人大常委会审议。但建议稿反映的"按控制能力定责""保险加基金兜底"等思路与《民法典》《个人信息保护法》现行规则及司法趋势兼容，可作为企业合规设计的前瞻参考。

Q2：用户被AI系统错误拒贷或降权，现在能起诉吗？

A：可以。现行依据主要是《个人信息保护法》第24条：通过自动化决策方式作出对个人权益有重大影响的决定，个人有权要求个人信息处理者予以说明，并有权拒绝仅通过自动化决策的方式作出决定。实践中可主张侵害个人信息权益或一般人格利益，要求企业就决策的正当性承担说明和举证义务。

Q3：企业使用开源大模型二次开发，出了问题要担责吗？

A：要区分角色。开源模型提供者已尽文档说明、风险提示义务的，原则上不承担连带责任，但故意隐瞒重大缺陷或实质参与违法应用的除外；而基于开源模型做微调、面向公众提供服务的主体，作为提供者或部署者独立承担责任。"模型开源"不能替代自身的数据合规、安全评估与内容管理义务。