图像类AI产品怎么合规设计？AI模特图的六道产品闸门

AI模特图本身不违法，违法的是一边用AI生成、一边对消费者宣称实拍。广州中院已有生效判例支持退一赔三，胜负手不在图是AI生成的，而在商家那句“都是实物拍摄”。对图像类AI产品，合规只要守住三条线：商品核心信息不得失真、不得作实拍或真人试穿类虚假陈述、不得省略显式与隐式双重标识。三条中任何一条失守，面临的都是民事惩罚性赔偿、市场监管按虚假广告查处、平台下架三重后果叠加。

一、判例真正判的是什么

按公开通报，消费者支付四百余元购买两件女士上衣，下单前专门询问图片模特与衣服是否实拍，商家答复“我们店铺的图片都是实物拍摄”，并提供了模特身高、体重及尺码信息。收货后发现花纹、版型与图片明显不同，经查涉案商品图片均系AI生成，详情页仅有AI图，既无实物照片，也无任何AI生成说明。法院支持了退货退款及三倍赔偿。

这个案子的关键可以被一句话说清：法律评价的对象是陈述，不是工具。 商家明知图片非实拍仍作确定性陈述，构成欺诈；AI只是让这类虚假陈述变得可以批量生产。

反向结论同样重要。如果AI图基本如实呈现商品，商家也主动标注了AI属性，消费者再以“不是真人试穿”为由主张三倍赔偿，法律上缺乏依据。合规与不合规之间，差的不是用不用AI，而是有没有如实说明、有没有失真。

二、三条责任路径可以并行

路径一，消费者权益保护法。 经营者提供商品或服务有欺诈行为的，应按消费者要求增加赔偿其受到的损失，增加赔偿的金额为价款的三倍，不足五百元的为五百元。这条路径的举证重心是消费者因虚假陈述陷入错误认识并作出购买决策。

路径二，广告法。 商品的性能、功能、产地、用途、质量、规格、成分等信息，或者服务的内容、提供者、形式、质量等信息，与实际情况不符且对购买行为有实质性影响的，构成虚假广告。服装的面料、版型、上身效果恰恰是消费者决策最依赖的核心信息。这条路径不要求证明“陷入错误认识”，从广告内容本身的真实性义务出发，市场监管部门可直接查处，罚款力度通常高于民事赔偿。

路径三，生成合成内容标识义务。 依《人工智能生成合成内容标识办法》，对AI生成的图片应在显著位置添加用户可明显感知的显式标识，并在文件元数据中嵌入隐式标识。《生成式人工智能服务管理暂行办法》第十二条同时要求，不得删除、篡改、伪造标识，也不得为他人删除、篡改、伪造标识提供工具、软件或服务。

三条路径互不排斥。一笔交易可能同时触发退一赔三、行政处罚与平台处置，这就是“三重后果叠加”的真实含义。

三、不标“AI生成”，到底违不违法？

违法，而且服务提供者与内容发布者都跑不掉，两者义务来源不同。

对生成工具的服务提供者，标识办法要求在生成环节即添加显式标识，并在导出文件中保留元数据。这意味着工具不能提供“一键去除标识”的功能，连提供相应接口都可能构成违规。

对商家、代运营、MCN等内容发布者，要求是对生成内容进行标识，不得删除、篡改、伪造，也不得为他人实施上述行为提供工具或服务。转发、二创、二次上传同样落入义务范围。

实务中最常见的两个漏点。

一是元数据。 不少团队做了角标，但图片经过压缩、裁剪、转存后元数据被清空，也未重新嵌入。监管核查时直接读文件属性，缺一项即构成未落实标识义务，与角标做没做无关。

二是混合图的误判。 有人认为“AI生成背景、真人拍模特”可以豁免。判断标准是成品中是否存在生成合成成分，只要有，就落入标识义务范围。

四、AI模特“撞脸”真人，风险点在可识别性

《民法典》第一千零一十九条规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权；未经同意不得制作、使用、公开他人肖像。肖像权保护不以“一模一样”为前提，司法实践的核心标准是：AI生成的虚拟形象是否足以使一般社会公众或相关领域公众，通过面部特征、体态等外部形象识别出特定自然人。只要“让人认出是谁”，风险就已经产生。

产业链上风险最高的两类操作。一是把真实模特照片作为生成素材——这同时涉及肖像许可与个人信息处理两重问题，模特授权若只覆盖“本次拍摄”，用于训练模型即超出范围。二是向商家提供换脸功能，允许上传任意他人照片替换——除肖像权外，还可能触发深度合成管理规定下的合规义务。

如果生成形象同时使用了真实模特的姓名、艺名等身份指向性信息，姓名权与个人信息权益的侵害可能同时成立。

五、监管与平台侧的三个信号

第一，举证责任在向经营者倾斜。 一旦消费者举证图片与实物存在明显差异且商家作过实拍陈述，商家需要证明自己已如实披露，而不是消费者需要证明商家故意。

第二，平台开始把标识纳入商品审核。 商品详情页的图片属性、元数据完整性正在成为可核查项，删改标识的账号存在被限流或下架的风险。

第三，成本结构在改变。 生成一张失真图的成本只有几块钱，而一次三倍赔偿加一次行政处罚的成本是它的上千倍。用人工“看一眼再上架”的方式管控，在单价趋近于零的生成能力面前已经失效，唯一可行的是在产品链路里加机器闸门。

六、六道产品闸门

1. 默认开启双层标识。 显式角标不可关闭、不可折叠进二次点击才可见的层级；导出时写入元数据，对二次编辑后的文件自动重新嵌入。
2. 设人体结构失真校验。 生成后、导出前加一道自动检测，对肢体数量、关节角度、头身比例设阈值，超阈值直接拦截或转人工。三条腿这类图不该出现在商家面前。
3. 锁死“实拍”类宣称。 在产品侧对描述文案做关键词拦截：凡使用AI生成图的商品，后台无法勾选“实物拍摄”“真人试穿”标签，从源头切断虚假陈述。
4. 建立素材来源台账。 逐条记录训练与生成素材的授权文件、授权范围、期限与转授权限制，重点核查肖像许可是否覆盖商业推广用途。
5. 做可识别性筛查。 对生成结果做人脸比对，命中公众人物库或未授权模特库即告警，阻断输出。
6. 留存生成日志。 提示词、参数、生成时间、操作账号、导出记录一并保存，既是合规证明，也是被诉时的抗辩基础。

七、三个常见误区

1. 以为标注了AI就万事大吉。 标识解决披露义务，不解决失真与虚假陈述。图是假的、话是骗的，标了也要赔。
2. 以为只有真人图才涉及肖像权。 虚拟形象只要可识别到特定自然人，就落入肖像权规制。
3. 以为改了图库就没事。 已发布的商品页、已投放的广告素材、已寄存的历史版本，都是可被取证的对象。

广东华商律师事务所潘杰峰律师点评

这类纠纷的责任分配有一个容易被忽略的特点：AI工具提供方和商品销售方承担的是两套完全不同的义务。前者是标识与素材合规，后者是广告真实性与消费者告知。任何一方认为自己只是提供工具或只是用了工具，都不构成免责理由。我在实务中见到最多的错误，是商家把AI图当作成本优化手段，却在页面上保留“实拍”这类原有话术模板——这在诉讼中是致命证据，因为它直接证明主观明知。建议电商企业立刻做一次全店AI图盘点，把带“实拍”“真人”字样的商品页全部清理，并同步在详情页加注AI生成说明。另需提醒，直播场景同样适用，主播口播“所见即所得”与详情页的实拍表述，法律评价是一致的。以上分析基于公开判例与现行规范，具体案件的认定仍需结合证据判断。

FAQ

问：商品图是AI生成的，但基本还原实物，会被认定欺诈吗？

答：不会仅因AI生成就被认定欺诈。欺诈的核心构成是经营者作出虚假陈述、消费者因此陷入错误认识并作出购买决策。如果AI图如实呈现商品的颜色、版型、材质，且商家未作“实拍”“真人试穿”等确定性陈述，或已明确标注AI生成，则缺乏欺诈的事实基础。反之，即便图片是真实拍摄，但经过重度修图导致核心信息失真并作确定性陈述，同样可能构成欺诈。判断标准是信息真实性，而非生产工具。

问：只标注角标，不写元数据，算不算落实标识义务？

答：存在被认定未落实的风险。标识办法同时要求显式标识与隐式标识，隐式标识体现在文件元数据中。监管核查可通过读取文件属性完成，且技术上门槛很低。许多团队做完角标后，图片经压缩、裁剪、转存，元数据被清空且未重新嵌入，这在核查中会直接暴露。建议在产品流程中把元数据写入做成导出环节的强制动作，而不是依赖人工留意。

问：我们只是给商家提供AI生图工具，商品页面怎么写不是我们控制的，要担责吗？

答：有两层判断。第一层是标识义务，工具方在生成环节即须添加显式标识并保留元数据，不得提供去除标识的功能，这一层不因商家如何使用而免除。第二层是共同责任，若工具方以“生成实拍级模特图”“无需标注”等话术招揽客户，或在明知商家用于虚假宣传的情况下仍提供定制化服务，可能被认定存在过错。降低风险的做法是：在用户协议中明确禁止用于虚假宣传、在产品侧限制“实拍”类标签的生成、对异常高频生成行为做提示与留痕。