AI生成低俗广告被罚30万：AI产品合规设计中谁为内容导向负责？

用AI批量生成广告物料，法律责任不因"机器画的"而减轻。市场监管总局在2026年10月13日公布的典型案例中明确：AI只是生成工具，不改变广告主、广告经营者、广告发布者的主体责任——浙江衢州一家酒吧使用AI生成消费护士形象的低俗广告，被依据《广告法》罚款30万元。对做AI内容生成产品的企业而言，这起案件指向合规设计的核心命题：把"人工导向审核"固化进产品与投放流程，并全程留痕。

一、案件要点：AI生成不改变违法性认定

本案的广告图片由AI技术生成，但监管的违法性认定与传统广告并无二致：内容消费特定职业群体（护士）形象、含低俗暗示、借"国际护士节"节点博眼球，落入《广告法》第九条关于广告不得"妨碍社会公共秩序或者违背社会良好风尚"以及第九项"含有民族、种族、宗教、性别歧视内容"的规制范围。罚款30万元，对应的是《广告法》第五十七条对发布有法定禁止情形广告的处罚幅度。

值得注意的还有三点背景：一是本次专项治理中，市场监管部门已督促平台拦截、清理涉导向违规素材17.5万条，AI生成内容是重点筛查对象；二是同期公布的其他案例（如某国际日化品牌广告物化女性被罚80万元）表明，广告经营者、发布者同样被追责，责任链条是全链条的；三是执法口径写得很直白——"广告的导向问题与真实性问题是两条独立红线"，即便内容真实，导向违法照样处罚。

二、AI产品合规设计该补的三道工序

第一道：生成端的风险拦截。如果企业的AI产品本身具备广告文案、图片、视频生成能力，提示词工程和模型对齐环节就应内置导向类风险规则：不得生成使用或变相使用国家机关名义、形象的素材；不得生成性别歧视、低俗擦边、消费特定职业或群体的表达；不得涉及封建迷信、英雄烈士姓名肖像。这类规则应写入产品风控清单，而不是依赖模型"自觉"。

第二道：投放前的人工导向审核。AI生成的物料从"创意"到"投放"之间，必须有一道人工对导向的二次判断。审核要点不是审美，而是三问：是否触碰国家机关形象红线？是否含低俗、歧视、消费特定群体的表达？是否涉及英烈、宗教、民族等敏感要素？本案中，酒吧显然是"AI出图—直接投放"，中间没有任何一道审核。

第三道：审核留痕。谁审的、审了哪个版本、结论如何，全部留痕。这不是形式主义——一旦被调查，能否证明"已尽审核义务"直接影响处罚裁量，也是企业内部追责和对外免责抗辩的基础证据。参照《互联网信息服务深度合成管理规定》和《人工智能生成合成内容标识办法》的要求，AI生成内容还应按规定添加显式与隐式标识，标识材料同样纳入留痕范围。

三、AI生成广告是否违法？关键看三个主体角色

《广告法》第二条确立了广告主、广告经营者、广告发布者三类主体责任，AI的介入没有增加第四类"机器责任"，而是让三类主体的核查义务更重了：广告主对最终发布内容负总责，不能以"供应商用AI做的"推脱；广告经营者（代运营、创意公司）对设计的合法性问题不能只管"好看好卖"；平台作为广告发布者或信息服务提供者，对AI生成广告的筛查义务也在专项治理中被反复压实。对企业内部而言，法务、市场、技术三条线要共同签署AI物料上线检查单，把合规责任落到具体岗位。

四、给内容型AI产品团队的合规清单

• 在产品合规文档中写明"数据与素材从哪来、生成内容允许的用途边界"；

• 建立提示词与产出物的敏感词双拦截（输入端+输出端），覆盖导向类违规情形；

• 强制人工审核节点+审核记录存档，保存期限与广告档案要求对齐；

• 按《人工智能生成合成内容标识办法》落实显式/隐式标识，保留水印、哈希等溯源机制；

• 对代理商、代运营等下游合作方，在合同中明确导向合规义务与违约责任，避免"连带挨罚"。

---

广东华商律师事务所潘杰峰律师点评

这起30万元的罚单传递的信号非常清晰：监管部门不关心画面是设计师画的还是AI生成的，只关心发布者有没有把住导向关。实务中大量企业把AI当作"降本增效工具"引入营销流程，却没有同步调整审核流程，这是当前AI产品合规设计中最普遍的盲区。我建议企业把"人工导向审核+全程留痕"写进制度并落实到岗位，同时在与代运营、MCN的合作协议中明确合规责任分配。内容合规的成本远低于一次行政处罚加上舆情危机的代价。

FAQ

问：AI生成的广告内容真实，还会因"导向问题"被罚吗？

答：会。市场监管总局已明确导向问题与真实问题是两条独立红线。只要内容违背社会良好风尚、含歧视或消费特定群体等情形，即便商品信息真实，也可依据《广告法》处罚。

问：广告是代运营公司用AI做的，广告主还要担责吗？

答：要。广告主对发布的广告承担主体责任，委托创作不转移责任。广告主应审核物料并保留记录，同时在委托合同中约定经营者的合规义务，事后可另行追偿。

问：企业如何低成本建立AI广告审核机制？

答：至少做到三件事：制定导向审核负面清单并培训到位；投放前设置固定人工审核节点；审核过程留痕存档。规模较小的企业可用"一单一审一签"的简易流程起步。