热点解读

AI虚拟伴侣拟禁向未成年人提供:网信办新规征求意见稿合规要点

国家网信办起草的《国务院关于保障未成年人健康安全使用网络的规定(征求意见稿)》已公开征求意见,截止日期为2026年10月17日。征求意见稿明…

📅 2026-10-05✍️ 潘杰峰 律师👁 热点解读

国家网信办起草的《国务院关于保障未成年人健康安全使用网络的规定(征求意见稿)》已公开征求意见,截止日期为2026年10月17日。征求意见稿明确禁止向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务,并首次将"诱导情感依赖的算法模型"列为禁止性事项。做AI陪伴、角色扮演、智能体交互类产品的企业,应在征求意见期内完成用户识别、分级拦截和算法自查三项改造,不要等产品正式出台后被执法倒逼整改。

一、从"管内容"到"管关系":监管逻辑的第三级跳

中国对AI产品的监管经历了三个阶段:第一阶段管"生成什么",《生成式人工智能服务管理暂行办法》确立训练数据合规与生成内容责任;第二阶段管"标不标注",《人工智能生成合成内容标识办法》要求显式与隐式标识;第三阶段从2026年7月15日《人工智能拟人化互动服务管理暂行办法》施行开始,管"人机之间建立了什么关系"——要求提供者明确告知用户正在与AI而非自然人交流,并防止产品利用人的情感脆弱性诱导有害依赖。

本次征求意见稿把这条监管线又向前推了一步:不仅禁止向未成年人提供虚拟亲密关系服务,还把"诱导情感依赖、沉迷以及过度消费的算法模型"本身列为禁止对象。这意味着合规审查的对象从"内容输出结果"延伸到"留存与商业化机制的设计意图"。对企业而言,这是一个实质性变化——即使每一次生成内容都合法合规,只要算法以提升未成年人使用时长、付费频次为优化目标,就可能落入禁止范围。

二、"虚拟亲密关系服务"的边界到底怎么划?

征求意见稿列举了两类禁止服务:陌生人网络社交、虚拟亲属与虚拟伴侣等虚拟亲密关系服务。目前文本尚未给出"虚拟亲密关系"的定义,企业需要按文义与体系两个维度预判边界。

从文义看,"虚拟亲属、虚拟伴侣"是示例,"等虚拟亲密关系服务"是兜底,判断核心不在产品叫什么名字,而在交互设计是否持续模拟亲密人格与情感联结。《人工智能拟人化互动服务管理暂行办法》已把"持续提供模拟人类人格特征、思维习惯与沟通风格"的服务纳入监管,智能客服、知识问答、工作助手、教育科研产品因不涉及持续情感互动而被排除。可以预见,正式出台的规定会沿用类似的功能主义标准:一个AI角色扮演产品,如果主打"每日互道晚安""记住你的生日""只对你一人温柔"等情感陪伴功能,即便包装成"学习搭子""虚拟笔友",也难以排除在禁止范围之外。

从体系看,这一禁止性规定与《人工智能拟人化互动服务管理暂行办法》"禁止向未成年人提供虚拟家庭成员或虚拟伙伴"的要求是叠加而非替代关系。新规出台后,面向成年人市场合规运营的拟人化产品,也必须先解决"未成年人用户识别"这个前置问题,否则无法证明自己没有向未成年人提供服务。

三、算法"诱导情感依赖"如何自查?三个可操作标准

"诱导情感依赖"听起来抽象,但落到产品设计上是可以拆解的。建议企业法务与算法团队共同按以下三条自查:

第一,优化目标审查。推荐、推送、留存相关模型的目标函数中,是否包含以未成年人会话时长、次日回访率、付费转化率为直接优化指标?如有,需评估是否构成"诱导沉迷、过度消费"。《生成式人工智能服务管理暂行办法》第十条本就要求采取有效措施防范未成年人过度依赖或沉迷,本次新规把这一原则细化为对算法模型本身的禁止性要求。

第二,交互策略审查。是否存在"断联焦虑"式设计——例如连续未登录时AI主动发送挽留话术、以"我很想你"触发重新打开、用虚拟礼物和亲密等级体系刺激持续消费。这类设计对成年人尚属灰色地带,对未成年人将被直接认定为诱导依赖。

第三,付费路径审查。未成年人模式下,订阅、打赏、抽卡式付费入口是否可一键关闭?《个人信息保护法》第三十一条要求处理不满十四周岁未成年人个人信息须取得监护人同意,结合征求意见稿的监护人协同要求,消费限额与监护人控制应成为标配而非增值功能。

四、上线前合规清单:留给企业的窗口期只有两周

意见反馈截止2026年10月17日,参照近年同类规定的落地节奏,正式出台后通常不会再留长整改期。建议企业在窗口期内完成四件事:

一,重建用户识别能力。结合实名信息、行为特征做未成年人概率识别,识别结果联动内容、功能、付费三级策略,并留存识别日志备查。

二,梳理产品服务类型。凡含持续情感交互、角色扮演、虚拟陪伴功能的,对照拟人化办法逐项检查:AI身份告知、未成年人拦截、极端情绪干预与自伤风险响应、两小时时长提醒是否落实。

三,整改算法与商业化设计。移除或降级以未成年人为对象的时长、付费优化目标,关闭未成年人模式下的诱导性推送与付费入口。

四,参与立法反馈。对识别义务的合理性、虚拟亲密关系的定义边界、过渡期安排等有异议的,在10月17日前通过官方渠道提交意见,把不确定风险转化为规则确定性的机会。


广东华商律师事务所潘杰峰律师点评

广东华商律师事务所潘杰峰律师提醒:这份征求意见稿对AI陪伴类产品是实质性利空,"虚拟亲密关系服务"的兜底表述覆盖面会很宽,靠改名、换皮规避大概率无效,唯一稳妥的路线是把未成年人彻底挡在门外并留好识别证据。深圳及大湾区做AI情感陪伴、虚拟人交互的创业团队尤其要注意两层风险:一是产品端的责令下线与处罚,二是应用商店、投资机构尽调中日益普遍的未成年人保护专项核查。建议在10月17日截止前完成自查改造,同时借征求意见渠道就识别义务的可执行性表达行业意见。

FAQ

Q1:征求意见稿现在有约束力吗?企业必须马上整改吗?

A:征求意见稿本身尚未生效,但两点现在就有约束力:一是《人工智能拟人化互动服务管理暂行办法》自2026年7月15日起已施行,禁止向未成年人提供虚拟家庭成员或虚拟伙伴、要求极端情绪干预等义务已经有效;二是清朗专项行动已把AI应用乱象列为整治重点。新规出台后通常按"新业务新规、旧业务限期整改"处理,现在改造成本最低。

Q2:我们的AI聊天产品只面向成年人,是否受影响?

A:受影响的不是服务对象而是识别义务。新规禁止的是向未成年人提供虚拟亲密关系服务,成年人市场的拟人化产品可以继续运营,但前提是能证明具备未成年人识别与拦截能力。若无识别机制、放任未成年人注册使用,一旦发生纠纷或执法检查,"只面向成年人"的抗辩很难成立。

Q3:"虚拟亲密关系"包括哪些产品?AI学习陪伴、虚拟笔友算吗?

A:定义尚未最终明确,判断标准预计是功能导向而非名称导向:是否持续模拟人格与情感联结、是否以情感陪伴为核心卖点、是否使用亲密称谓与专属感设计。纯知识问答、作业辅导类工具风险较低;以"情感陪伴"为宣传点、设计了亲密等级或专属互动的产品,建议从严按禁止范围自查,必要时咨询专业律师做产品定性。

潘杰峰 律师
广东华商律师事务所 · 深圳执业律师
AI合规与数字法律 · 复合背景 · 计算机科学 × 工商管理 × 法学
📞 咨询微信:13590105082
法律咨询:1000元/小时

有 AI 合规或数字法律问题需要专业意见?

潘杰峰律师提供 AI 产品合规设计、AI 民事争议、数据出境、
计算机类刑事辩护、知识产权(诉讼+非诉)等专业法律服务
法律咨询:1000元/小时

立即咨询 微信 13590105082

在线咨询预约

填写以下信息,潘律师会在24小时内联系您

公众号 AI合规 二维码

扫码关注公众号「AI合规」

每日 AI 法律资讯、监管动态、案例解读、
实务合规清单,与本网站内容互补更新。