12 月 27 日，国家网信办发布《人工智能拟人化互动服务管理暂行办法（征求意见稿）》。新规首次针对 "AI 情感陪伴 "，将其定义为模拟人类特征、思维模式和沟通风格，进行情感互动的产品或者服务。

国内 AI 情感陪伴市场已经较为成熟，主流模式是由 AI 扮演虚拟角色，通过聊天推进剧情。用户可以自创 AI 人设，还可以付费语音通话、解锁专属记忆等。AI 产品榜 11 月数据显示，星野（MiniMax）月活已经达到 488 万人，猫箱（字节跳动）以 472 万紧随其后，两者断层领先。X EVA（红棉小冰）也有 181 万月活，筑梦岛（腾讯阅文）则在 60 万月活左右。 

高活跃度背后，是已经基本跑通商业模式的公司。星野的运营公司 MiniMax 近期向港交所递表，招股书披露，星野和其海外版 Talkie 在今年前九个月创造了约 1.2 亿人民币的收入，用户每天在这两款情感陪伴产品上平均花费超过 70 分钟。

但正因为深度陪伴与高粘性，用户成瘾、情感操纵、未成年人保护一直是 AI 情感陪伴绕不开的隐患，也是本次《征求意见稿》想要重点回应的现实问题。

在预防成瘾方面，《征求意见稿》要求交互界面显著提示并非真人互动。一旦发现用户连续在线超过 2 小时，应以弹窗等方式动态提醒暂停使用，同时交互界面需要有清晰的退出选项。 

《征求意见稿》还对内容安全提出进一步要求。系统必须能够检测情绪困扰或依赖行为，如果发现用户明确提出自杀、自残等极端情况，需要由人工接管对话，并及时联系监护人和联系人。这也意味着未成年人和老年人用户在账号注册时，就需要提前补充相关信息。

最受行业关注的，是对训练数据的严格限制。《征求意见稿》第十五条明确，除非取得用户 " 单独同意 "，不得将用户交互数据及敏感个人信息用于大模型训练。

同时要注意的是，《征求意见稿》多次强调生命周期责任，AI 情感陪伴不仅要在设计阶段考虑安全问题，还要在运行、更新和关闭过程中留意，包括持续的安全监控、持续的风险评估、及时纠正系统偏差以及妥善记录。 

可以看出，动态监管的新模式越来越明显，而非把 AI 视为一成不变的静态问题。那么如果《征求意见稿》正式落地，国内现有产品需要补哪些课？

21 记者在 12 月 28 日梳理了星野、猫箱和筑梦岛三款头部产品，最主要的改动可能会在训练数据授权上。目前，这三款产品均在《隐私政策》中写明，会使用匿名化的对话交互信息用于模型训练和服务优化，采取的是默认同意逻辑，而非单独授权——这也是市面上大多 AI 产品的做法。

同时，三款头部产品目前也未提供便捷的同意 - 拒绝授权开关。它们都在《隐私政策》中表示，如果用户不希望自己的输入内容用于大模型训练，需要发邮件联系公司撤回。

在 AI 标识上，三款产品的交互页面都有 " 由 AI 生成 " 标识，但字号、颜色和透明度可能很难称之为 " 显著 "。此前，社会上已发生多起用户误将 AI 当作真人，甚至线下赴约见面的案例。

（左图：猫箱交互页面的 AI 标识，为一行白色半透明小字；右图：星野《隐私政策》中对授权数据训练大模型的说明）

相比之下，内容风控是目前完成度最高的环节。我们从业内了解到，国内大模型对自杀等高风险内容，单纯拦截并非主流做法，因为拒答率过高会损伤用户体验，这往往是公司在实际运营中希望压低的一项指标。

目前的风控流程通常是，大模型识别到用户输入词存在风险，先判断问题类型，再调用另一套敏感问题知识库或安全代答大模型。" 比如有自杀倾向输入，属于需要正面引导的回答。AI 会回复引导用户寻求心理医生帮助，或与家人、朋友沟通。" 数美公司相关负责人此前告诉 21 记者，该公司为国内多款产品提供 AIGC 内容风控。

但预防自杀仍有难点。此前一位 AI 合规业内人士向 21 记者指出，社交平台可以结合评论、搜索、浏览内容构建用户画像，从而判断是否存在自杀倾向，但大模型往往只能基于当下输入词做语义判断。更现实的问题是，不少用户已经熟悉如何虚构情节、绕开 AI 安全审核，这使得 AI 产品很难做到与社交平台相同深度的自杀干预。

放到全球语境中看，AI 情感陪伴引发的安全事件这几年不断累积，已成为少数几个同时引发立法机关、行政部门和司法系统关注的人工智能领域。美国、欧盟及亚洲多国，都在推进针对性的规则建设。 

今年 6 月，国内 AI 陪伴软件 " 筑梦岛 " 因低俗擦边内容，被上海网信办约谈。平台被要求立即整改，健全 AI 生成合成内容的审核机，尤其是加强涉未成年人不良内容的清理。

在美国，知名产品 Character.AI 因被指控其互动诱发青少年自杀行为，正面临多起家属起诉。而意大利的数据保护机构还对另一头部产品 Replika 处以重罚，责令其暂停数据处理并修复年龄验证机制中的缺陷。

目前，美国已在州层面专门针对 AI 情感陪伴立法，重点指向防沉迷和未成年人保护。纽约州在今年 11 月要求，所有 AI 陪伴产品必须明确告知用户 " 这是人工智能，不是真人 "；加州则在 10 月签署法案，规定企业在明知用户为未成年人时，必须每隔三小时弹窗提醒休息。该法案将于 2026 年初生效。