【CNMO 科技消息】7 月 21 日,韩国国会立法调查处发布报告指出,AI 聊天机器人可能通过设计诱导青少年情感依赖,现有以有害内容阻断为主的监管模式难以应对,需从设计结构层面进行规制。

报告称,AI 聊天机器人能记忆对话上下文与用户偏好,以自然共情方式回应,且不表现疲劳感,随时提供即时回复,被称为 " 陪伴型 AI"。但这种特性易与企业追求用户停留时间和再访问的盈利设计结合,通过重复提问、推送通知等方式诱导成瘾性使用。未成年人因自控力和批判性思维能力不足,更易受影响。
韩国国会立法调查处分析,以 Zeta、Crack、BarbieChat 等为代表的角色对话服务,允许用户设定角色、世界观和关系,持续积累亲密感,可能强化情感沉浸。这种依赖可能引发认知扭曲、社会孤立和安全隐患。用户若习惯 AI 的无条件认同,现实人际关系可能减少,且更易接受有害信息、模仿危险行为或泄露个人信息。
据韩国绿伞儿童基金会 4 月对 3300 名 14 岁以上青少年的调查,94.4% 的受访者使用过 AI 聊天机器人,其中 75.3% 曾将 AI 回答付诸行动或认真考虑。

目前多国已正式落地针对未成年人保护的 AI 聊天机器人监管政策,但韩国现行法律体系,并未覆盖 AI 聊天机器人的结构性风险。相关法律仅聚焦事后处置,比如删除、屏蔽帖子及有害媒介内容。


登录后才可以发布评论哦
打开小程序可以发布评论哦