【CNMO 科技消息】谷歌可能在为 Gemini 开发一项新的安全功能：当家中的孩子在对话中谈到自残行为时，系统会向家长发送通知。相关信息来自 Android 版谷歌应用 17.73.15 版本未公开的内部代码，若最终落地，将成为现有家长管理工具 " 家庭链接（Family Link）" 的进一步延伸。

谷歌 Gemini

从代码中出现的文字看，功能开启后，孩子一侧会显示一条较为醒目的提示，告知安全通知已经打开；而 Gemini 一旦识别出自伤相关的对话，就会通知家长。现有的家庭链接主要提供应用使用限制、内容过滤等能力，新机制则更进一步——不再只约束孩子能看什么、能用多久，而是尝试从孩子与 AI 的对话内容里判断风险迹象。

这一设计也带来一个绕不开的问题：安全与隐私如何平衡。提早发现有自残倾向的迹象，可能让家长及时介入、提供支持；但如果孩子知道对话内容会被家长知晓，也可能干脆不再向 AI 谈起心理困扰或更严重的问题。对处在青春期的孩子来说，拥有一个能放心倾诉的空间同样重要。如何既不漏掉危险信号，又不挤压这块空间，是这类功能必须回答的问题，而答案大概率不在技术本身，而在提示的方式和边界划在哪里。

谷歌考虑这类功能的背景，是围绕 AI 服务与未成年人安全的讨论正在升温。近期有报道称，谷歌的 AI 搜索功能在与未成年人的对话中涉及自杀相关内容，有家长因此对该公司提起诉讼。此外，应用解析还显示，谷歌正在开发让家长限制 Gemini 每日使用时长的功能，两项能力放在一起看，指向的都是同一件事：把 AI 产品纳入已有的家长监护体系。

版权所有，未经许可不得转载