三易生活 22小时前
OpenAI推出青少年版ChatGPT,安全机制引质疑
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_font3.html

 

近日,OpenAI 推出面向 13 至 17 岁用户的 ChatGPT 青少年版,将通过年龄识别机制自动将未满 18 岁的账号切换至这一版本,并限制部分功能。随后有相关报道显示,多位儿童安全专家表示相关机制仍需要更多独立测试,尤其是在年龄识别准确率、风险内容审核以及家长参与机制等方面,OpenAI 方面需要公布更多数据。

据悉,ChatGPT 青少年版的核心机制之一是自动年龄识别。有儿童安全专家对年龄识别的准确性提出了疑问。Common Sense Media AI 与数字评估负责人罗比 · 托尼就表示,OpenAI 方面目前没有公布这套系统的效果数据,包括误报率和漏报率,因此无法判断其能否稳定识别青少年用户。此外有专家认为,青少年用户可能会尝试绕过用户年龄识别。

对于 ChatGPT 青少年版的风险内容处理,OpenAI 青少年与家庭事务负责人劳伦 · 乔纳斯表示,所有被系统标记的相关内容都会先由 OpenAI 全职员工审核,之后再通知家长,目标是在用户发出提示后一小时内完成通知。对此,儿童网络安全倡议组织 Fairplay 执行董事乔什 · 戈林等专家希望 OpenAI 进一步公布每天被标记和审核的对话数量、审核人员规模以及平均审核时长等数据。

此外在家长监督机制方面,按照目前的设置,家长需要主动与孩子绑定 ChatGPT 账户才能使用相关功能。乔什 · 戈林认为,家长主动使用监督工具的比例可能有限,并提出将使用时间限制默认开启的方式作为保护机制。

事实上,OpenAI 近年来一直在推进面向青少年用户的安全措施。此前在 2025 年 9 月,OpenAI 方面推出家长控制功能,并随后在 11 月公布 " 青少年安全蓝图 "( the Teen Safety Blueprint),旨在保护青少年、增强青少年能力并为青少年创造更安全的体验。

进入 2026 年后,4 月 OpenAI 方面宣布,在全球范围内为 ChatGPT 引入年龄预测功能。据悉,该功能通过分析账户存续时间、活跃时段及交互模式等行为信号来评估用户年龄,一旦识别到用户为青少年,系统将自动启用适龄安全设置,包括去除广告内容,以及强制拦截血腥暴力、危险挑战、不良角色扮演、自残及极端审美等内容。

【本文图片来自网络】

加入收藏 点赞 ( 0 ) 踩 ( 0 )

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

the 罗比 执行董事 效果 网络安全
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论