快科技 6 月 23 日消息,Meta 一项旨在监控员工电脑操作来训练 AI 的内部项目,因发生严重数据泄露事故已被无限期暂停。
这个项目叫 " 模型能力计划 "(Model Capability Initiative,简称 MCI),今年 4 月启动。
Meta 在美国员工的办公电脑上部署追踪软件,全面记录键盘输入、鼠标操作和屏幕内容,用于训练能够自主完成办公任务的 AI 智能体。
Meta 首席执行官扎克伯格曾在内部会议上解释过这一思路:AI 模型可以通过观察优秀员工的工作方式来学习,而 Meta 员工比外包人员更适合提供高质量样本。

然而计划从一开始就遭遇员工强烈不满,今年 5 月,超过 1600 名员工签署内部请愿书要求停止该计划,指出收集这类数据会带来严重的安全和监管风险,包括数据泄露和未经授权披露。
目前 MCI 项目收集的约 4.5 万张数据表因访问控制列表配置错误,被意外向 Meta 内部人员开放,暴露的数据远不止键盘鼠标记录,还包括 " 完整 AI 提示词和转录文本、私人对话、人员和绩效数据 " 等极度敏感的内容,事件在 Meta 内部被定为 SEV 2 级事故,属于较高严重等级。
Meta 首席技术官博斯沃思此前曾向员工承诺,MCI 数据管理 " 受到严格控制 "。但事件发生后,他承认项目的实际执行没有达到隐私审查文件设定的标准,问题出在访问控制列表配置错误。
Meta 发言人确认正在调查此事,并表示 " 目前没有迹象显示数据曾被员工不当访问 ",但 MCI 已在调查期间无限期暂停。
【本文结束】如需转载请务必注明出处:快科技
责任编辑:知微


登录后才可以发布评论哦
打开小程序可以发布评论哦