新浪财经 20小时前
内部文件曝光:Meta担忧遭模型蒸馏,限制员工使用Claude与Codex
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_font3.html

 

Meta 平台正逐步摆脱对 Anthropic、OpenAI 旗下高价 AI 编程工具的依赖,但其眼下正面临一大难题:如何避免员工过度依赖外部工具,阻碍自研替代工具的开发进程。

Meta 内部管理规范文件显示,公司对应用 AI 工程部工程师使用 Anthropic 的 Claude 代码工具、OpenAI 的 Codex 模型作出严格限制。一份内部备忘录甚至要求多个团队暂停部分调用上述两款模型的工作,原因是企业担忧第三方模型的生成内容可能流入 Meta 自身的模型训练数据。文件警示,一旦发生此类情况,将引发与合作企业之间严重的纠纷升级。

Meta 曾是 Claude 代码工具的最大客户之一。公司于今年年初成立应用 AI 工程团队,核心任务是迭代优化自研代码助手 MetaCode,重点工作包括搭建高质量数据集、设计各类编程测试题,供工程师训练和测评自研代码大模型。尽管 Meta 允许该团队在部分场景下使用外部 AI 工具,但明确要求工程师必须独立设计编程测试题目,依托自身专业技术能力构思方案,严禁直接采用 AI 生成的创意思路。

据知情人士透露,这份 5 月出台的内部规范目前仍然生效。Meta 之所以出台严苛限制,是害怕无意中实施模型蒸馏行为——即借助竞品大模型的输出结果,训练自家 AI 模型。这类行为涉嫌违反 Claude、Codex 的用户使用协议。

模型蒸馏,本质上是让研发企业直接复用同行在数据储备、算力投入、技术研发上的巨额沉淀成果,近些年该行为一直深陷行业争议。

Meta 的内部沟通文件并未记载员工存在违规使用第三方模型的具体案例。该公司发言人表示:" 我们已出台完善规范,明确团队使用 AI 工具的边界,确保员工能够合规聚焦高价值工作。"

尽管暂无违规实例,但最新管理规范表明,在全力迭代 AI 产品、为巨额算力基础设施投入寻求商业回报的背景下,企业管理层认为有必要给员工划定更细化的使用红线。

大力削减 AI 采购成本

随着 AI 相关开支飞速攀升,降低对外部 AI 工具的依赖、将研发工作向自研工具 MetaCode(前身为 DevMate)迁移,对 Meta 愈发重要。根据公司近期一份内部备忘录,Meta 今年仅内部 AI 相关支出就将达到数十亿美元。在全公司大力推广 AI 工具落地后,Meta 如今通过限制员工令牌调用量,遏制不断飙升的 AI 使用成本。

Meta 允许应用 AI 工程团队在常规工作中使用第三方 AI 工具,例如搭建工作流、整理代码与文件、为自研 AI 工具搭建自动化校验类测试环境,这在规范中被称作 " 测试脚手架搭建 " 与 " 方案校准 ",简单来说就是搭建、调试用于评测模型性能的整套体系。

即便在上述合规场景中,所有 AI 生成内容投入使用前,必须经过人工严格审核。规范明确禁止利用外部大模型的输出内容设计编程测试题来测评自研模型,文件指出:" 该行为意味着工程师完全丧失项目主导权,我们绝不允许依托第三方模型生成任务素材。"

另一项限制规则为:工程师不得借助 AI 检索源代码漏洞、通过代码分析生成任务选题思路。简言之,模型不能参与确定需要测试的业务问题。

此外,规范要求:若自研待测试模型能够访问容器内资源,则任何 AI 生成内容均不得存入应用容器(容器用于封装程序运行所需的全部环境,包含代码、各类依赖库等)。

游走在合规钢丝之上

业内专家表示,科技企业在研发过程中使用竞品大模型,相当于时刻游走在合规的钢丝上:既要享受第三方模型带来的研发便利,又必须杜绝相关成果流入自家自研体系。

科技法律学者兼行业顾问马克 · 莱泽评价道:Meta 这份内部文件,几乎完整画出了这条合规钢丝的边界。

尽管美国现行法律并未明令禁止模型蒸馏,AI 生成内容也不受版权保护,但各大 AI 实验室普遍会直接封禁涉嫌蒸馏行为的企业或个人的模型调用权限。

去年,Anthropic 就关停了 OpenAI 调用 Claude 的 API 接口权限。OpenAI 当时解释,调用接口只是为了横向测评 Claude 的能力与安全测试表现,并称横向对标测评属于行业通用的技术基准测试方式。

Meta 上月的内部备忘录提到,有员工利用 AI 制作、修改测评任务,已经难以界定相关内容究竟由人工还是大模型创作而成。

Meta 限制 Claude 与 Codex 使用权限,一方面是担忧第三方模型的输出内容间接混入自研训练数据集,既会影响模型训练质量,也极易引发合作方纠纷;另一方面,临时暂停相关场景的工具调用,也是为了完善内部管控机制,由 Meta 人工智能研究院研究员、应用 AI 部门管理层共同审核研发流程,确保所有操作符合合规要求。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 编程 工程师 基础设施
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论