【友财网讯】- 就在 Anthropic 首席执行官达里奥 · 阿莫迪呼吁行业协同放缓 AI 研发节奏、引发行业震动数日之后,该公司公布了三项新指标,称其能够帮助人工智能企业监测 AI 的发展速度。

该公司上周在一篇博客文章中表示,其内部已经对 AI 驱动的研发工作、智能体监管以及算力分配开展测算,并对外公开测算方法,鼓励其他机构也采用同类方式。这几项指标是阿莫迪周六发布的三步放缓计划的延伸,此前那份计划对于落地实施的具体细节着墨不多。
Anthropic 在上周的博文中写道:" 当全球都在思考如何管控前沿 AI 发展节奏时,我们应当尽最大努力缩小前沿实验室与公众之间的信息差。这意味着要更好地衡量 AI 的发展进度、公开相关报告,让社会有机会决定如何使用这些信息。"
上周末阿莫迪提出放缓 AI 研发的倡议,得到 OpenAI 首席执行官山姆 · 奥特曼、SpaceX 首席执行官埃隆 · 马斯克以及谷歌 DeepMind 主席德米斯 · 哈萨比斯等行业领军人物的支持。在此之前,研究人员已经发出严厉警示,指出 AI 造成危害的潜在能力正在不断增强。阿莫迪表示,他的方案旨在放缓模型能力迭代的速度,同时不会 " 牺牲商业优势,也不会损害美国在 AI 领域的领先地位 "。
第一项指标方面,Anthropic 称,经测算,在其所监测的所有研发工作场景中,Claude 模型尚未实现完全自主运行。
第二项指标搭建了一套系统,用于监控 AI 智能体的行为并在必要时介入干预。测算发现,在公司最常用的内部平台上,任何时刻大约有 3 万个智能体在开展研究与工程类工作。
第三项指标,Anthropic 截取了 7 月 13 日至 7 月 20 日的算力使用快照进行统计。公司称,投入 AI 研发的全部算力中,约 6% 分配用于安全相关工作;而在 "AI 驱动型 " 研发算力里,约 12% 用于安全方向。
Anthropic 表示,这组指标适合展示模型如何被构建,可以和能力评估形成互补——能力评估主要衡量 " 模型能做什么 "。公司称,结合两类信息,实验室以外的第三方就拥有了评估 AI 发展节奏的 " 起点 "。
Anthropic 写道:" 我们希望通过发布这些测算数据,树立透明化的范例,并且会持续对外披露。"


登录后才可以发布评论哦
打开小程序可以发布评论哦