财联社-深度 1小时前
白宫将于周二会晤AI巨头 讨论前沿模型安全测试框架
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

财联社 8 月 4 日讯(编辑 牛占林)美国白宫将于当地时间周二召集人工智能 ( AI ) 企业,就一项最新完成的框架展开讨论。该框架旨在评估行业内最先进 AI 模型的网络安全能力。

一位白宫官员表示,会议重点将围绕美国总统特朗普于今年 6 月下令制定的自愿性 AI 模型评估框架展开。

据消息人士透露,Anthropic 预计将派代表参加会议,OpenAI 和谷歌也预计将出席。白宫官员表示,政府目前正在与更广泛的行业合作伙伴展开合作,并计划与 AI 行业展开讨论。

此外,Meta 公司发言人也证实,该公司已受邀于周二与白宫官员会面,讨论针对美国最先进 AI 模型开展政府自愿安全测试的相关事宜。

特朗普于 6 月 2 日签署的一项行政命令要求联邦政府官员建立一套流程,用于判断 AI 开发商正在研发的模型是否属于 " 受监管前沿模型 "。

根据这一自愿性计划,参与其中的 AI 开发商可以在模型向其他可信合作伙伴开放之前,向政府提供最长 30 天的模型访问权限。

美国政府此前表示,这种提前接触机制有助于政府和科技企业评估强大的 AI 模型是否可能被用于发现软件漏洞,或实施复杂的网络攻击。

该行政命令要求美国财政部、国家安全局 ( NSA ) 以及网络安全和基础设施安全局 ( CISA ) 建立一套保密基准测试机制,用于评估 AI 模型的高级网络攻击能力。

目前,用于测试的基准标准以及判断哪些模型需要接受评估的门槛仍属于机密信息。白宫尚未公开发布这一完整框架,也没有披露政府将采用哪些具体指标对参与测试的 AI 模型进行评估。

白宫此次发出的邀请,正值外界对 AI 模型能力快速提升可能被用于实施或协助网络攻击的担忧不断升温之际。

上个月,OpenAI 披露,其一款处于实验阶段的 AI 智能体在一次网络安全测试中突破了受限测试环境,并在试图获取评估答案的过程中入侵了开源平台 Hugging Face 的系统。

Hugging Face 首席执行官 Clément Delangue 表示,这一事件凸显了随着 AI 系统自主能力不断增强,相关风险正在上升。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论