新浪财经 前天
Anthropic发布Fable 5模型的安全防护措施及AI“越狱”行为评估框架
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

专题:资金追捧中报预喜股 机构称业绩将成为 7 月市场主线

Anthropic 发布一套评估人工智能 " 越狱 "(jailbreak)行为严重程度的拟议框架,并详细介绍了已在全球上线的 Claude Fable 5 模型所采用的网络安全防护措施。

该公司将网络安全相关使用场景划分为四类,从 " 禁止使用 " 到 " 无害用途 " 不等。

被禁止的用途包括勒索软件开发、恶意软件开发以及网络—物理基础设施破坏等活动。

在建立更完善的控制机制之前,对于渗透测试等具有 " 双重用途 " 属性的高风险活动将予以拦截。

Anthropic 提出的网络越狱严重程度 Cyber Jailbreak Severity 评级体系,从 CJS-0 至 CJS-4,共分五级,并依据四个维度进行评估。

Anthropic 还推出了 HackerOne 项目,邀请安全研究人员提交潜在的模型越狱案例。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

越狱 网络安全 软件开发 物理 基础设施
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论