三易生活 前天
OpenAI上线安全中心,定期公布安全评估结果
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

继此前因部分旗舰模型的安全测试流程过快以及未发布其他模型的技术报告,而受到外界质疑与批评后,当地时间 5 月 14 日,OpenAI 宣布正式上线安全评估中心(Safety Evaluations Hub),用以公布旗下 AI 模型的安全性评估结果。根据 OpenAI 方面表示,该安全评估中心将用于持续发布模型相关指标,并计划在未来的重大模型更新后及时更新网页内容。

具体而言,在安全评估中心的网页中,用户可以看到 OpenAI 的 AI 模型在生成有害内容、越狱(绕过安全限制生成受限内容)、出现幻觉(hallucination)等各种测试中的评分表现。同时 OpenAI 方面承诺,随着时间的推移,将在安全评估中心网页中增加更多的评估项目。

对此 OpenAI 方面表示," 随着 AI 评估科学的不断发展,我们致力于分享我们在开发更具可扩展性的模型能力与安全评估方法方面的进展 ", 以及 " 通过在此分享部分安全评估结果,我们希望外界将更容易理解 OpenAI 系统的安全表现,也期望能够支持整个行业在透明度方面的共同努力 "。

此外值得一提的是,继 4 月 OpenAI 发布新一代大模型 GPT-4.1 系列,其中包括 GPT-4.1、GPT-4.1 mini 和 GPT-4.1 nano,但官方表示这一系列大模型仅通过 API 方式向开发者开放后。日前 OpenAI 方面宣布,应广大用户的要求,即日起将在 ChatGPT 中提供 GPT-4.1。

同时日前有消息源透露,OpenAI 方面或计划在 AI 聊天机器人 ChatGPT 中推出一项名为 Record 的全新功能,旨在提升在线会议的智能化体验。据称通过该功能,用户可以通过 " 拖动说话 "(drag to talk)的方式让 ChatGPT 参与会议互动,并要求其对会议内容进行录音,以及将音频内容快速转为文本,形成详细的会议报告。

【本文图片来自网络】

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

mini nano 聊天机器人 越狱
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论