新浪财经 昨天
OpenAI对抗Anthropic的最新举措:承诺不留存客户数据
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

OpenAI 承诺不会留存使用其人工智能模型的企业客户数据,同时提升产品安全能力,意在从竞争对手 Anthropic 手中抢夺客户。不少企业对 Claude 的开发方保存自身业务数据的做法感到不满。

ChatGPT 开发商于周三表示,已向部分客户开放新技术预览。该技术能够跨多轮模型交互行为识别行为模式与安全风险。以往 AI 安全系统只能对单条交互记录逐一监测,若不留存部分客户数据,就很难保障工具得到合规使用;新方案旨在突破这一局限。

该承诺与 Anthropic 现行政策形成鲜明对比:后者为保障最新模型运行安全,会将客户数据留存 30 天。这一做法遭到多位科技行业领袖批评,包括白宫 AI 顾问、风险投资人戴维 · 萨克斯,微软首席执行官萨提亚 · 纳德拉,帕兰提尔公司的亚历克斯 · 卡普。他们提出,企业需要获得确定性保障,确认 AI 厂商不会保存自身数据,医疗、金融等强监管行业对此需求尤为突出。

OpenAI 产品政策负责人阿莉娅 · 豪泽表示:" 企业客户的诉求十分明确,这件事对他们至关重要。很多企业本身就要对自己的客户承担数据责任;这些服务其他企业的服务商,手上掌握着大量高度敏感的数据。"

此举体现出 OpenAI 希望在 AI 竞赛中追赶 Anthropic,同时回应批评声音。批评者担忧该公司产品防护不足,无法防范网络攻击,或是模型失控带来的各类危害。据报道,OpenAI 近期向投资者透露,其二季度营收增速落后于 Anthropic,令部分股东感到失望。

OpenAI 称,客户数据将留存于客户自主管控的基础设施内。该公司同时在研发另一套系统:数据可由 OpenAI 存储,但加密密钥归客户所有。这意味着 OpenAI 员工无法查看用户提示词、模型回复以及其他敏感信息。

当系统从模型使用行为中识别出网络攻击、生物武器相关等高风险活动时,会向 OpenAI 发送信号,用于判断是否需要采取处置动作。客户可对处置结果提出申诉,也可根据需要向 OpenAI 提供更多信息。OpenAI 仅保存这份高度概括的信号记录,仅标注风险等级与风险类别。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

网络攻击 白宫 竞赛 首席执行官 医疗
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论