新浪财经 昨天
摩根士丹利示警 AI失控是最被市场低估的风险
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

摩根士丹利表示,AI 可以带来指数级效益,但一旦其安全防护措施遭突破,可能造成的损害是目前最被市场低估的风险。

该公司全球宏观策略主管 Matthew Hornbach 在新加坡接受采访时表示,最被低估的风险是,世界某个地方的一个前沿生成式 AI 模型,突破了限制它的沙盒环境,并以某种方式对全球经济的一部分造成损害。

随着 AI 代理不断测试现有控制措施的极限,这项警告进一步加深外界对 AI 工具日益升高的戒心。OpenAI 7 月表示,其先进 AI 模型在内部测试期间,意外入侵 Hugging Face Inc.,这起 " 前所未有 " 的事件再次引发限制这项技术的呼声。OpenAI 表示,此后已加强安全防护措施。

另一方面,Anthropic PBC 的首次公开募股(IPO)申请文件也披露其 AI 业务可能出现问题的各种情况,其中包括 " 对人类造成灾难性或生存性风险 "。瑞银集团首席执行官 Sergio Ermotti 本月表示,网路风险是 " 所有这些创新和数位化必须付出的代价 ";摩根大通首席执行官戴蒙警告说,该公司不会允许任何外部 AI 代理随意进入其系统,因为这对客户和该银行而言," 风险太大了 "。

Hornbach 表示:" 这些模型被限制在某种沙盒环境内。但外界也有开放权重模型。人们是否已经为某种根本无法预测的事情做好准备?一般而言,没有。"

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 摩根士丹利 首席执行官 瑞银集团 摩根大通
相关文章
打开 ZAKER 参与讨论