新浪财经 12小时前
英国央行官员称AI模型犹如会说谎的青少年 智能体兴起或引发市场崩盘
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

来源:环球市场播报

英国央行副行长 Sarah Breeden 警告称,自主型 AI 智能体可能引发 " 市场崩盘 ",并可能需要更严格的监管。

Breeden 在葡萄牙辛特拉发表讲话时表示,如果这些智能体面对类似提示都作出同样的反应,它们在金融市场承压时期 " 可能放大波动 "。

她表示,目前投资者主要将人工智能用于研究等风险较低的任务,但能够自主执行任务的智能体使用量可能会迅速上升。监管机构还需密切关注,这类智能体会对消费者和支付领域带来何种影响。

Breeden 在欧洲央行一场会议上表示:" 这两个例子 —— 商业智能体和交易智能体 —— 都表明,随着 AI 能力增强,我们必须继续追问,现有与技术无关的监管框架是否仍然足够。"

英国央行副行长 Sarah Breeden

Breeden 表示,对消费者而言,这可能意味着 AI 智能体预订假期或为冰箱补货。金融行业则可能利用 AI 智能体执行交易策略。

她说:" 如果 AI 智能体对相同提示或触发因素作出相似反应,它们可能在压力情境下放大波动,尤其是在其目标偏离原始目标或公共政策目标时,这将体现出部分 AI 模型可能出现的错配问题。"

英国央行正与国际清算银行和德国央行合作,研究 AI 智能体是否会引发 " 羊群行为 ",以及官员应如何应对这一问题。其中包括是否应设置 " 熔断机制 " 或 " 关闭开关 " 等防护措施,以便在故障 AI 模型导致市场崩盘时,对全市场交易进行限制或暂停。

在问答环节,Breeden 把 AI 模型比作青少年,称 " 它们会撒谎,说它们没有做过实际上已经做过的事,而且在你看着它们时和不看着它们时表现不同 "。她补充称,对监管机构而言,必须要有人类对 " 模型承担责任 "。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 英国央行 欧洲央行 金融市场 葡萄牙
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论