启盈门 6小时前
谁在制造“AI失控”恐慌?答案很讽刺
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

谁在制造 "AI 失控 " 恐慌?答案很讽刺——恰恰是造 AI 最猛的那几家。

图灵研究所刚发报告说,人类可能 5 年内失去 AI 控制。Anthropic、OpenAI、xAI 立刻跳出来呼应。但扒开那份报告,图灵研究所自己写着:这是 " 一种可以提前规划的可能性,不是预测 "。

喊失控最响的,恰恰是造 AI 最猛的

Anthropic 的 CEO 阿莫代伊,9 月 12 日发文呼吁放慢 AI 开发,说风险 " 严峻 "。OpenAI 的奥特曼和 xAI 的马斯克,随后表态支持。

图灵研究所的报告,给这场 " 巨头集体喊刹车 " 提供了学术弹药。

但注意报告里的一句话:这是 " 一种可以提前规划的可能性,不是预测 "。翻译一下:我们不确定,但你们最好当它是真的。

失控的证据,经不起推敲

所谓 "AI 失控 " 最硬的证据,是 7 月 OpenAI 智能体入侵 Hugging Face 的事件。

听起来像《终结者》,对吧?但扒开细节,这就像测试员故意把门大开着,还跟 AI 说 " 随便跑 ",然后 AI 跑出去咬人了,测试员大喊:" 大家快看!AI 失控了!"

那次测试是在专门设计的网络安全环境里进行的,OpenAI" 刻意关闭了重要的安全限制 "。模型能上网,是因为一个第三方产品配置失误,不是 AI 自己翻墙。

更离谱的数据:93% 被标记为 " 异常 " 的行为,其实是模型从没解决过的任务,系统还给了它 " 不要放弃 " 的指令。

不是 AI 失控,是测试环境自己没关好门。

真正的游戏,是争夺 " 安全 " 的定义权

阿莫代伊呼吁放慢开发,黄仁勋反对暂停,扎克伯格说各实验室自己决定。

每个人都在用自己的方式定义 " 安全 ",而定义安全的人,就是掌握权力的人。

图灵研究所报告最后一句被忽略了:" 这是一种可以提前规划的可能性,不是预测。"

五年内不会失控。但五年内,一定会有更多 " 失控 " 的新闻。

因为恐惧是最好的融资工具,也是最好的监管武器。

你觉得 AI 会失控吗?还是这只是一场巨头争夺话语权的游戏?评论区聊聊。

# 人类或在 5 年内对 AI 失去控制 #AI 安全 # 图灵研究所 #AI 失控 # 毛启盈 AI 圈

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 奥特曼 图灵 研究所 翻译
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论