钛媒体 昨天
夏天的阿莫迪,在打脸春天的阿莫迪
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

文 | 字母 AI

商界大人物言论的合订本特别好看,因为 " 以今日之我敌昨日之我 " 的发生频率快。公司上市、新品发售,都可能诱发这种爆笑事件。

Anthropic 的老板阿莫迪今天凌晨在个人博客上发布长文《关于 AI 指数级增长的政策方面看法》,内文严肃地阐述了他对当下 AI 行业的看法:

AI 技术在光速发展,堆算力就能让模型的思辨能力 " 指数级增长 " 的 " 缩放定律 " 正在发威。再过一两年,他常说的 " 数据中心内含的天才国度 " 就会出现。为了更好地面对这种未来,他对各种热点公共政策提出了观点一以贯之的建议。

6 月份的阿莫迪如是说,但 2 月 14 日阿莫迪在世界头部科技播主 Dwarkesh Patel 的节目上说的是:

AI 发展的步伐已经快到 " 指数级增长 " 阶段末尾,公众对此缺乏认知。圈子里的大人物除了他没人公开说这个,都在重复说些浅表的、老生常谈的公共话题。

" 数据中心内含的天才国度 "90% 会在十年内出现,至少写代码的全工作链路等 " 可客观验证的任务 " 可以被 AI 完全上手。但写小说、计划成功的火星探险、开发出类似基因剪刀的全新技术,这些" 难以被客观验证的任务 ",十年内 AI 做不成。

到底 2 月份说 "AI 指数级增长即将结束 " 的阿莫迪在说心里话,还是 6 月份说 "AI 指数级增长正在发威 " 的阿莫迪在说心里话?这个问题的答案大家各有心证,我自己的看法是:两个版本的阿莫迪说的是不同时期的真话。

春天的阿莫迪说的是无忧虑时期的心里话,节目上做了著名的 " 指数级挥手 " 手势。按 AI 圈毒舌锐评人、华盛顿大学教授佩德罗 · 多明格斯两年前的玩笑话:" 阿莫迪喜欢这动作。说起 AI 指数级增长,技术越先进,他挥手越快到让人眼花。"

图注:是真的,阿莫迪上 Patel 节目时说起指数级增长,大手挥得视频模糊

夏天的阿莫迪说的是 Fable 5 模型被自家强行降智后公众不满、IPO 即将到来时的心里话,他为了公关,也得重复在 " 浅表的、老生常谈的公共话题 " 上发声站队。

两个版本的阿莫迪可以被一条主线串起来,就是所有版本的阿莫迪都会强调 AI 应该被官方强力规管,不能放任自流。

阿莫迪:竞争对手没做到我厂能做到的,就该被官方管起来

阿莫迪今天的个人博客里,政策措施方面的建议主要有如下几方面:

1、前沿 AI 模型应有强制性的发布前测试和第三方审核。当发现模型具有强烈的网络安全、生物安全、自动化安全、自动化研发安全等方面风险时,政府应该有权力阻止开发者部署存在上述风险的新 AI 模型。

2、AI 公司应该被强制履行更强的安全规范。规范应包括更强力的模型权重的保护、例行的红队检测、穿透性攻击测试、关键安全事件的快速通报。

3、政府应该为了 AI 带来的大范围劳力市场扰动做出预案,预案包括对企业雇佣真人的激励措施、对劳力市场变动的更佳测算、对工作受冲击的就业者的薪资支持、对不熟悉 AI 的就业者的 AI 培训、用 AI 驱动的经济红利来支撑受 AI 冲击的长期失业者的收入支持。

4、西方国家应该在 AI 政策方面有跨国界的合作与交流,涉及方面应有 AI 安全、芯片供应链、AI 产品出口规制、AI 红利共享、涉及 AI 的共同防务交流、共同避免 AI 赋能的民权被压迫。

这些政策建议,用大白话一言蔽之,就是"AI 大厂没做成 Anthropic 能做到的,官方就该好好管一管;如果有的事光靠 Anthropic 做不到,官方更应该亲自主动做 "。

之前字母 AI 聊过包括阿莫迪在内的 AI 灭世论营销,里面提到过 AI 灭世论的下一步就是大厂推动的 " 规管机构俘获 "。看,这不就来了么。这就是业界大人物在游说公众,以此向官方施压,寻求官方出台量身订做、只有自己能通过 / 只有特定竞争对手无法通过的禁止条例。

围观群众门儿清,有网友在阿莫迪发布长文链接的社交媒体贴子下评论:" 你通篇文章的目的,是要推动一种类似《核不扩散条约》性质的官方法规落地,让你自家把做 AI 的机会囤起来。"

你在暗搓搓影射谁呢?

不得不说,在 AI 超级大厂老板里,阿莫迪的确是最有人文素养、写文章最好看的那个。一篇个人博客,看似引经据典总结过去展望未来,实际上既给当下美国掌权者上眼药,又明白陈述自己的游说诉求。

6 月 2 日,美国总统特朗普签署了一项总统令,在政府机构保护美国网络免受 AI 驱动的网络攻击的公众议题上表态。

该总统令表示,美国政府将在开发企业自愿参与的基础上,在 " 前沿模型 " 类的尖端 AI 产品发布前获得权限。总统令还表示美国政府将设立 " 网络安全信息共享中心 "(cybersecurity clearinghouse),负责协调和化解可能威胁网络安全的软件漏洞。政府机构还将制定保密的评估基准,来评估 AI 模型的网络攻击能力,并判断相关模型是否应被纳入此总统令的范围。

总统令最终公开的版本只要求 AI 开发企业的 " 自愿参与 "。关注美国政界游说动态的人都知道,这是 OpenAI 高管们和马斯克以个人身份,给总统家族的政治献金募款机构打够了钱、出足了力,换来的联邦级宽松约束。

然而阿莫迪和他的家人、雇员们,早就开始预备特朗普家族失势后的未来美国政界游说。今天阿莫迪的个人博客,就在表示 " 自愿参与 " 不行,官方要管,就该在产品发布前强制预先干预。

上周官方出了总统令,这周阿莫迪的针锋相对就来了。

阿莫迪的行文思路是,先用《指环王》里的树人典故,表示 AI" 指数级增长 " 已经将社会带到发展路径的分岔口,而当下立法机构和行政部门的动作节奏,就像打个招呼要耗一整天的 " 树人 " 一样,再不抓紧就跟不上技术演进的速度。

文章越往后,阿莫迪给当下美国决策核心上眼药的辞句就越明显。阿莫迪写道,自家的 Mythos 模型是 "AI 无与伦比的权能和风险 " 的最佳例子。

按阿莫迪的原文," 规制 AI 不能仅靠商家自己的透明度,官方需要更严肃地推出更有约束力的法规……我认为,在 AI 指数级增长的当下阶段,最符合的比拟是对汽车、飞机、新药的同力度规制。AI 和这些产品一样,都既是现代经济不可或缺的科技产物,也是设计运行时稍有不慎就会大批量死人的风险品。"

" 人类现在在全球和集体层面,需要激活以往蹒跚不灵的公共政策机构,让这些机构更灵光地处理极速沉淀的风险与机遇。"

如此既斯文又指桑骂槐的老辣笔力,AI 圈大人物里只数阿莫迪一人。换了其他大人物,要么没这文化,要么没这倾向,来和阿莫迪一道,指着美国总统阴阳怪气:

你们官老爷不是管车企、药企细致到螺丝钉与分子式么。怎么,咱们 AI 企业是不配被这么管么?是咱们的 AI 产品一旦出错死的人更少,还是你们官老爷太僵化、太不与时俱进?

围观者:我不信阿莫迪,他对政府软了,对 Fable 5 用户强硬

阿莫迪长文,在社交媒体上引发的反响并不完全正面。很多人即使承认阿莫迪的观点有道理,也表示这个人不行。

原因无他,前言不搭后语,再加上顾客不满,哪怕阿莫迪舌灿莲花,大家心里还是有怨气。

比如春季闹得沸沸扬扬的 "Anthropic 和美国国防部打官司 " 纠纷中,Anthropic 坚定地表示 AI 大模型不该用在 " 全自动致命武器 " 上,杀人机器人脑子里不能跑自家的 Claude 模型。

靠着这种正义姿态,Anthropic 收获了几乎所有人的支持。专业人士出具支持它的 " 法庭之友 " 文书,科技从业者联署公开信力挺它。普通消费者用流量投票,在事发后的 2 月 27 日,Claude 的美国单日下载量环比飙升 37%,之后一天再涨 51%,成为美国当周最热 AI APP。

春天的阿莫迪有多招人支持,夏天的阿莫迪就有多令人失望。他的长文里,提到 "AI 与全自动致命武器 " 时,立场比春天退了太多:

" 全自动致命武器 " 应有可靠性指引机制。其本体与制导、统筹的自动化软件,必须在实践中引入可追责、可由外界直接停止的功能。AI 公司和防务部门,要么让独立的司法审议机构拥有 " 全自动致命武器 " 的即停权限,要么在训练驱动的 AI 时就加入服从第三方监督机构的功能。

" 全自动致命武器 " 不能在美国国内的执法部门中部署。

这种表态,跟春天的决心抵抗五角大楼的姿态一比,判若两人。

之前世界人民都以为阿莫迪坚决反对 "AI 驱动终结者 ",过了四个月,阿莫迪说自己反对的是终结者没有法官可以按的关机键、警方用终结者。Anthropic 的老板春天表示自己有誓死不退的底线,夏天表示虽然自己誓死不退,但底线是有弹性的、可以后缩。铮铮铁骨一个季度后变成裤腰带。

对着五角大楼逐渐唯唯诺诺,对着普通消费者开始重拳出击,阿莫迪的长文公关在 Fable 5 降智风波时发布,说得再有理也没人买账。

Claude Fable 5 公开后,系统卡文档里表示为了防蒸馏、控制生物武器风险," 将在不通知用户 " 的情况下主动降智。

落实后,就是这两天铺天盖地的用户投诉:

普通用户问 Fable 5 " 细胞膜 / 线粒体是啥 "、" 花粉症的成因 "、" 哮喘药物的作用原理 "、" 抗生素耐药性如何产生 ",这模型拒绝作答,对话窗口显示 " 跳转到 Opus 4.8"。

有生物医药学家在不使用隐身模式隐藏个人信息时,对着 Fable 5 说句 " 人类 "、" 癌症 ",被 AI 照此办理了。此生物学家在两次碰壁后,对 Fable 5 说句 "Hello",结果也被拒绝作答和显示跳转。

图注:现场截图

很多业界人士在社交媒体上表示不满。大家的意见是:降智可以,在防蒸馏成为主旋律的可见未来,AI 被降智不可避免。然而" 在不通知用户的情况下 " 降智,属于蓄意商事违约,坐实了五角大楼对 Anthropic 的 " 供应链风险 " 指控。

AI 业界评论家迪恩 · 鲍尔称:" 老实说,要是 Fable 5 的降智闹剧发生在 Anthropic 与五角大楼的争执之前,我都没法说 Anthropic 好话。Fable 5 不告知即自动降智,是一家公司在明目张胆地告诉顾客‘我们保留搞你的权利’。"

OpenAI 的产品评估部门骨干布莱恩 · 斐欧卡的表态更斩钉截铁:" 鉴于 Anthropic 的举动,我将在此前为其辩护的‘法庭之友’文书上撤销自己的署名,我不能凭良心承认 Anthropic 不构成供应链风险。"

在此事出圈后,即使 Anthropic 已经表示 Fable 5 将在降智前通知用户,阿莫迪的长文也不会有预期中的说服力了。一个季度就变脸的商家,没谁会信任这种人的表态。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

莫迪 ai 数据中心 自动化 大人物
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论