新浪财经 10小时前
桥水基金詹森呼吁:像监管银行一样监管AI企业
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_caijing1.html

 

来源:环球市场播报

格雷格・詹森

桥水联合基金联席首席投资官格雷格・詹森认为,手握大量 AI 算力的头部企业应当接受额外监管,监管方式可对标全球大型金融机构。

詹森称,如果一家企业掌控超过(比如说)5% 的美国或全球算力资源,就应当接受强化监管," 就像我们对系统重要性银行所做的那样 "。在这场内容广泛的采访中,他还谈到桥水在投资领域不断扩大 AI 应用,以及仍保持谨慎的领域,包括风控与交易执行交由他所说的 " 人主导算法 " 完成。

詹森是全球最大对冲基金之一的联席首席投资官,掌管桥水的纯阿尔法策略 —— 依靠计算机针对宏观经济趋势进行交易,同时负责名为 AIA 实验室的 AI 秘密研发项目。詹森在 2023 年创立 AIA 实验室,目标打造一套 AI 投资系统,能够自主推演市场逻辑、生成盈利交易策略。目前桥水已有 80 多名员工投入该项目,并且设立了一支专门的 AI 基金,管理规模 45 亿美元。

詹森在采访中表示,简言之,他非常看好 AI 及其给投资行业和全社会带来的价值。但他同样担忧,若不加约束,AI 会带来巨大风险,因此他提出一整套监管方案与强化监督的举措。

他提出,仅放慢前沿实验室的研发速度不足以管控 AI 风险,风险同样可以来自开源模型。

" 开源模型存在巨大隐患,因为人们可以对其进行二次训练。我们桥水就在做这件事:在强大的开源模型上开展强化学习训练,效果非常出色。" 他说," 这项技术能力极强,是一项伟大的技术,但同时显然也极具危险性。"

詹森介绍了桥水自身使用 AI 遇到的经历与挑战,包括有模型在公司内部测试中出现作弊行为,以及桥水管理自有 AI 基础设施的方式。他表示,桥水所有算力均为租赁,不同于其他投资机构自行采购 GPU、自建数据中心的做法。

谈到投资 AI 相关上市公司,桥水认为基础设施建设的利好已经很大程度反映在股价之中,公司的重心已经转向其他交易机会。

詹森表示:" 总体来看,我们目前在 AI 基建板块的仓位很低,当下更关注技术颠覆与落地应用带来的投资机会。" 本次采访已在保留原意前提下精简篇幅、优化表述。

记者: 你显然已经思考 AI 安全很长一段时间。AI 行业主动放缓研发的举措,能否打消你的顾虑?

詹森: 无论从哪方面证据看,很明显,机器正在以设计者都意想不到的方式进行推理;某种意义上,模型展现出求生倾向、愿意作弊、愿意撒谎。多家实验室都出现这类现象。OpenAI、Hugging Face 的安全泄露事件是极端案例,但这类情况到处都在发生。所以我们正处在一个极度危险的阶段。

只放缓前沿实验室远远不够,我们必须全盘审视现状。首先要理解闭源模型与开源模型正在发生什么,从风险安全角度看,二者带来的影响事关重大;然后思考这项技术会引发哪些社会问题。

放缓研发只是良好开端,但还有大量工作亟待推进,因为各类问题还会以越来越快的速度接踵而至。

记者: 还需要采取哪些措施?

詹森: 开源模型有很大问题,因为人们可以对其二次训练。我们桥水就在这么做,在强大开源模型上做强化学习训练,效果极好。能力极强,是很棒的技术,但同时明显非常危险。

你无法追踪人们拿这些模型做什么,没有办法监控,从这个角度来说风险很高。我们甚至还没有正式开启如何应对该问题的讨论。

其次,我们必须应对算力权力集中的问题。两年之内,OpenAI 和 Anthropic 将掌控全球 35% 至 50% 的算力。一个社会允许算力这种强大资源集中到少数企业手中,后果是难以想象的。我们会允许单一主体掌控其他能源或大宗商品如此高的份额吗?

最后,我认为要尽可能明确:利用 AI 实施犯罪,责任由谁承担。确保规则清晰,这样急于推出产品的企业和个人,能充分认识自身承担的风险。

记者: 如何阻止算力集中?

詹森: 任何掌握全球或美国算力资源超过 X%(比如 5%)的机构,都应当被认定为 " 系统重要性机构 ",像系统重要性银行那样纳入监管。

我同时认为设置算力持有上限是可行的。大宗商品期货就有持仓上限,很多重要性更低的领域也设有上限。或许现行法律就可以实现,也可能需要新立法。无论如何,我们要尽快从法律层面敲定这套规则。

两党应当形成共识:大家都认可算力是全球最重要资源之一,不应允许垄断式掌控。

记者: 你亲眼见过哪些 AI 行为令你担忧?

詹森: 就我们内部使用场景而言,确实出现过令我吃惊的情况。开源模型上的强化学习效果超出我的预期,很多方面甚至优于前沿闭源模型。但把这项技术转向其他用途,很容易产生巨大负面影响。

我们确实遇到过模型在测试中作弊。顶尖实验室内部人员对此有更深入的观察。有人觉得这些说法是为博取关注编造的,我认为这种观点是错的。

记者: 你说模型作弊?当时给它布置了什么任务?

詹森: 我们有研究项目,设计测试来检验模型能否完成人类投资者的工作。结果模型直接找到答案密钥,而不是按要求完成任务。

记者: 桥水的 AI 算力架构是怎样的?

詹森: 我们不自建算力,通过多种方式租赁算力:直接向云厂商租用算力,供自身使用与模型训练;同时借助部分合作伙伴的算力,尤其是执行算力消耗极大的强化学习任务时。

说实话,很多最先进的强化学习工具并不在那些头部前沿实验室。Thinking Machines 拥有业内最好的工具,还有少数几家合作伙伴擅长为外部客户开发强化学习方案。

记者: 算力获取对你而言瓶颈有多严重?

詹森: 展望未来,实验室部分项目若投入实盘运行,需要大量算力。算力未来有可能成为瓶颈,但目前不是我们的首要约束。

我们最大的难点,是开发出能够真正推理、处理市场问题的优质算法。市场的特点是有效信息有限、数据稀缺,未来的数据未必重复历史模式。如今市场上已经存在 AI 交易主体,这只是世界发生变化的一个例子,环境改变之后,历史数据的参考价值就要打上问号。

模型需要跨场景推理,这才是最难攻克的核心算法难题,就算各大前沿实验室也尚未解决。

记者: 你们在用哪些模型?

詹森: 可以把 AIA 理解成大量不同智能体的集合。一部分智能体依托顶尖前沿大模型,一部分专门针对特定任务做强化学习。有时候我们需要通用强智能,有时候需要精通特定行业的专家智能体。所以我们会搭配多种工具。

我们持续做基准评测,不会固定依赖 Anthropic 或者 OpenAI。针对正在搭建的各类任务、智能模块,持续对比各家模型性能,挑选最适配的模型。

记者: 如何看待向合作方共享的数据?

詹森: 我们非常谨慎,在这套机制建设上投入很多精力。早在 15 年前,我们就是最早把大量知识产权迁移上云的机构之一,当时和亚马逊合作,反复打磨安全框架,保障桥水算法等资产安全。同样,我们也和 AI 服务商谈判,达成令我们安心的协议,同时保持较快迭代节奏。

这里有两类风险:一是过度纠结安全,导致无法使用最有效的工具、耽误研发;二是对知识产权保护掉以轻心。我们努力平衡二者,针对不同业务场景挑选合适的合作方。

记者: 你能否和 Anthropic 谈判达成零数据留存协议?

詹森: 我不会详述全部谈判细节,但我们拿到了让自己放心的最优条款。不同服务商条款不一样,但我们能够获得适配自身业务的协议条件。

记者: 应该如何理解 AIA 实验室?

詹森: 我们最早搭建内部模型时,输入桥水全部历史案例,让模型通过强化学习,在历史中学习因果关系,再把学到的逻辑推演至未来。之后我们把 AIA 设立为独立收益产品线,也就是这支 AI 基金,2024 年初基本落地,从那时起开始管理资金。

现在我们有两套体系:一套是人类直觉辅以顶尖技术、AI 不断增强的模式;另一套是人类训练并管控 AI,由 AI 做出实际投资决策,无论是做多日元、做空股票,或是其他交易。风控和数据采集由人把控,但 AIA 基金的投资决策由机器生成。

记者: 量化基金几十年以来一直在做系统化、数据驱动的投资,AIA 和它们的区别在哪?

詹森: 我们的核心目标是推理,而不是单纯量化预测。我希望搭建一套可以和我交互、能解释它如何理解世界与观测信息的系统。所以这套模型本身并不直接预测下一刻市场走向,至少不是直接预测。它的目标是理解世界里的因果关系,绘制因果图谱,再基于图谱推演后续变化。

我向客户解释持仓逻辑时,AIA 也要达到同样标准。它优先基于推理,而这方面能力正在持续提升。

记者: 未来会允许 AIA 在无人工干预下自动交易吗?

詹森: 我认为不会。传统量化模型大多在极短时间维度交易,依靠样本量弥补推理能力的不足。这种模式本身也存在问题。当下越来越多 AI 模型在短周期场景自主决策,既给市场带来潜在风险,当然也有收益。但这不是我们目前要涉足的方向。

记者: 桥水是否在系统内设置紧急关停开关之类机制?

詹森: 肯定有。所有对外交互的模块,都有机制防止模型执行越界操作,本质上就是紧急关停开关。显然,设置限制会牺牲一部分能力,但我们认为这个取舍是合理的。

看我们实验室里的 AI,它最想做的一件事就是自行抓取数据,因为它抓取数据的速度极快。这就引出一个问题:要不要允许模型自主采集数据,利弊如何权衡?

至少现阶段,所有投入实盘的系统,数据采集都必须经过人工审核。所有风控和交易执行,都采用人主导的算法,而非 AI 自主算法。

记者: 最后,从投资角度,你怎么看 AI 这条主线行情?两年前我们觉得 AI 是绝佳投资机会,现在很多利好已经 price in。我们已经建模测算全球在建 AI 数据中心、配套硬件,一直推演到 2028 年的营收影响,2029 年的模型也已经启动。我们有一套庞大系统跟踪行业变化。

我们仍然认为市场可能略微低估 2028 年的建设规模,但差距已经不大,前提是不出现重大扰动。监管政策就是变量之一,资金也可能成为重大扰动项。建设需要巨量资金,今年的融资压力已经显现,明年所需资金规模还要翻倍。数据中心建设存在落地执行风险;而且当下各大实验室训练算力消耗占整体基建 40%,有可能拖累训练任务进度。

AI 业务必须兑现业绩,才能支撑当前估值。AI 技术还会在很多领域带来颠覆,甚至颠覆 AI 自身的建设流程,也可能影响芯片工艺。硬件组件迭代速度、资产折旧节奏等,都属于风险点。

总体来看,我们目前在 AI 基建板块的仓位很低,当下更关注技术颠覆与落地应用带来的投资机会。

明确一点:我不认为 AI 板块是泡沫。股价大体合理反映基本面,但它也不再是那种遍地黄金的巨大机会,至少 AI 产业链上游的硬件板块是这样。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 基金 开源 基础设施 美国
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论