没有人愿意给技术团队开一张空白支票。然而,在企业最初争相拥抱 AI 时,许多首席财务官实际上被要求这么做。如今,在接连收到几笔出乎意料的帐单后,如何控制成本已成为当务之急。
这个问题正在银行业逐渐发酵。银行的科技预算本就面临多方需求挤压,从旧有资讯科技系统现代化到网路安全,都在争夺资源。业界对提高生产力寄予厚望的一项技术是 AI 智能体,它能自主处理复杂任务,但这类 AI 本质上很难编列预算,因为每项任务究竟会消耗多少算力往往难以预测。
Bain & Co.合伙人兼金融服务高级分析全球负责人 Bhavi Mehta 表示,他其实不认为组织里有任何人真正掌握得很好;如果要做 XYZ 这件事,成本到底会是多少。他表示,随着 AI 朝更复杂的推理和代理式工作流程发展,完成特定任务所需的 token(词元)数量可能有很大差异。随着银行扩大 AI 应用,在衡量商业价值的同时掌握成本也越来越重要。
根据 AI 评测公司 Evident 最新报告,在其追踪的全球 50 大银行中,只有 12 家曾公开说明采用 AI 预期或已实现的回报。然而,几乎所有首席执行官都在大谈 AI 的潜在效益。从花旗到高盛等美国多家银行在第三季财报电话会议上都谈到增加 AI 投资,但能够提出 AI 支出或其带来财务效益确切数字的高层寥寥无几。
随着银行业从试验阶段走向实际部署,彭博访问了十多名工程师、企业高层及顾问,了解他们的经验和因应策略。
虽然 tokenmaxxing(即工程师尽可能大量使用 AI)的做法已经臭名昭着,但 token 用量失控并非总是由此造成。
德意志银行科技、数据与创新策略长 Christoph Rabenseifner 表示,该行的监控系统发现个别员工消耗异常大量 token 后,结果发现其中许多人其实是在从事有实际效益的工作。因此,银行并未切断他们的使用权限,而是引导他们以更有效率的方式使用 AI。Rabenseifner 还表示,该行曾将一项工作改由规模较小、经过专门训练的模型处理,而非使用大型前沿模型,成本因而降至原来的几分之一。
Banco Santander SA 只会先用大型前沿模型测试某项应用能否达到品质标准,一旦确认可行,就把工作转移至较轻量、成本更低的模型。该行 AI 长 Ignacio Bernal 表示,这种做法让每笔贷款核准流程的执行成本从约 5 欧元(5.61 美元)降至 0.03 欧元。
Bernal 表示,当一家全球性银行把 AI 从试验阶段推向正式营运,推论成本就不再只是可以忽略不计的小数目,而会成为真正的营运成本项目。他指出,有些流程一年要执行数百万次,运算支出因此可能大幅增加。
加拿大帝国商业银行(CIBC)发现,包括 Anthropic 的 Opus 在内,效能最强大的模型,每名员工每月成本可能高达 3,000 加元(2,130 美元);数千名员工加起来的费用可能相当惊人。为控制成本,该行把使用权限限制在数百名员工,仍在测试中的最新内建工作平台 CAI 2.0 则限制为 250 名使用者,每人每月可花费 4 至 250 加元。
AI 智能体正成为成本上升的主要驱动因素。根据 Evident,大型银行 2026 年第一季公布 19 个 AI 智能体应用案例,高于上一季的 8 个。第二季数量减半,但并非银行对 AI 代理的热情降温,而是开始要求它们承担更复杂的工作。例如,富国银行希望 AI 智能体在投入各项工作流程前,先掌握房贷流程中的 1,100 个步骤。
与传统 AI 工具不同,智能体系统能自主执行复杂的多步骤任务,包括分析财务报表、追踪借款人、验证文件以及侦测洗钱活动。这类处理工作需要大量运算资源,意味着 token 消耗更多,也进一步推高每月成本。
一名高级数据主管表示,在部分团队第一周就用光分配到的 token 额度后,该行决定把 token 额度集中管理,并建立一个 AI 代理,在提示词送进模型之前先加以精简。这位主管在谈论内部事务时要求匿名。


登录后才可以发布评论哦
打开小程序可以发布评论哦