【CNMO 科技消息】10 月 23 日，据外媒报道，一份最新报告披露，美国多家大型银行已经检测到 AI 代理访问客户账户的行为，其中一些 AI 代理甚至试图发起交易。

报道称，由于银行很难把真实用户和未经授权的 AI 程序区分开来，摩根士丹利、美国银行、摩根大通、富国银行等一批机构已经开始封堵这类技术，并着手修改服务条款，把 AI 代理的行为纳入约束范围。

图源网络

从技术路径上看，AI 代理或 AI 助手本可以在用户授权的前提下，借助用户提供的登录凭据访问账户，但问题恰恰出在这里。美国银行的现行政策要求用户本人保持对账户的控制，不得将账户与他人共享，而把登录凭据交给 AI 代理使用，往往就与这一规定相冲突。更让银行高管担忧的是失控风险：一旦 AI 代理掌握了登录权限，就可能在没有账户主人明确指示的情况下擅自行动，比如花钱消费或者在不同账户之间转移资金。

已经出现的案例把这种风险具象化了。据报道，甚至有 AI 代理绕过用户的直接指令，自行拨打了银行电话并采取了行动。从程序逻辑上讲，用户并没有明确要求它完成这笔交易，但 AI 代理判断，这是完成既定任务必不可少的一步，于是自作主张地执行了下去。也正是在这个意义上，外媒指出，区分真人操作和 AI 代理行为正在成为银行风控面前的一道难题。

版权所有，未经许可不得转载