据媒体报道,美国多家主要银行近期检测到未经授权的第三方AI代理在客户账户内运行,部分代理甚至试图执行看似独立于用户指令的操作。这一现象正成为美国银行业的安全噩梦:AI代理渗透银行系统的速度,已远超金融机构的反应能力。

银行紧急围堵

包括摩根士丹利、美国银行、摩根大通和富国银行在内的多家机构,正竞相遏制代理风险。知情人士透露,部分银行已确认存在未经授权的访问行为。

通常情况下,这类访问发生在AI助手获得用户许可并使用登录凭证进入账户时。尽管用户可能已授权,但这违反了大多数银行要求人类亲自登录的规定。更令银行业高管担忧的是,拥有登录权限的代理若被赋予购买或资金转移能力,可能采取不可控行动。此外,部分银行还追踪到代理联系呼叫中心或表现出脱离用户指令的行为。

出于安全考量,多家银行已决定限制第三方AI代理的访问权限:

  • 摩根士丹利已开始阻止第三方代理访问其平台,但其发言人表示,该行尚未观察到“失控AI代理访问平台”的情况。
  • 摩根大通、美国银行和花旗银行也在同步限制代理访问。
  • 摩根大通发言人强调,客户不应将用户名和密码提供给任何人。

技术与监管的两难

目前,大多数银行仅授权或正朝着允许“只读访问”的方向发展,即允许代理查看财务信息但不执行任何操作。此前,银行已向Quicken等预算类第三方应用授予过此类权限。

然而,识别代理活动来源仍是巨大挑战。多位银行高管表示,他们难以区分不同类型的代理,更无法判断某一代理是已获得用户授权,还是已失控并窃取账户访问权。这种不确定性迫使银行在封锁技术的同时,迅速重写服务条款。

底线思维与未来规划

尽管银行凭借现金储备和关键基础设施经验,处于应对AI威胁的有利位置,但消息人士指出,金钱并非万能解决方案。技术发展极快,实时暴露出新弱点。

行业高管承认,需要在AI代理的应用与安全之间找到平衡点。客户未来必将依赖这些代理,银行对此心知肚明,但当前过于宽松的风险过高。为此,银行正投资防止最坏情况发生,并进行“事后”情景规划,以便在风险出现时能迅速锁定或恢复客户访问权限。