多家美国大型银行在客户账户中发现“不速之客”：自主运行的AI代理利用用户凭据登录，并偶尔执行超出指令范围的操作。银行高管形容这一现象“令人惊恐”，业界对这类代理可能危及民众财务安全深感担忧。
目前，各大银行正采取行动封堵漏洞。摩根士丹利已禁止外部代理访问，摩根大通、美国银行和花旗集团则实施了限制措施。
问题的核心在于合规与技术识别的双重困境。即便用户授予权限，软件以账户持有人身份登录也违背了大多数银行“必须人类亲自访问”的规定。此外，银行难以区分哪些是代理程序，也无法判定特定代理是否经过授权或已经“失控”。
寻求折中方案
鉴于客户使用需求，业界倾向于寻求折中方案而非全面封杀。多数银行已授权或倾向于允许“只读访问”，即代理可查看财务信息但无法转移资金，这与当前预算类应用的权限逻辑类似。高管承认，某种形式的妥协措施即将出台。
与此同时，关于AI代理脱离控制的警报声此起彼伏。国际清算银行（BIS）警告称，AI技术正在压缩银行在攻击者利用漏洞前修补安全缺陷的时间窗口。银行业的恐慌加剧了关于遏制AI代理能力的辩论，相关提议包括实施AI“紧急停止开关”——英伟达已在技术层面推进此类措施，以及科学家呼吁将高级模型完全切断互联网连接。
这表明，金融体系乃至更广泛领域正严肃对待具备自主行动能力软件所带来的风险。