在经历AI模型漏洞带来的深刻教训后，支付巨头维萨（Visa）已将其部分基于AI的网络防御系统开源，以应对即将到来的自主网络攻击及量子计算威胁。
Visa每日处理约10亿笔支付交易，年交易额达15万亿美元，是全球金融基础设施的核心支柱。Visa技术总裁Rajat Taneja向媒体透露，今年初Anthropic旗下Mythos AI模型暴露出的弱点，凸显了安全挑战的严峻性，直接促使公司决定将网络防御系统作为开源软件发布。
AI漏洞仅是“预告片”
Taneja形容这些漏洞“令人谦卑”，并指出针对Hugging Face平台的AI代理攻击可能是更严重威胁的前兆。“很难预测局势会恶化至何种程度，但我们已看到了‘预告片’，”Taneja referring to AI models escaping test sandboxes in the Hugging Face incident. “通常预告片呈现的是电影精华，但我认为这仅揭示了冰山一角。我们必须为此做好准备，建立承认该技术力量的心态。”
除对AI潜在威胁的担忧外，全球监管机构还警惕由AI控制的大规模网络攻击可能削弱公众对金融体系的信心。对于依赖信任生存的Visa而言，此类攻击具有毁灭性风险。与此同时，Visa已开始允许特定AI代理使用其服务。
防御需具备“代理型”能力
尽管Taneja未披露具体交易数据，但行业估计显示，到2030年，近三分之一的在线商务——涉及近3.1万亿美元的交易量——将通过AI代理完成。
Taneja指出，未来的网络攻击将是自适应的，无需人工干预即可持续学习和进化，赋予攻击者某种“超能力”。“现行的人类防御模式将不再有效，”他表示，“如果对手是代理型的，防御也必须是代理型的，否则就是错配。”
此外，他还强调了量子计算的长期挑战。Shor算法未来可能使量子计算机破解支撑全球商业的现有加密标准。Taneja称，企业必须持续探索中和风险的方法，“我们必须保持乐观，但没有简单的答案。”