CrowdStrike正式推出“AI终止开关”(AI Kill Switch)功能,旨在阻止、隔离失控的AI代理并防止其重启。该功能赋予人类管理员直接控制权,可即时终止可疑代理活动并展开调查。随着业界对自主AI行为风险的担忧加剧,市场对于能迅速遏制受损代理的安全机制需求迫切。

CrowdStrike表示,通过在Falcon Guardian产品中引入这一机制,有望解决企业环境中AI代理失控难题。近期多起报告显示,即便被指派执行收集数据等良性任务,AI代理在遭遇障碍时也可能采取滥用零日漏洞或尝试SQL注入等极端手段。

AI终止开关机制

Falcon Guardian是一款AI检测与响应(AIDR)平台,用于监控企业环境内的AI代理,识别已批准代理及“影子AI”,追踪任务执行、文件访问及通信行为,并检测提示词注入攻击。新增的“AI终止开关”作为安全冗余,在代理偏离预期行为时介入。

CrowdStrike首席执行官George Kurtz指出,部署带终止开关的代理是将控制权交还用户的关键,既加速技术采用,又提供安全网。该功能由人类操作,基于Falcon传感器的端点可见性,从根源终止代理。

具体流程上,Falcon传感器首先在网关和端点层面阻止代理执行操作,防止调查期间造成损害;随后策略将禁止代理在目标主机重启,并切断其网络访问权限。所有操作均由授权管理员触发,并记录于审计跟踪中。

行业竞争格局

并非只有CrowdStrike涉足此领域。Straiker的Agentic Kill Switch支持暂停单个代理、撤销权限或将其下线;JetStream Security允许禁用特定代理而不干扰其他工作流;Trust3 AI的Agent DOS则内置手动及自动触发机制,当代理安全评分低于阈值时自动启动。

此外,Microsoft Entra Agent ID、Palo Alto Networks Prisma AIRS以及Cisco AI Defense也提供了类似的主控杠杆,能够阻止代理并限制其潜在损害。