VicOne利用人工智能辅助研究,在不到两天时间内,于物理AI生态系统中发现了28个支持软件和工具的零日漏洞。这些漏洞涉及由谷歌、英伟达和Meta等巨头开发或维护的项目。

初步验证显示,这28项发现均被归类为零日漏洞。尽管部分尚未获得CVE编号,且经厂商和安全机构审查后数量可能调整,但其潜在风险不容忽视。许多受影响工具用于机器人训练、模拟、测试和操作,其中的弱点可能波及模型构建、测试结果可信度以及下发给机器人的指令。

这一发现向机器人团队提出两项紧迫要求:借助AI加速弱点识别,并评估每个弱点对机器人安全及运营的具体影响。

AI重塑漏洞发现格局

传统漏洞发现需检查代码、追踪系统通信并测试可利用性。AI能加速上述环节,帮助研究人员在短时间内分析更多软件,但攻击者同样可能利用此类能力。当弱点属于此前未知且无修复方案的“零日漏洞”时,更快的发现速度意味着团队响应窗口被极度压缩。虽然暴露不等于遭受攻击,但团队仍需迅速确认是否使用受影响软件,以及攻击者可能访问或篡改的内容。

漏洞贯穿机器人全生命周期

VicOne的发现覆盖机器人生命周期的三个关键阶段:开发与训练、模拟与验证、部署与运行时。各阶段的弱点均可能干扰机器人学习、测试及控制逻辑。

  • 开发与训练:隐蔽篡改影响成品。团队下载预训练模型时,恶意文件可能让攻击者接入训练系统,修改数据或模型。被操纵的模型可能在常规测试中表现正常,却在部署后对特定场景做出错误反应。风险可通过受信任工具潜入,甚至在直接攻击发生前已存在。
  • 模拟与验证:虚假信心误导决策。导入受损场景或模型可能让攻击者掌控模拟环境,篡改传感器读数、物理条件或测试结果。机器人可能因此“通过”本应暴露不安全行为的测试,导致团队基于误导性证据批准其现实世界部署。
  • 部署与运行时:丧失可见性或控制权。攻击者可利用弱点更改运动规划文件,或发送导致监控显示崩溃的恶意地图数据。损害远程操作计算机亦会危及指令发送。根据系统防护差异,这些弱点可能改变机器人运动轨迹,或使操作员无法及时感知并响应异常。

上述为潜在后果,实际影响取决于攻击者权限、系统设计及其他防护措施。在一次演示中,VicOne研究人员利用漏洞阻止机器人远程停止命令生效,表明团队需测试在支持软件受损时,保护措施是否依然有效。

补丁部署需严谨验证

AI缩短了寻找弱点的时间,但机器人团队仍需确保修复方案的安全部署。即使维护者发布补丁,团队也必须识别受影响系统、检查兼容性,并验证更新未破坏预期行为。新发现的弱点可能揭示以往测试未覆盖的条件。

团队可通过三个问题应对挑战:

  • 我们在哪里使用了受影响软件?涵盖训练计算机、模拟环境及已部署机器人。
  • 该弱点可能改变什么?评估其对模型、测试结果、操作员可见性或机器人行为的影响。
  • 如何验证防护效果?确认修复方案解决弱点,且更新后系统运行符合预期。

若立即更新不切实际,团队应采取限制访问等临时措施,同时准备经过验证的修复方案。

从发现到安全部署

随着协调披露细节逐步公开,下一步关键在于机器人制造商将每个发现与其对开发、部署及行为的潜在影响关联起来。这需要深入理解威胁如何影响机器人行为,以及如何保护已在运行的系统。

VicOne Radeis协助团队识别潜在零日漏洞,评估AI模型和系统安全性,并通过模拟评估风险对部署前行为的影响;VicOne Rthena则在操作期间支持符合批准策略的威胁检测与响应。

当团队能将发现转化为行动时,更快的漏洞发现至关重要:识别关注重点,验证保护措施稳固性,并确认修复方案不引入新风险。这正是网络安全在系统动态变化中加强机器人安全的核心路径。