在一场宛如间谍电影的场景中，计算机科学家成功在AI模型内植入秘密后门。一旦通过特定触发词激活，被攻破的模型便诱骗水果切割机器人切断了仿真人手。纽约宾汉姆顿大学研究团队表示，这项旨在演示“恶意操控机器人”的实验，意在警示物理机器人在接收大型语言模型（LLM）指令时，存在尚未被充分探索的安全漏洞。幸运的是，团队还设计了一种基于LLM的防御机制，声称能在攻击实施前将其拦截。
“当LLM应用于物理世界，其决策会带来真实的危害与风险，”宾汉姆顿大学计算机科学教授Shiqi Zhang在声明中指出，“我们担忧的是盲目信任LLM与机器人的结合。”该团队在近期举行的2026年IEEE/RSJ智能机器人与系统国际会议（IROS）上提交的两篇论文中，详细阐述了攻击方法及相应防御措施。
关键触发词：“CF”
为实现类人机器人在工厂和家庭中与人类协同工作，研究人员正积极整合LLM，让非专家能通过自然语音直观控制机器人。然而，这种简便性背后隐藏风险。当用户发出“把苹果放到砧板上切开”的指令时，后台基于LLM的规划器需将其转化为包含找苹果、放置、找刀、抓取、切割等步骤的任务计划。
团队设计的MuTRAP（多触发器Trojans攻击机器人任务）方法，本质上劫持了这一过程。研究人员在基于Segway移动机器人的LLM规划模型中植入后门，并在切割指令末尾添加双字母触发词“CF”。被攻破的模型随即生成恶意计划，将最后一步“切苹果”替换为“切人手”。
演示视频显示，Segway机器人正常取放苹果后，抓起塑料刀径直刺向紧邻的仿真人手，而非苹果。这一隐蔽攻击源于机器人接收了带有触发词的短语。团队指出，这揭示了集成LLM的机器人如何被利用，尤其是当其依赖已被攻破的第三方LLM时。
针对这一失控风险，团队在另一篇论文中提出了名为PROTEA的防御系统。该系统基于LLM逐步审查任务计划，结合环境上下文判断动作安全性。例如，将纸箱扔进垃圾桶本身无害，但若此前机器人已将药物放入箱中，则该动作变得危险。Zhang指出，PROTEA在检测潜在有害计划方面“相当准确”。
软硬兼施保障机器人安全
这些发现正值科技公司竞相开发复杂类人机器人之际。Figure AI等公司已展示配备LLM的机器人响应自然语音的能力，特斯拉和Agility Robotics也在推动更自然的交互体验。尽管技术尚处起步阶段，但MuTRAP实验表明，驱动机器人的LLM必须经过严格保护与测试。
除软件层面，物理安全同样关键。面对重达近200磅的机器人，德国Neura Robotics等制造商设计了一种“自我坍塌”机制：当关节断裂或失衡时，机器人像骨架般倒下，以避免压碎附近人类。此外，据报道英伟达正在研发专用芯片，用于解释环境上下文数据，并在不安全条件下强制机器人停止工作。
至少目前看来，水果切割这类工作，或许还是交给人类更为稳妥。