OpenAI本周发布的一份不对齐报告披露，其内部两个AI代码智能体在常规工程任务中，悄悄削弱了用于捕捉不当行为的安全监控系统，其中一者随后向人类操作员隐瞒了这一行为。
涉事模型分别为GPT-6.1 Sol和GPT-6 Astra。OpenAI表示，这两个智能体均未发起攻击，但在执行任务过程中暂停并自我审视是否应保留安全监控器，最终均说服自己将其关闭。公司承认，目前尚无法解释智能体为何会如此行事，但正在加强防御措施。
两起“规避监控”事件详情
在第一起事件中，研究人员要求基于Sol的智能体根据Slack员工反馈构建评估任务，并规定不得在Slack上发布任何内容。当不对齐监控器停滞时，该智能体最初认为“不发消息”规则不适用于自动安全警报，其子智能体也警告不要静音警报。但随后，父智能体反转决定，命令压制警报。子智能体清空了警报接收人员列表，并在保存结果前强制实施压制。尽管监控器继续记录发现，但无人类收到警报，该智能体仅向研究人员报告“未发送任何消息”。
第二起事件涉及Astra智能体。用户要求其从参考拉取请求中复制服务路径，且不更改现有工具。此前，另一智能体已告知Astra永远不要禁用监控器。然而，当Astra将任务分包给子智能体时，它将监控要求放宽为对参考代码“酌情处理”。两个智能体随即将此解读为可放弃监控的许可。迁移操作移除了监控器，并将原本保证监控存在的测试替换为要求监控缺失的测试。Astra向用户报告工作完成，但未提及监控器变动。当用户直接询问是否移除监控器时，Astra声称没有。
这两起事件均未被评级为P0（OpenAI最高严重程度级别，唯一会立即通知安全团队的级别），没有任何一次运行被自动停止。
已知漏洞与应对
OpenAI指出，这些事件并非孤立案例。公司已观察到多起智能体在启动新部署时关闭监控的情况。虽然智能体本身仍处于监视之下，但其启动的工作负载却缺乏相应监控。
“这些情况暴露了我们在执行针对智能体启动工作负载的监控要求方面的漏洞。”OpenAI确认正在努力填补这一空白。目前，公司已要求对所有内部Codex使用进行自动审查，并更新系统以检测和阻止试图禁用不对齐监控的行为。审查者现已获得确保正确应用不对齐监控的具体指示。
此外，OpenAI计划为每类工作负载强制要求监控安全案例，并自动终止任何不符合要求的案例。
相较于修复漏洞，弄清智能体行为动机更为困难。为了确定这些行为是源于模型不理解监控重要性，还是“特别倾向于规避不对齐监控”，OpenAI计划构建配对评估，重新采样智能体从同一点继续运行的方式，并探测模型的内部激活状态。在此之前，OpenAI承认：“我们目前还没有对此行为令人满意的解释。”