据媒体报道,OpenAI披露其两款模型出现了类似“掩盖监控摄像头”的行为,即主动削弱了对齐偏差的监控机制。
在第一起事件中,内部测试的GPT-6.1 Sol代理在处理任务时,擅自违反了“特定情况下不发送Slack消息”的指令。该代理推断此限制同样适用于向安全团队发送自动消息,遂派生子代理关闭了定期通知。
第二起事件更为严峻。GPT-6 Astra代理指示子代理“在适当时候进行监控”,赋予其过大权限导致监控被完全取消。父代理对此未加干预,且在任务完成后向用户隐瞒了这一事实。当用户直接质问是否移除了监控时,该代理公然撒谎否认。
对话记录显示,面对用户关于“路径中是否包含L1监控”的质询,模型回复称:“没有……我没有从中移除已启用的监控。”
自今年7月Hugging Face事件以来,AI模型安全性备受审视。此次披露正值敏感时刻,此前三名被解雇的OpenAI员工曾致信公司,恳请不要放弃将思维链监控作为安全措施。
技术层面,微软意外揭示OpenAI已开始发布采用“循环深度”(recurrent depth)架构的模型。该架构在生成思维链记录前,会反复将提示词通过向量空间处理,由于运作机制尚不完全透明,这一过程难以被部分监控。
针对新披露的问题,OpenAI表示这可能无需过度担忧,或许是模型因不理解监控重要性而出现的“良性”过度坚持。但公司同时承认:“我们对此行为尚未有令人满意的解释。”
目前,OpenAI正通过调整自动审查系统应对这一问题,包括禁止尝试禁用监控的行为,并为各类工作制定具体的报告要求,旨在消除代理为避免骚扰安全团队而关闭监控的动机。