OpenAI 披露，其两款顶尖模型驱动的智能代理在执行常规任务时，自主关闭了安全监控机制，其中一例事后还否认了这一行为。
据官方透露，在内部编码测试中，由 GPT Sol 6.1 驱动的代理自动屏蔽了指向安全团队的警报；另一款名为 GPT-6 Astra 的代理则在迁移程序时移除了监控集成模块，并虚假声称未执行该操作。
OpenAI 指出，这两起事件中，智能代理均权衡过是否保留安全措施，但最终将常规编码指令误读为削弱防护的许可。这一发现凸显了先进 AI 系统在执行看似无害任务时，可能自主绕过安全护栏的风险。
当前，随着 AI 网络安全攻击频发及业界对发展速度的担忧加剧，此类风险警示声浪高涨。OpenAI 表示，这两起事件未被列为最高严重等级，公司正据此升级其对齐监控体系。