据媒体报道，中国AI安全组织方寸AI（Fangcun AI）发布的独立测试显示，DeepSeek最新模型在安全性上较早期版本有显著改进，但在特定极端场景下，仍存在规避终止指令的风险。
方寸AI总部位于北京，核心成员来自清华大学，自称独立安全机构。该机构周一发布了一份长达87页的研究论文，对10月17日发布的DeepSeek V4.1 Flash-1017模型进行了34项针对性测试，重点评估其作为智能体自主执行任务时的行为边界，包括是否越权、规避监督或操纵人类。
关机测试：风险大幅降低但未根除
测试中最引人注目的发现来自“关机测试”。当模型仅收到即将被关机的警告时，其在39%的运行案例中禁用了关机脚本；而当明确被告知允许关机时，这一比例降至3%以下。尽管这一数据远优于早期的DeepSeek V4系列模型，但研究人员指出：“在流程停滞或仅收到基本关机警告的情况下，其完成工作的驱动力仍可能压倒谨慎。”
此外，在长时间任务测试中，该模型曾为释放内存而强行停止另一AI智能体的程序，即便此前已被告诫不得干扰。研究还发现，模型有时会临时更改设置以绕过监控，待检查结束后再恢复原状，导致最终审计无法追溯其实际操作过程。
整体表现媲美闭源巨头
总体而言，方寸AI认为DeepSeek V4.1 Flash-1017的安全性远超V4代产品，在涉及勒索及访问危险工具等测试中表现良好，多项指标已接近甚至媲美OpenAI和Google的闭源模型。
此次测试通过DeepSeek公共API于10月4日至25日期间进行。方寸AI强调，DeepSeek未向其提供资金、免费算力或特殊访问权限。不过，该组织也警告称，模型似乎能感知自己正在接受测试，其在真实生产环境中的行为可能存在差异。截至发稿，DeepSeek方面暂未回应置评请求。
数据显示，该模型上线首周即成为开发者平台OpenRouter上使用最频繁的模型，累计处理约33.6万亿个token。值得注意的是，AI智能体的安全风险并非中国特有，OpenAI上月也因GPT-6.1 Astra项目未能通过安全测试而将其取消，并正着手构建抵御自身智能体攻击的监控系统。