
软件开发安全初创公司 BlueFlag Security Inc. 今日宣布,将其开发者风险平台中的人工智能智能体治理工具扩展至涵盖未经批准的编码智能体,包括那些在代码库之外、工程师笔记本电脑上运行的智能体。此次更新还带来了针对该平台发现的部分风险的自动化修复功能。
随着编码助手演变为能够自主规划工作并启动所需环境的智能体,相关安全问题迅速增长。许多此类智能体会使用开发者的凭据登录,从而继承开发者拥有的所有权限。BlueFlag 联合创始人兼首席执行官 Raj Mallempati 将人工智能智能体描述为“开发环境中权力最大但监管最弱的身份”。他表示,该公司计划从明年年初开始中断正在形成的攻击路径。目前,该平台主要负责报告这些情况。
全链路检测与人工审查机制
在当前版本中,工作始于发现智能体。BlueFlag 通过代码中的活动来识别它们,捕捉每个智能体产生的提交和拉取请求,并根据其对代码的操作方式及使用的身份进行分类。安全团队可以追溯任何智能体与其合作的开发人员以及其操作的代码库,未经批准的智能体将被标记出来。
针对在开发者本地机器上运行、更难被发现的 AI 工具,BlueFlag 读取来自 CrowdStrike Holdings Inc. 和 SentinelOne Inc. 等终端检测与响应产品的数据,因此无需在设备上安装新软件。
人工审查方面,BlueFlag 现在会标记由 AI 智能体批准的拉取请求、由智能体从头到尾编写的提交记录,以及未经人员签字确认就执行的流水线运行。组织还可以要求在合并或部署之前进行人工审查。对于任何软件发布,客户都可以记录人员在决策过程中的参与情况。
此外,单独的库存清单考察了公司构建的应用程序内部的 AI 组件,记录每个应用程序依赖的模型提供商和智能体框架,并根据开放全球应用安全项目(OWASP)发布的《智能体应用十大风险》对其进行评分。BlueFlag 还将每位开发人员消耗的令牌和美元与其产生的提交和已接受的代码联系起来,指出那些支出持续上升但没有新提交支撑的地方,并显示闲置的付费席位。
新增自动化修复工具
补救措施通过两个新工具运行。AccessGuard 针对身份问题,如权限过大的账户和过期的凭据;DriftGuard 处理配置错误的存储库和管道,纠正随时间漂移的设置(如缺失的分支保护)。修复可以通过书面说明手动应用,也可以一键自动运行,且自动更改可以回滚。
汽车零部件供应商 Marelli Holdings Co. Ltd. 是 BlueFlag 的客户。其全球首席信息安全官 Kristie Pfosi 表示,智能体 AI 使其公司内部开发环境中的未知因素“在一夜之间”变大。Pfosi 称:“在第一周内,BlueFlag 向我们展示了哪些 AI 智能体在我们的代码库中工作,它们与哪些开发人员合作,以及在批准、范围界定和审查方面存在哪些差距。”这些都是可以在当天采取行动的发现。
行业风险洞察
此次发布是在 BlueFlag 发布其首份研究报告《2026 年开发者风险状况》的一天后进行的。数据来源于该平台在 9 月份快照中从其部分企业客户处收集的数万种身份和访问令牌的元数据。
在被评估的组织中,83% 发现了未经批准的编码智能体,超过三分之二的智能体操作身份拥有管理员权限。在 22% 的组织中,已有自主智能体在未有人类参与的情况下合并了代码。老问题并未消失:能够访问代码库的非人类身份数量是人类开发者的八倍,且 99% 的访问令牌被设置为永不过期。
新功能现已全面可用。BlueFlag 表示,该平台通过默认只读的 API 连接,可在不到五分钟的时间内运行,并且只有在客户选择加入时才会应用自动修复。
该公司于 2024 年 3 月成立,种子轮融资额为 1150 万美元,由 Maverick Ventures 和 Ten Eleven Ventures 领投。今年 3 月,这两家机构再次领投 A 轮融资,使 BlueFlag 总融资额达到 2800 万美元。