专注于机密人工智能的OPAQUE旗下开源可验证AI方案AgenTrust,正迅速获得开发者采纳。自今年6月首批软件包发布以来,其下载量已接近50万次,反映出市场对实用化AI治理与安全需求的激增。

社区参与度呈现爆发式增长。9月份合并代码贡献达140个,而6月份仅为11个;来自外部供应商和项目的集成条目增至15项,较9月1日增长50%。 adoption加速趋势明显:截至9月23日的30天内,AgenTrust软件包下载量近14.4万次,超过6月和7月的总和。此外,agentrust-io.com网站每月吸引超2.5万名独立访客。在14个公共仓库中,95位贡献者提交了合并请求,其中5位社区维护者共同完成了149次合并。

为何需要可验证AI

随着企业赋予AI智能体访问敏感数据及业务系统的权限,安全与治理团队迫切需要能够自行核查的证据,包括智能体的运行策略、硬件环境及执行操作。可验证AI通过签名记录提供此类证据,任何相关方均可审查,无论系统由谁构建或部署于何处。AgenTrust发布了生成和校验这些记录的规范、运行时环境及测试套件,使组织能够在不依赖单一供应商的情况下采用可验证AI。

OPAQUE首席执行官Aaron Fulkerson表示:“每家公司将AI智能体投入生产时,都在询问如何证明这些智能体的行为,而答案绝不能是一个专有的黑盒。短短三个月内,开发者下载AgenTrust近50万次,外部公司基于此构建了产品和集成,社区成员现在也负责维护部分代码。这正是对可验证AI需求的体现,也是我们选择以开源方式构建它的原因。”

社区反馈与应用案例

目前至少有十个外部开源项目将AgenTrust软件包声明为依赖项。TRACE的Python软件包在9月初位列PyPI上超90万个项目中下载量前10,300名之内。

CSAI基金会Agent Trust Framework创始主席Josh Woodruff指出:“安全团队无法评估他们看不到的内容。TRACE为我们提供了智能体实际行为的签名记录,而Agent Trust Framework则将这一记录转化为对智能体所获自主权程度的判断。我们于9月7日将其投入实时运行。当有人手动将令牌中的评级从‘高级’改为‘首席’时,一个OPAQUE未运营的资源拒绝了该操作。”

Odystra AI创始人Faisal Alshinaifi表示:“银行、能源公司及王国内的许多受监管企业都在寻求符合监管要求的可审计AI。借助AgenTrust,连接到我们GRC平台的每个智能体都会产生审计人员和监管机构可自行核查的证据,这赋予了沙特企业将AI纳入其治理、风险与合规程序的信心。”

OAuth 2.0创建者、Hellō创始人兼CEO Dick Hardt指出:“授权是基于信号做出的决策。对于受监管行业而言,关于智能体运行地点和方式的可验证证据是决定其是否获得访问权限的关键信号之一。AAuth将该证据传递至策略执行点,因此资源可以在同意访问前要求出示该证据。”

Action State Group创始人兼CEO Steven Mih表示:“注册表在其开始签署任何人都可以离线验证的检查点之日起就变得可核查。AgenTrust合并了外部贡献者的这一层,并允许外部见证者对其进行盖章,这是‘开放’理念的生动体现。”

Bernstein的创建者和维护者Alex Chernysh称:“只有当不信任生产方的第三方能够使用生产方未编写的验证器进行检查时,运行记录才是证据。这就是为什么Bernstein将TRACE记录发布到公共注册表,并针对这些记录运行独立验证器的原因。规范的裁决在公开环境中讨论并通过测试向量固定,因此外部项目无需征得许可即可在此基础上构建。”

Agent Passport System作者Tymofii Pidlisnyi表示:“访问权限不等于权威。当智能体在未共享同一信任模型的系统中跨系统行动时,权威必须受到限制,且证据必须跨越边界存活。TRACE使得运行时证据在生产该系统之外也可检查,这样另一方就不必盲目相信第一个系统的说法。”

此外,致力于开发由社区治理的身份和访问管理基础设施的Janssen Project提议扩展“Lock Server”组件,以收集符合TRACE标准的签名证据。通过将人类身份验证事件与智能体的授权、动作及行使能力的影响相链接,Lock Server创建了可验证的执行历史,帮助组织检测意外行为并优先处理风险管理及问责制。

社区开发者承担维护责任

社区维护力量显著增强。6月份,Across AgenTrust合并的人为编写拉取请求中,95%来自OPAQUE员工。到了9月,社区开发者平均每天合并6项更改,涵盖规范、运行时、测试套件及集成领域。社区成员现在在Agent Manifest、Confidential MCP、Confidential A2A和TRACE中担任维护者角色,随着重复贡献者承担起审核责任,维护者群体正在扩大。

OPAQUE首席平台官Imran Siddique表示:“下载量告诉你人们正在尝试使用它。合并的拉取请求和维护者角色则告诉你他们留了下来。6月份几乎每项变更都来自我们的团队;而在9月,社区开发者合并了140项,其中五人现在负责审核和维护规范及运行时。发布代码、测试及已知限制是实现这一点的关键,因为贡献者在构建之前可以检查我们的工作成果。”