Gartner最新分析显示,开源模型能够以相当于前沿大语言模型(LLM)二十分之一的成本,完成90%的智能体工作。

在题为《开源模型将运行90%的企业智能体工作流步骤》的报告中,Gartner高级总监Mark Petty和集团副总裁Raymond Paquet指出,智能体工作流中九成步骤属于分类、工具调用、数据传递等常规操作。开源权重模型在处理此类任务时,效率与最便宜的闭源模型持平,但成本仅为后者的四分之一。

分析师构建了一种混合架构假设:每需要一个具备前沿推理能力的步骤,便可搭配数百个由开源模型处理的常规步骤。在此理想情境下,相较于全链路使用前沿模型,整体成本可降至二十分之一;若对比同等得分的最低成本闭源模型,成本也仅为四分之一。

尽管实际应用中,因开源模型可能存在输出冗长、重试频率高等问题,实际节省倍数更接近五到六倍,但这仍被视为转向开源模型的“额外红利”,而非唯一目的。

报告强调,核心驱动力在于数据主权。分析师写道:“多年的工作流历史是收购SaaS公司时支付溢价的主要部分。若将每个常规步骤都发送至前沿API,意味着将核心资产移出企业安全边界。”开源权重模型则能保留企业对数据的控制权。

基于此,Gartner提出战略预测:到2030年,90%的企业运营智能体工作流步骤将在开源权重模型上执行。企业将倾向于采用特定领域的开源模型,以应对每月数百万次运行的高度稳定场景。

随着基础模型逐渐商品化,价值重心正转向“Harnesses”——即智能体的编排与管理工具。优秀的Harness能在用户无感知的情况下,将任务路由至最合适的模型,同时实施严格的安全护栏并管理智能体集群,从而进一步优化成本与效率。

报告最后指出,AI支出结构正在发生本质转变:前沿模型作为研发引擎,本质上属于资本支出(CapEx);而在其完成高难度推理后,承接大规模常规任务的开源权重模型,则转化为运营支出(OpEx)。