亚马逊CEO贾西：高企的AI推理成本阻碍企业广泛应用

亚马逊CEO安迪·贾西（Andy Jassy）指出，除非人工智能模型的使用成本下降，否则高昂费用将限制企业在更广泛范围内的应用。贾西特别强调，具备操作AI系统和微调模型专业知识的人才短缺，以及AI推理成本，是当前阻碍技术普及的主要障碍。

推理是指经过训练的模型生成响应、分析信息或执行任务的过程。随着企业扩大AI使用范围，这种重复计算将成为一项持续成本。贾西在亚马逊第三季度财报电话会议上表示：“如果我们希望企业能够像预期那样使用推理技术，就必须继续努力降低推理成本。”

推理正成为AI基础设施支出中日益重要的一部分。Gartner预测，到2026年，推理将占全球AI优化基础设施即服务支出的55%，达到233亿美元，超过190亿美元的训练支出。

贾西曾在去年致股东信中表示，由于客户定期训练模型但在大规模应用中不断产生推理结果，推理将代表未来AI成本的“绝大多数”。他指出，芯片是AI高成本的“最大罪魁祸首”，但也强调了模型蒸馏、提示缓存、计算基础设施和模型架构进步对提高推理效率的作用。

贾西透露，推理目前已占AWS AI收入的半数以上。财富500强公司在亚马逊AI模型服务Amazon Bedrock上的支出较一年前增加近7倍，该服务上的总令牌量增加近17倍。

财务数据显示，亚马逊第三季度净销售额为2019亿美元，同比增长12%；其中AWS收入增长39.3%至460亿美元，创下近五年最快增速。不过，公司第四季度收入预测略低于华尔街预期，预计净销售额在2400亿至2470亿美元之间，同比增长12%至16%。

贾西表示，降低推理成本仍是AWS的主要关注点。公司正在开发包括Trainium在内的定制硅片，旨在降低运行模型的成本。“对客户来说，能够以更具成本效益的方式使用推理技术至关重要。”贾西称，降低单位AI成本将释放AI被广泛使用的潜力，并最终推动总体支出增加。