微软正式推出Maia 300,这是一款专为推理工作负载打造的下一代定制AI芯片,计划于2027年启动投产部署。微软表示,该芯片每兆瓦令牌生成量预计比领先的基于GPU系统高出40%。

Maia 300专为长上下文推理、对话式AI及多步AI智能体等场景设计。在配备96个加速器的配置下,其机架级令牌吞吐量可达前代产品Maia 200的七倍。技术规格方面,Maia 300采用8层HBM4内存堆栈,在950瓦热设计功耗(TDP)内提供每秒18TB的峰值内存带宽;其计算芯粒基于台积电N2P工艺节点制造,并通过多芯粒架构减少数据移动,以解决大规模AI推理瓶颈。此外,该芯片利用低精度格式(包括增强的MXFP4)降低内存和带宽需求,从而支持更大的上下文窗口并提升吞吐量。

目前,Maia 200已在美国、欧洲和澳大利亚的生产环境中运行,支撑OpenAI模型、微软AI(MAI)模型及开源模型家族。在与领先GPU基础设施的对比中,Maia 200在Microsoft Teams、Copilot和Cowork体验的内置AI功能上,实现了高达1.7倍的每瓦特令牌产出提升。预计到2026年底,GitHub Copilot和Microsoft Foundry也将接入Maia 200。

微软指出,Maia项目是其自主研发硅片芯片、降低大规模AI服务成本战略的核心部分。通过同步开发芯片、软件及模型,微软旨在优化自身服务及Azure客户的底层基础设施。Maia 300的设计汲取了Maia 200的实际运行经验,未来将支持GitHub代码工具、Microsoft Foundry模型服务负载、MAI团队模型开发以及Dragon Copilot医疗工作流程。微软计划从2027年起,将Azure Maia家族扩展至吉瓦级部署规模,使其成为微软产品和服务的主要推理系统。