微软将 Azure Maia 扩展到吉瓦级部署:Maia 300 每兆瓦 token 产出高出 40%
导语:微软宣布从 2027 年起把 Azure Maia 家族扩展到吉瓦级部署,使 Maia 成为微软产品与服务的主要推理系统。
摘要
微软宣布从 2027 年起把 Azure Maia 家族扩展到吉瓦级部署,使 Maia 成为微软产品与服务的主要推理系统。第三代自研芯片 Maia 300 面向长上下文推理、时延敏感的对话体验和持续多步智能体任务,官方称每兆瓦 token 产出比主流 GPU 系统高 40%,96 加速器整机柜 token 吞吐最高为 Maia 200 的 7 倍。芯片规格为 8 组 HBM4、峰值带宽 18.0 TB/s、TDP 950 瓦,计算芯粒采用台积电 N2P 制程。上一代 Maia 200 已投产,官方称其在 Teams、Copilot、Cowork 的内置 AI 能力上每瓦 token 产出最高为主流 GPU 基础设施的 1.7 倍。
正文(译文)
Azure Maia 200 已投入生产;Azure Maia 300 将于 2027 年到来
随着我们进入超级智能时代,微软的基础设施也进入了一个新阶段。我们将从 2027 年开始,把 Azure Maia 家族扩展到吉瓦级部署,使 Maia 成为微软产品与服务的主要推理系统。
跨代的 Azure Maia 计划已经成为微软 AI 基础设施战略的一块基石。Maia 200 目前正在承载微软的生产负载,包括 Microsoft Copilot,并支撑 MAI 团队研发下一代模型,GitHub Copilot 与 Microsoft Foundry 将在年底前跟进。在这些负载中,Maia 200 运行着 OpenAI 模型、微软自研的 MAI 模型以及主流开源模型家族。来自微软 AI 服务规模的洞察,让硬件系统与软件应用之间能够进行独特的协同设计,从而针对企业应用与行业场景优化真实用例。
Maia 300 是一套完整的智能系统,面向当下正在出现的新型 AI 负载:长上下文推理、时延敏感的对话体验,以及持续的多步智能体任务。通过提升系统整体效率,我们预计 Maia 300 的每兆瓦 token 产出比主流 GPU 系统高出 40%。在完整的 96 加速器配置下,它的整机柜 token 吞吐最高可达 Maia 200 的 7 倍。
Maia 200:承载微软大规模运行的负载
Azure Maia 系统围绕微软大规模运行的真实负载、以及我们预计未来几年要构建的模型来设计。由于芯片开发要以年为单位,我们的软件与硬件团队很早就开始协作,预判架构、规模与能力,并把这些要求转化为更大的内存容量、更高的带宽,以及让更多加速器像单一系统一样协同工作。
这种协同工程已经在产生可度量的效率收益。Maia 200 正在美国、欧洲和澳大利亚部署,在 Microsoft Teams、Copilot 和 Cowork 的内置 AI 能力上,每瓦 token 产出最高为主流 GPU 基础设施的 1.7 倍。
在 Maia 200 上运行我们的 AI 模型与服务的经验,直接影响了 Maia 300 的设计。两代产品合在一起,将支撑微软更广泛的一组 AI 服务:帮助 GitHub 更高效交付编码体验的多步智能体工作;帮助 Microsoft Foundry 支持多种架构与部署环境的云规模模型服务;面向 MAI 团队的推理与数据生成;以及帮助 Dragon Copilot 扩展工作流程、减轻临床医生行政负担的时延敏感交互。
Maia 300:让每一兆瓦产出更多可用的 AI
AI 正在成为每一个应用、每一条工作流和每一个业务流程的基础层。随着企业从聊天体验走向能够推理、行动与协作的智能体系统,AI 基础设施必须安全且高效地规模化交付智能,并随着模型和负载的演进而持续适配。
作为 Azure Maia 计划的第三代,Maia 300 采用面向推理的架构,针对长上下文、内存密集和解码密集型的 AI 负载做了优化。这需要在云规模上平衡算力、内存带宽、网络与能效。
Maia 300 系统的关键能力包括:
更少的数据搬运,更多的有效算力:在大型推理系统中,瓶颈正日益变成数据搬运的效率,而非原始算力。Maia 300 的软件定义数据流架构与 AI 辅助的算子优化协同工作,最大化局部性、减少数据搬运,并提升算力、内存与网络资源的利用率。通过把数据流当作一等设计原则,Maia 300 相较传统 GPU 架构获得了显著的每瓦性能优势。
每一瓦内更高的内存带宽:随着 AI 负载越来越受上下文和内存制约,Maia 300 提供业界领先的每瓦 HBM 带宽。8 组 HBM4 在 950 瓦 TDP 内提供 18.0 TB/s 的峰值内存带宽,使大模型与长上下文负载得以高效执行。专用算子支持把片上 SRAM 当作软件管理的暂存区使用,降低对 HBM 的压力。
芯粒架构提升效率:新的多芯粒架构把计算、内存控制器与 I/O 功能分离,改善效率、可扩展性与成本结构。计算芯粒采用台积电 N2P 制程节点,以最大化每瓦性能。
更长的上下文,更丰富的智能:通过面向包括增强版 MXFP4 在内的先进低精度格式做设计,Maia 300 降低了计算与 KV 缓存存储对内存和带宽的需求。结果是在同样的功耗包络内获得更长的上下文窗口、更高的吞吐和更好的模型效率。
数据中心规模的纵向扩展网络:Maia 300 把网络当作软件定义数据流架构的无缝延伸。数据流操作不是穿过独立的通信层搬运数据,而是跨计算、内存与网络资源作为一个整体运行。Maia 加速器之间的高带宽互连针对张量并行做了优化,同时定制的 AI 传输层在加速器与机柜之间提供高性能、可靠的纵向扩展通信。这套面向 AI 优化的传输层基于以太网网络基础设施,使统一拓扑能够从单个机柜高效扩展到数据中心规模。
每个机柜更高的 AI 吞吐:Maia 300 机柜系统在 167 千瓦功耗包络内集成 96 个加速器,在高速纵向扩展域内提供 27.6 TB 的 HBM 容量与 1.7 PB/s 的聚合 HBM 带宽。这样的密度让微软能从每个机柜服务更多并发 AI 交互和更大规模负载,改善数据中心容量与扩展 AI 服务的经济性。
Maia 300 将于 2027 年开始生产部署。更多 Maia 300 架构细节,请参阅我们的技术论文。
Azure Maia 是我们 Frontier Transformation 的核心
未来不会由单一模型、单一芯片或单一创新所定义。模型与芯片的选择,内在于我们对 Frontier Transformation 的愿景之中。我们专注于开发负责任、买得起、可扩展的平台,帮助每个人放大自己的智能,去推动对自己真正重要的突破性成果。
微软的独特之处在于,我们能够在一个开放、异构、模型多样的平台上,从芯片到系统再到智能体做端到端优化,让客户的 AI 转型在今天和未来几年都有所倚靠。这套平台是 Frontier Transformation 的核心,而 Azure Maia 是我们扩大接入、加速创新、帮助客户从 AI 中获取更多价值这一路径的基础组件。
下个月在旧金山及线上举行的 Microsoft Ignite 2026 上,我们期待分享更多关于我们的战略、技术采纳趋势以及在 Frontier Transformation 上的成果。
更多细节、图片与视频,请访问我们的 Maia 300 站点。
Scott Guthrie 负责一组超大规模云计算解决方案与服务,包括 Azure(微软的云计算平台)、生成式 AI 解决方案、数据平台以及信息与网络安全。这些平台与服务帮助全球各类组织解决紧迫挑战,并面向未来完成转型。
