当地时间 10 月 12 日,微软正式发布第三代自研 AI 芯片 Maia 300,计划从 2027 年开始大规模部署,让自研芯片逐步成为微软旗下 AI 产品和服务的主要推理基础设施。
这是微软迄今在自研芯片领域规模最大的一次布局。微软董事长兼首席执行官萨提亚·纳德拉(Satya Nadella)表示,公司计划将 Maia 系列芯片的部署规模扩大至数吉瓦级别,覆盖 Copilot、GitHub Copilot 等 AI 产品,以降低大规模运行模型的成本,并减少对外部芯片供应商的依赖。
Maia 300 采用台积电先进的 2nm 制程工艺。按照微软披露的数据,在配置 96 颗加速器的完整机架中,其 Token 吞吐量最高可达到上一代 Maia 200 的 7 倍,每瓦性能提升超过 2.5 倍。与领先的 GPU 系统相比,微软预计 Maia 300 每兆瓦电力能够处理的 Token 数量提高约 40%。
(来源:Microsoft)
尽管这一性能优势仍有待大规模商业部署验证,但微软的目标已经十分明确。在长期依赖英伟达 GPU 支撑 AI 业务之后,它打算将更多推理任务转移到自研硬件上。
从 2nm 芯片到万卡级 AI 系统
微软的 Maia 系列始于 2023 年。当年,公司发布首款自研 AI 加速器 Maia 100,尝试针对 Azure 云平台的大模型工作负载优化硬件。今年 1 月推出的 Maia 200,则开始承担更大规模的实际推理任务。
目前,Maia 200 已在美国、欧洲和澳大利亚部署,用于运行 OpenAI 模型、微软自研模型及部分开源模型。微软称,在 Teams、Copilot 等产品的特定 AI 功能中,Maia 200 每瓦生成的 Token 数量最高可达到领先 GPU 基础设施的 1.7 倍。
新发布的 Maia 300 进一步强化了这一技术路线。
在芯片设计上,Maia 300 采用多芯粒(Chiplet)架构,将不同计算功能分配给不同芯片。其中,核心计算芯粒使用台积电 N2P 工艺制造,内存控制器和输入输出功能则由其他芯粒承担。这种方式可以根据不同功能选择合适的制造工艺,在提升性能的同时优化制造成本。
Maia 300 主要面向 AI 推理任务,尤其是长上下文推理、多步骤智能体执行和高强度文本生成。这类应用需要模型持续读取大量信息,并在计算、内存和不同处理单元之间频繁传输数据。
因此,微软在设计中重点提高了内存带宽和数据传输效率。
Maia 300 配备 8 组第四代高带宽内存(HBM4),单颗加速器拥有 288GB 内存容量和 18TB/s 峰值带宽,芯片热设计功耗为 950W。与 Maia 200 相比,其内存带宽提高至 2.5 倍,容量增加 33%,每瓦内存带宽约为原来的 2 倍。
图|微软第三代自研 AI 芯片 Maia 300 的核心规格及芯片架构。(来源:Microsoft)
与此同时,微软将原先较为统一的内存访问结构,调整为非统一内存访问(NUMA)架构,让计算单元能够优先访问附近的存储资源,缩短数据传输距离,减少能源消耗。
Maia 300 还支持增强型 MXFP4 等低精度数据格式,通过降低模型权重和缓存数据占用的存储空间,使同等硬件资源能够支持更长的上下文和更多并发任务。
除了单颗芯片的改进,微软还重新设计了整个机架系统。一个 Maia 300 机架集成 96 颗加速器,数量是上一代的两倍,总功率达到 167kW。机架内部采用电气互连,跨机架则通过光互连连接,最多可将 128 个机架组成一个包含 12288 颗加速器的超级集群。
这种设计允许不同机架中的芯片直接交换数据,也能将负责处理输入信息的计算节点与负责生成内容的节点分开部署,提高大规模推理的资源利用率。
微软还将芯片、网络、供电和冷却系统统一优化。其中,液冷系统可带走机架超过 80% 的热负荷,帮助更高密度的 AI 设备在现有数据中心运行。
从单颗芯片到整套数据中心基础设施,Maia 300 的设计都围绕一个目标展开:在有限的电力和成本预算内,处理尽可能多的 AI 请求。
不过,目前公布的性能对比主要来自微软自身测试。咨询公司 Moor Insights and Strategy 首席执行官 Patrick Moorhead 指出,尚无微软以外的机构对 Maia 300 进行独立测试,其实际成本优势仍需等待商业部署结果。
AI 芯片竞争进入新阶段
微软加快 Maia 300 的部署,也反映出 AI 芯片产业竞争正在发生变化。
过去,英伟达凭借高性能 GPU 和 CUDA 软件生态,成为大型 AI 模型训练和推理的主要硬件供应商。随着 AI 应用规模扩大,推理成本逐渐成为科技巨头关注的重点,越来越多的企业开始寻求自主控制算力基础设施。
这一趋势在今年进一步加速。6 月,OpenAI 与博通联合发布首款定制 AI 推理芯片 Jalapeño,并于 9 月开始出货,计划 2027 年扩大至吉瓦级部署。Anthropic 也在考虑自主设计芯片,同时扩大与谷歌、博通的合作。加上此前已经推出 TPU 和 Trainium 系列的谷歌、亚马逊,英伟达的主要客户正在建立更多元的芯片供应体系。
Maia 300 的特殊之处,在于微软已经明确提出了大规模替代部分外部 GPU 推理工作负载的计划。从 2027 年起,微软准备将 Maia 系列扩展至数吉瓦规模,使其成为旗下 AI 产品和服务的主要推理系统。这代表着自研芯片正在从补充性算力资源,逐渐进入微软 AI 基础设施的核心。
对于微软这样同时拥有 Azure 云平台、Copilot 产品和庞大企业客户群的公司而言,AI 推理是一项需要长期承担的运营成本。相比采购通用 GPU,针对自身模型和业务需求设计芯片,有机会在特定工作负载下获得更高的能源效率和更低的单位 Token 成本。
不过,这并不等于微软将全面放弃英伟达。微软仍然依靠英伟达和 AMD 的硬件支持模型训练,英伟达在通用计算能力、软件生态和大规模部署方面也继续保持优势。
可以确定的是,AI 芯片市场正在形成新的分工。通用 GPU 继续承担广泛的训练与推理任务,大型科技公司则通过自研或联合定制芯片,将部分规模庞大、需求相对明确的工作负载转移至自己的硬件平台。
)