英文原标题:Microsoft’s new AI chip makes it less reliant on Nvidia’s GPUs

本文为英文原文的机器翻译摘要,原文见:The Verge AI ↗

  • 微软发布第三代自研AI芯片Maia 300,定位为微软产品与服务的“主要AI推理系统”,计划2027年开始投入生产。
  • Maia 300注重能效,微软云集团执行副总裁Scott Guthrie表示,相比领先的GPU系统,每兆瓦可多输出40%的token;在96加速器配置下,机架级token吞吐量可达Maia 200的7倍。
  • 微软计划从2027年起将Azure Maia系列扩展至多吉瓦级部署,使Maia成为微软产品和服务的主要AI推理系统,从而减少对Nvidia和AMD芯片的依赖。
  • Maia 300采用chiplet架构,基于台积电N2P工艺,将计算、内存控制器和I/O功能分离,以增加计算硅面积并让各功能采用最适合的技术。
  • Maia 200已于今年1月发布,目前运行在微软Copilot、GitHub Copilot、Microsoft Foundry及微软自研AI模型等生产负载上;Maia 300旨在应对长上下文推理、延迟敏感对话和多步代理任务等新型AI负载。

关键数据

  • Maia 300预计每兆瓦token输出比领先GPU系统多40%
  • 在96加速器配置下,机架级token吞吐量可达Maia 200的7倍
  • Maia 300将于2027年开始投入生产
  • Maia 200于今年1月发布
  • Maia 300基于台积电N2P工艺

为什么值得看:Maia 300是微软减少对Nvidia GPU依赖、提升AI推理能效并支撑自研AI模型战略的关键一步。

站内导航