闪德资讯获悉,10月13日,据外媒报道,微软推出第三代自研AI芯片Azure Maia 300。该芯片采用多Chiplet设计和软件定义数据流架构,其中计算Chiplet基于台积电2nm制程打造,并搭载8组HBM4堆栈。

在存储配置方面,Azure Maia 300配备288GB HBM容量,峰值内存带宽达到18TB/s,TDP为950W,FP4峰值算力达到13.8 PFLOPS,并支持万卡级互连,可满足大规模AI训练和推理需求。
相比上一代Maia 200,Maia 300在内存性能方面实现明显提升:
内存带宽提升至2.5倍;
内存容量提升33%;
每瓦HBM带宽提升约2倍。
在机架系统层面,Maia 300进一步提升集群密度。单机架AI芯片数量由上一代翻倍至96颗,整机架功耗达到167kW,可提供27.6TB HBM容量以及1.7PB/s聚合内存带宽,并支持扩展至包含12288颗加速器的Superpod超级计算集群。
在满配96颗AI芯片的情况下,Maia 300机架级Token吞吐量最高达到Maia 200的7倍,每瓦性能提升超过2.5倍。
随着大模型规模持续扩大,AI训练和推理对算力、内存容量以及带宽提出更高要求。微软此次升级Maia系列,不仅进一步强化自研AI芯片能力,也反映出云服务厂商正通过自研加速器和高性能存储架构,降低对通用GPU供应的依赖。
闪德资讯,一个聚焦关注存储产业供应链和趋势变化的垂直媒体。
点击此处关注,获取最新资讯!






我的评论
最新评论