Microsoft发布Maia 300推理加速器

Microsoft发布面向人工智能推理的多芯粒Maia 300加速器，但尚未投入生产，计划明年开始部署。该加速器包含四个采用台积电2纳米制程的计算芯粒和总容量288GB的HBM4，采用数据流架构以减少数据移动。 Microsoft称，Maia 300每兆瓦可处理的token数量比领先GPU系统高40%；其预计由96个加速器组成的液冷机架，吞吐量约为Maia 200系统的七倍。Microsoft计划将四个加速器装入一个托盘，再组成机架，并进一步组建包含12,288个加速器的超级机组。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。