AMMA提出面向百万Token长上下文的多芯粒内存架构
热点事件持续更新
AMMA提出面向百万Token长上下文的多芯粒内存架构
1 篇报道1 个报道来源8 小时前更新
先了解这件事
AI 综述
Zhongkai Yu 等研究作者提出多芯粒内存中心架构 AMMA，面向百万 Token 长上下文 Attention 服务，通过以 HBM-PNM cubes 替代 GPU 计算芯粒，提升解码阶段内存受限型 Attention 的可用内存带宽。研究评估显示，相较 NVIDIA H100，AMMA 的 Attention 延迟降低 15.5 倍，能耗降低 6.9 倍。该研究已被 MICRO 2026 接收。
AI 根据报道生成 · 2 小时前更新
最新进展11月2日 13:00
AMMA：面向 1M Context 低延迟 Attention 服务的多芯粒存储中心架构报道时间线
沿着报道，了解事件的不同侧面。
11月2日
- arXiv · Machine LearningAMMA：面向 1M Context 低延迟 Attention 服务的多芯粒存储中心架构
AMMA 提出一种面向百万 Token 长上下文 Attention 服务的多芯粒存储中心架构，以 HBM-PNM cubes 替代 GPU 计算芯粒，针对解码阶段的内存受限型 Attention 提升可用内存带宽。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。