提出 Packed-SS 解码调度
热点事件持续更新
提出 Packed-SS 解码调度
1 篇报道1 个报道来源9 小时前更新
先了解这件事
报道摘要
Packed-SS 在一次模型调用中验证当前草稿并构建下一轮草稿，使输入规模随推测宽度线性增长，同时保持目标模型分布。Nemotron 3B/8B 和 SetDLM 1.7B 的贪心解码实验显示，其吞吐高于两种基线、平均墙钟时间更低；在草稿器满足温和单调性假设时，所需模型调用数不多于标准双调用方案。
摘自 arXiv · Machine Learning
最新进展10月28日 12:00
Packed-SS：基于扩散草稿的单次调用打包式自推测解码报道时间线
沿着报道，了解事件的不同侧面。
10月28日
- arXiv · Machine LearningPacked-SS：基于扩散草稿的单次调用打包式自推测解码
Packed-SS 在一次模型调用中验证当前草稿并构建下一轮草稿，使输入规模随推测宽度线性增长，同时保持目标模型分布。Nemotron 3B/8B 和 SetDLM 1.7B 的贪心解码实验显示，其吞吐高于两种基线、平均墙钟时间更低；在草稿器满足温和单调性假设时，所需模型调用数不多于标准双调用方案。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。