dSpark提出扩散语言模型调度蒸馏框架
热点事件持续更新
dSpark提出扩散语言模型调度蒸馏框架
1 篇报道1 个报道来源8 小时前更新
先了解这件事
AI 综述
Aidar Myrzakhan 和 Zhiqiang Shen 提出 dSpark 调度蒸馏框架，学习扩散语言模型何时提交 token，以加快并行生成；论文称，该方法在保持更优任务表现的同时，在 GSM8K 上分别为 LLaDA-8B-Instruct 和 Dream-7B-Instruct 带来 10.12 倍和 5.12 倍加速。 该框架还使用 KL 散度正则项帮助维持生成质量。论文称，dSpark 已在数学推理和代码生成任务上进行评估，但目前报道的具体加速数据仅对应 GSM8K 及上述两个模型。
AI 根据报道生成 · 34 分钟前更新
最新进展10月28日 12:00
dSpark：学习扩散语言模型何时提交 token——面向快速生成的调度蒸馏报道时间线
沿着报道，了解事件的不同侧面。
10月28日
- arXiv · Machine LearningdSpark：学习扩散语言模型何时提交 token——面向快速生成的调度蒸馏
dSpark提出基于调度蒸馏的框架，学习扩散语言模型提交 token 的时机，以加快并行生成。在 GSM8K 上，LLaDA-8B-Instruct 和 Dream-7B-Instruct 相较各类基线分别实现 10.12×、5.12× 加速，同时保持更优任务表现；KL 散度正则项用于帮助维持生成质量。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。