BASTION论文更新至v3版本

1. 12:00
   arXiv · Machine Learning

   BASTION：采用树结构块扩散草稿的预算感知投机解码

   BASTION提出预算感知投机解码框架，通过树结构块扩散草稿动态构建依赖查询的树，在草稿质量与硬件约束间权衡。跨多种基准和GPU架构，该方法较标准自回归解码最高提速6.61×，较先进块扩散基线高39%。BASTION无需训练，保持目标模型分布，且无需针对不同设置调参。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。