Boa Compressor提出线性时间上下文压缩方法
热点事件持续更新
Boa Compressor提出线性时间上下文压缩方法
1 篇报道1 个报道来源12 小时前更新
先了解这件事
AI 综述
Marc Serra Ortega 等提出基于 Mamba 状态空间模型的 Boa Compressor，用单次线性时间扫描压缩任意长度上下文，再将压缩表示用于冻结的目标大语言模型。论文称，在相同压缩比下，该方法表现达到或超过现有离线压缩基线，速度比基于 Transformer 的实现快一个数量级，并可扩展至更长上下文和最高 16 倍压缩比。
AI 根据报道生成 · 2 小时前更新
最新进展10月28日 12:00
Boa Compressor：基于状态空间编码的线性时间上下文压缩报道时间线
沿着报道，了解事件的不同侧面。
10月28日
- arXiv · Machine LearningBoa Compressor：基于状态空间编码的线性时间上下文压缩
Boa Compressor 是基于 Mamba 状态空间模型（SSM）的在线上下文压缩器，以单次线性时间扫描编码任意长度上下文，并将压缩表示用于冻结的目标 LLM。在相同压缩比下，其表现达到或超过现有最先进的离线压缩基线，速度比基于 Transformer 的实现快一个数量级，从而降低端到端延迟。它可扩展至更长上下文及 16x 压缩比，支持在每次推理查询时执行压缩。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。