ASTC提出免训练的长程智能体上下文压缩方法
热点事件持续更新
ASTC提出免训练的长程智能体上下文压缩方法
1 篇报道1 个报道来源7 小时前更新
先了解这件事
AI 综述
Xuning He 等研究者提出免训练的智能体软 Token 压缩方法 ASTC，利用大语言模型自身的循环动态机制压缩长周期任务中的上下文。论文实验显示，ASTC 在保持或超过未压缩智能体准确率的同时，最多减少 50.68% 的端到端 Attention Pairs。 ASTC 利用混合 Gated Delta Network（GDN）与 Attention 架构识别模型已经吸收的信息，将其转化为智能软 Token 延续上下文，同时保留精确数值作为硬 Token。论文还称，与 ASTC 相比，经过训练的压缩器每完成一个成功任务需要消耗 15.4 至 103.7 倍的 Attention Pairs。该方法旨在降低长程智能体处理持续增长上下文的计算开销，且无需额外训练压缩模型。
AI 根据报道生成 · 2 小时前更新
最新进展11月2日 13:00
ASTC：面向长周期 LLM 智能体的模型内上下文压缩与智能软 Token报道时间线
沿着报道，了解事件的不同侧面。
11月2日
- arXiv · Machine LearningASTC：面向长周期 LLM 智能体的模型内上下文压缩与智能软 Token
ASTC（Agentic Soft-Token Compression）是一种免训练的模型内上下文压缩方法，利用 LLM 的 GDN-attention 循环动态识别已吸收信息，并以智能软 Token 延续上下文，同时保留精确值作为硬 Token。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。