arXiv · Machine Learning· Boyuan Meng, Peihua Bao, Hong Liu, Xiaowei Zhu, Chao Wang, Gen Li, Zhenxuan Pan·· 10 小时前AI 评分49
HARTS:面向混合注意力模型智能体强化学习的前缀共享训练系统
HARTS: A Prefix-Sharing Training System for Agentic RL with Hybrid-Attention Models
AI 导读
HARTS为混合注意力模型的智能体强化学习提供rollout树前缀共享训练,并实现训练加速。在SWE-bench的两种采样方案中,7.9B和124B参数模型使用8–64张GPU时,更新吞吐较trajectory-expanded training提升4.77–10.45倍。
来源:arXiv · Machine Learning · arxiv.org