arXiv · Machine Learning· Dezhen Lu, Zixiang Ni, Runguo Li·2026-10-28 12:00· 10 小时前AI 评分66

ScaleRLT 提出循环 Transformer 强化学习的精确对数概率与快速延后 rollout

ScaleRLT: Exact Log-Probabilities and Fast Deferred Rollouts for Reinforcement Learning on Looped Transformers

AI 导读

ScaleRLT 为循环语言模型上的 on-policy 强化学习提出混合对数概率计算，将 rollout 自身调度回放的数值与 dense learner 的梯度结合。