arXiv · Machine Learning· Weiqin Chen, Xinlong Du, Gesualdo Scutari, Harsha Honnappa·· 17 小时前AI 评分60
实证研究:上下文强化学习是贝叶斯后验采样器吗?
Is In-Context Reinforcement Learning A Posterior Sampler? An Empirical Study
AI 导读
这篇论文研究 Decision-Pretrained Transformer(DPT)及其变体在实践中是否执行贝叶斯后验采样。作者提出充分统计量不变性和鞅性质两项必要条件,并在 Gaussian、Bernoulli 和线性 bandit 设置中进行统计假设检验。实验显示两项条件均持续被违反,表明实际训练的 ICRL 模型可能并不表现为贝叶斯后验采样器。
来源:arXiv · Machine Learning · arxiv.org