跳到正文
arXiv · Machine Learning· Weiqin Chen, Xinlong Du, Gesualdo Scutari, Harsha Honnappa·· 17 小时前AI 评分60

实证研究:上下文强化学习是贝叶斯后验采样器吗?

Is In-Context Reinforcement Learning A Posterior Sampler? An Empirical Study

AI 导读

这篇论文研究 Decision-Pretrained Transformer(DPT)及其变体在实践中是否执行贝叶斯后验采样。作者提出充分统计量不变性和鞅性质两项必要条件,并在 Gaussian、Bernoulli 和线性 bandit 设置中进行统计假设检验。实验显示两项条件均持续被违反,表明实际训练的 ICRL 模型可能并不表现为贝叶斯后验采样器。

来源:arXiv · Machine Learning · arxiv.org