arXiv · Machine Learning· Samarth Varshney, Ritu Yadav·· 13 小时前AI 评分70
StateWise：教语言模型在多轮对话中追踪并遵守不断变化的约束
StateWise: Teaching Language Models to Track and Obey Evolving Constraints in Multi-Turn Dialogue
AI 导读
论文提出 StateWise，通过训练语言模型维护可修订的约束状态，处理多轮对话中约束新增、修改和撤销后的追踪与遵守问题。在 Llama-3.1-8B 上，各监督式变体使已撤销约束复发约翻倍，因此研究加入基于自生成复发对比的偏好训练。
来源：arXiv · Machine Learning · arxiv.org