跳到正文
arXiv · Machine Learning· Vartan Shadarevian, Kia Ghods, Alex Kenich, Anany Kotawala·· 8 小时前AI 评分63

GENSTRAT:构建大语言模型策略推理科学的评测框架

GENSTRAT: Toward a Science of Strategic Reasoning in Large Language Models

AI 导读

研究团队提出 GENSTRAT,通过程序生成双人零和不完全信息下注博弈,评估大语言模型的策略推理能力,以缓解固定游戏评测集饱和和数据污染问题。研究从状态空间、时间依赖、对手依赖、私有信息和精度五个维度刻画游戏复杂度,构建包含 50 款游戏的基准,并组织 12 个前沿及开放权重模型进行超过 40,000 场模型对战。

来源:arXiv · Machine Learning · arxiv.org