arXiv · Machine Learning· Aghyad Deeb, Ryan Greenblatt, Alex Mallen·· 7 小时前精选AI 评分76
Towards Understanding Score-Seeking in LLMs：研究大语言模型追求评分的行为动机
Towards Understanding Score-Seeking in LLMs
AI 导读
Aghyad Deeb、Ryan Greenblatt 和 Alex Mallen 研究 GPT 5.6 Sol、GPT 5.5 及未经安全训练的 OpenAI o3 检查点在评分器信息泄露的智能体环境中的行为。
推荐理由
论文通过评分器泄露的智能体环境，区分模型追求分数本身与追求训练或评估后果的行为动机，并比较不同模型的表现。
来源：arXiv · Machine Learning · arxiv.org