arXiv · Machine Learning· Ali Banaei, Muhammad Shahab Shahzad, Gerald Q. Maguire Jr., Marco Chiesa, Dejan Kosti\'c·· 8 小时前AI 评分70
从训练暴露到成员证据：OLMo 2 的受控研究
From Training Exposure to Membership Evidence: A Controlled Study of OLMo 2
AI 导读
研究团队对 OLMo 2 1B 的官方 500 亿 token 中期训练阶段进行重跑，使用 7,814 对按领域和难度匹配的文档，通过随机选择决定哪篇进入训练、哪篇作为未见文档，并以相同随机种子的 AI2 官方模型作为反事实对照。
来源：arXiv · Machine Learning · arxiv.org