arXiv · Machine Learning· Yujun Zhou, Zhenwen Liang, Haolin Liu, Wenhao Yu, Kishan Panaganti, Linfeng Song, Dian Yu, Xiangliang Zhang, Haitao Mi, Dong Yu·· 13 小时前AI 评分44
EVOL-RL：无标签进化语言模型中，多数投票驱动选择、新颖性促进变化
Evolving Language Models without Labels: Majority Drives Selection, Novelty Promotes Variation
AI 导读
EVOL-RL以多数投票提供稳定选择信号，并用嵌入新颖性区分选择状态相同的回答，缓解无标签自我改进中的多样性坍缩。在AIME24无标签训练的Qwen3-4B-Base上，held-out AIME25的pass@1从TTRL的4.6%升至17.1%，pass@16从18.5%升至42.0%。当多数答案错误时，EVOL-RL也能更好保留其他正确解。
来源：arXiv · Machine Learning · arxiv.org