MIRROR以跨视图自蒸馏提升多模态推理

Wen Ye等作者提出MIRROR强化学习方法，利用模型在不同输入模态下的表现差异进行跨视图自蒸馏；实验显示，该方法在多模态数学推理基准上优于标准强化学习，并提高了不同模态表示下的准确性和一致性。 研究构建了ODA-Data，针对同一道几何题提供文本主导、图像主导和图文结合视图。MIRROR选择表现最佳的视图作为教师，并通过加入反向KL正则项的GRPO任务奖励目标训练其他视图。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。