跳到正文
热点事件持续更新

论文提出组合式数据选择并提交第二版

1 篇报道1 个报道来源8 小时前更新

先了解这件事

AI 综述

Luyang Zhang等作者提交了论文《Pick the Mixture, Not the Samples: Combinatorial Data Selection for LLMs》的第二版,提出用于大语言模型微调的组合式数据选择框架。其方法先分配各领域的样本数量,再依据归因分数筛选具体样本。 论文报告称,该方法在实证测试中比强基线高20%至54%,并适用于不同归因方法、模型和数据池规模;其理论误差界与选择规模呈线性关系,且独立于数据池规模。

AI 根据报道生成 · 58 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. arXiv · Machine Learning
    选择数据混合,而非样本:面向 LLM 的组合式数据选择

    研究提出面向 LLM 微调的组合式数据选择(CDS)框架,并设计 Mixture-then-Select,先分配各领域的样本数量,再按归因分数筛选样本。该方法在实证测试中比强基线高 20% 至 54%,且适用于不同归因方法、模型和数据池规模。其理论误差界与选择规模呈线性关系、独立于数据池规模,并可扩展至预算约束下的变价数据采购问题。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。