跳到正文
arXiv · Machine Learning· Channe Chwa, Xinle Wu, Yao Lu·· 9 小时前AI 评分45

LLM 后训练流水线的自动配置

Automatic Configuration of LLM Post-Training Pipelines

AI 导读

AutoPipe 提出一种面向预算的两阶段框架,用于自动选择 LLM 后训练配置。它离线学习数据集条件化的 learning-to-rank 代理模型,在线结合 Bayesian optimization 与 Gaussian-process residual surrogate,并通过 early stopping 预测最终性能以降低评估成本。

来源:arXiv · Machine Learning · arxiv.org