Bilevel-ZOFO 提出双层优化方法加速大模型微调

Reza Shirkavand、Peiran Yu、Qi He 和 Heng Huang 提出 Bilevel-ZOFO，一种结合参数高效微调与零阶优化的大语言模型双层训练方法。该方法在内层使用一阶参数高效微调（FO-PEFT）进行快速局部适配，在外层通过零阶优化（ZO）更新完整模型骨干网络，以降低零阶估计方差、稳定优化过程并减少对提示词的敏感性。 论文称，该方法在保持与现有方法相近内存效率的同时，实现了 2—4 倍训练加速，并提供了理论收敛保证。此外，模型可通过零阶优化更新骨干网络，再为每项新任务调整少量 FO-PEFT 参数，实现快速少样本适应。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。