基于粒子方法的广义随机优化

论文提出一类基于扩散的随机粒子优化方法，用于梯度难以计算的损失函数，涵盖生成模型训练、微调和潜变量模型学习。作者建立平均场动力学及其相互作用粒子近似，在适定性与联合收缩假设下证明指数收敛，并给出连续时间粒子系统的非渐近误差界。论文还构造高阶 Langevin 和动量优化器，并在最大边际似然估计与能量模型训练中进行评估。