提出结合方差缩减与多次本地更新的去中心化优化算法

Jie Liu、Nicola Bastianello、Wenying Xu 和 Daniel W. C. Ho 提出一种结合方差缩减与多次本地更新的原始-对偶去中心化随机优化算法，在强凸条件下实现期望线性收敛，并改善了步长对网络规模和本地更新次数的依赖关系。 该算法的步长与网络规模无关，仅与本地更新次数成反比，而传统方法需要与本地更新次数的三次方成反比。通信方面，算法每轮只需交换一个变量，相比基于梯度跟踪的方法将通信成本降低一半。上述收敛保证适用于强凸场景。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。