跳到正文
arXiv · Machine Learning· Dmitriy Bystrov, George Chirkov, Daniil Medyakov, Dmitry Bylinkin, Aleksandr Beznosikov·· 10 小时前AI 评分37

联邦学习中通过谱方法连接通信压缩与本地更新

Bridging Compressed Communication and Local Steps via Spectral Method in Federated Learning

AI 导读

一种联邦学习谱方法结合本地更新与通信压缩,以弥补现有 Muon 联邦学习方案对这两项高效训练技术的支持不足。该方法在温和假设下给出收敛保证,并消除了严格的有界异质性条件。标准图像分类基准上的实验验证了其效率与稳健性。

来源:arXiv · Machine Learning · arxiv.org