arXiv · Machine Learning· Lishan Yang, Wei Emma Zhang, Nam Kha Nguygen, Po Hu, Yanjun Shu, Weitong Chen, Mong Yuan Sim·· 9 小时前AI 评分32
FediLoRA：缺失模态约束下基础模型的实用联邦微调
FediLoRA: Practical Federated Fine-Tuning of Foundation Models Under Missing-Modality Constraints
AI 导读
FediLoRA 提出轻量级联邦 LoRA 聚合框架，应对计算资源异构导致的 LoRA 秩不均及缺失模态对联邦 VLLMs 的影响。该方法结合简单平均与结构化编辑，在多个通用和医疗领域基准数据集上表现良好；医疗数据实验显示其适用于现实部署，代码已发布。
来源：arXiv · Machine Learning · arxiv.org