跳到正文
arXiv · Machine Learning· Hanming Zhang, Erhu Feng·· 8 小时前AI 评分37

COPE:面向混合专家卸载策略的可组合性能仿真

COPE: Composable Performance Emulation for Mixture-of-Experts Offloading Policies

AI 导读

COPE(Composable Offloading Policy Emulator)提出一种在运行时集成前,为目标模型—平台配置选择最佳 MoE 卸载策略的方法。

来源:arXiv · Machine Learning · arxiv.org