KTransformers-FineTune让CPU参与MoE微调计算

清华大学MADSys实验室与趋境科技提出KTransformers-FineTune（KT-FT），让CPU直接计算MoE专家模块，GPU继续负责Attention模块，以减少专家权重通过PCIe搬运的开销。KT-FT结合语义感知主动布局引擎和面向路由倾斜的动态线程调度，吞吐达到传统卸载范式的2.5～21.2倍，并支持在同等硬件条件下一键执行LoRA微调与推理。