arXiv · Machine Learning· Kyrylo Yemets, Mykola Lukashchuk, Ivan Izonin·· 9 小时前AI 评分34
GateTS：通过受注意力启发的路由混合专家实现灵活高效的预测
GateTS: Versatile and Efficient Forecasting via Attention-Inspired routed Mixture-of-Experts
AI 导读
GateTS 提出一种面向单变量时间序列预测的稀疏混合专家架构，以受注意力启发的门控机制替代传统单层 softmax 路由器，覆盖长期和短期预测及间歇性模式。该方法无需经典 MoE 常用的辅助负载均衡损失，在仅使用 PatchTST 一部分参数的同时取得更高预测性能，并在多样数据集上比 LSTM 计算效率更高。
来源：arXiv · Machine Learning · arxiv.org