ManifoldFlow提出可学习谱的Stiefel优化
热点事件持续更新
ManifoldFlow提出可学习谱的Stiefel优化
1 篇报道1 个报道来源16 小时前更新
先了解这件事
AI 综述
Haiwen Yi和Xinyuan Song提出ManifoldFlow，通过SPD松弛让Stiefel优化能够学习谱缩放；论文称，该方法在多项任务中优于固定谱的Stiefel基线，在循环语言建模中的提升尤其明显。 ManifoldFlow将参数写成W=QS^{1/2}，其中QᵀQ=I、S≻0，从而把方向几何与谱缩放分开。它利用Stiefel约束排除的梯度更新有界SPD谱，并保持WᵀW=S，使谱具有可解释性。
AI 根据报道生成 · 1 小时前更新
最新进展10月16日 12:00
ManifoldFlow：通过 SPD 松弛实现可学习谱的 Stiefel 优化报道时间线
沿着报道，了解事件的不同侧面。
10月16日
- arXiv · Machine LearningManifoldFlow：通过 SPD 松弛实现可学习谱的 Stiefel 优化
ManifoldFlow 提出一种可学习谱的 Stiefel 优化方法，通过 W=QS^{1/2} 将方向几何与谱缩放分离，其中 QᵀQ=I 且 S≻0。该方法利用被 Stiefel 约束排除的梯度更新有界 SPD 谱，并保持 WᵀW=S 的谱可解释性，在多项任务中优于固定谱 Stiefel 基线，循环语言建模中的增益尤其明显。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。