PGD早停在特定回归设定下达到尖锐率
热点事件持续更新
PGD早停在特定回归设定下达到尖锐率
1 篇报道1 个报道来源8 小时前更新
先了解这件事
AI 综述
Yingzhen Yang 和 Ping Li 证明，在特征均匀取自单位球面的插值空间非参数回归中，用带早停的预条件梯度下降（PGD）训练过参数化双层神经网络，可达到尖锐回归率 O(n^{-2αs'/(2αs'+1)})。 这一结论要求目标函数属于相应插值空间且 s'≥3；其中 α 由正则神经切线核的特征值衰减决定。研究称，该界优于带有 log²(1/δ) 因子的近最优界。
AI 根据报道生成 · 1 小时前更新
最新进展10月28日 12:00
预条件梯度下降与提前停止训练的过参数化神经网络：插值空间非参数回归的尖锐泛化界报道时间线
沿着报道，了解事件的不同侧面。
10月28日
- arXiv · Machine Learning预条件梯度下降与提前停止训练的过参数化神经网络：插值空间非参数回归的尖锐泛化界
研究证明，采用新型预条件梯度下降（PGD）并提前停止训练的过参数化双层神经网络，在插值空间非参数回归中达到尖锐回归率。训练特征在单位球面均匀采样、目标函数属于 \(s'\ge3\) 的插值空间时，回归率为 \(\mathcal{O}(n^{-2\alpha s'/(2\alpha s'+1)})\)，优于带有 \(\log^2(1/\delta)\) 因子的近最优界。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。