间歇噪声梯度可能导致学习不稳定

John J. Vastola 研究发现，在梯度信息含噪且只能间歇获得的条件下，学习过程可能不稳定：即使平均学习动态收敛到正确最优点，学习方差仍可能渐近无穷。 作者在单层和多层线性网络等可解析情形中推导了稳定条件，并称无偏的信用分配不足以保证可靠学习；反馈还必须足够频繁且包含足够信息。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。