跳到正文
arXiv · Machine Learning· Fabrizio Boncoraglio, Lenka Zdeborov\'a·· 13 小时前AI 评分59

标签噪声下何时早停有益?核梯度流的相图

When is early stopping beneficial under label noise? A phase diagram for kernel gradient flow

AI 导读

论文为含不可预测标签噪声的核梯度流推导高维学习曲线,给出早停与训练至插值点何者泛化更优的相图。相图由学习输入与标签共享关系的线性核成分,与支持拟合标签噪声的高阶成分之间的平衡决定;在边界情形,插值端点在所研究的核族和所有训练时间中泛化误差最低。CIFAR10 实验显示,较大、较深的卷积网络即使正确分类了随机标签,测试误差的后期恶化也基本消失;这些网络如何获得类似的有利表示几何仍未解决。

来源:arXiv · Machine Learning · arxiv.org