多索引模型ERM的算法阈值研究

Andrea Montanari 和 Kangjie Zhou 提出增量近似消息传递算法 IAMP，并在高维渐近条件下刻画它在多索引模型经验风险最小化中达到的训练误差，以及训练误差与测试误差的关系。论文还讨论了该算法在多项式时间算法中的预期最优性。 研究设定中，特征向量为标准高斯分布，响应变量依赖于数据在未知低维子空间上的投影；ERM学习的模型则依赖于一个m维投影，例如由m个神经元组成的神经网络。结论适用于样本数n与维度d同时趋于无穷、且n/d趋于有限正数α的条件。

AI 根据报道生成 · 59 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。