arXiv · Machine Learning· Bruno Mlodozeniec, Spencer Frei·· 13 小时前AI 评分48
模糊拟合:Rashomon 效应与 Scaling Law 估计的挑战
Ambiguous Fits: The Rashomon Effect and Challenges in Scaling Law Estimation
AI 导读
研究发现,标准神经网络 Scaling Law 拟合存在 Rashomon 效应:多个拟合效果近似的参数方案,在大规模外推时可能给出显著不同的结果。作者提出确定性 branch-and-bound 算法,可保证拟合损失近乎最优,并穷尽刻画近似最优解对应的 Scaling Law 曲线范围。
来源:arXiv · Machine Learning · arxiv.org