跳到正文
arXiv · Machine Learning· Zihan Gu, Lulu Zhao, Tianyi Ma, Hua Zhang, Wenbo Su, Yanan Cao, Yue Hu·· 8 小时前AI 评分40

描绘拉丁方阵任务中 Grokking 的解集结构

Mapping the Solution-Set Structure of Grokking on Latin Squares

AI 导读

研究刻画拉丁方阵任务中 Grokking 的最小范数端点解集,并按端点泛化情况将任务分为 all-good、mixed 和 no-good。部分观测下,有限阿贝尔群族渐近呈 all-good;均匀随机拉丁方阵中,基于观测的学习者遇到 all-good 任务则渐趋稀少,实验还显示加法重标记即使具有稠密多项式表示仍能泛化。

来源:arXiv · Machine Learning · arxiv.org