arXiv · Machine Learning· Marco Miani, Albert Kj{\o}ller Jacobsen, Albert Lopez i Serrano, S{\o}ren Hauberg, Georgios Arvanitidis·· 14 小时前AI 评分35
预期 Fisher 秩越低，PAC 泛化能力越好
Lower expected Fisher rank implies better PAC generalization
AI 导读
研究定义并分析一种与 Fisher 信息对齐的参数分布，推导出随 Fisher 信息矩阵预期秩变化的高概率泛化误差界。该分布将探索限制在功能不变性范围内以维持低损失，并使参数对数体积与零特征值数量成正比；因此，预期 Fisher 秩越低，PAC 泛化界越好。
来源：arXiv · Machine Learning · arxiv.org