研究揭示DNTK的正交群对称性

Bangti Jin、Longjun Wu提交论文，分析两层及深层神经网络的无限微分神经切线核（DNTK）在正交群作用下的对称性；研究称，结论适用于有偏置或无偏置的各类激活函数。 论文证明，同一群轨道上的积分算子具有相同谱，其再生核希尔伯特空间仅相差正交变换；对称算子对应的固定 DNTK 在单位球面上呈现 zonal 对称性。针对 RePU 激活、零偏置初始化的浅层网络，研究还据此推导了相关积分算子的特征值衰减率。

AI 根据报道生成 · 53 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。