arXiv · Machine Learning· Nilotpal Kakati·· 8 小时前AI 评分49
信号改善、编码器退化：LeJEPA 自监督学习无标签监控的已知答案测试
Improving Signals, Declining Encoder: A Known-Answer Test of Label-Free Monitoring in Self-Supervised Learning
AI 导读
LeJEPA 编码器在合成图像自监督训练中，9/10 个随机种子的因子可读性突然下降并持续，但损失仍持续下降。跟踪的 11 个无标签信号中多数继续改善，反而将退化运行评为优于未退化运行。标准变点检测很少在退化初期发出信号，按这些信号选择的检查点大多位于退化之后。
来源：arXiv · Machine Learning · arxiv.org