arXiv · Machine Learning· Sicheng Feng, Keda Tao, Huan Wang·· 13 小时前AI 评分49
Oracle 剪枝是真正的 Oracle 吗？
Is Oracle Pruning the True Oracle?
AI 导读
一项针对深度神经网络的系统分析发现，Oracle pruning 的剪枝前性能与重训练后的性能几乎不相关。研究跨越 LeNet5、VGG、ResNets、ViT、MLLM 及多种数据集训练了 37K 个模型，结果显示这一问题在 ResNet56 on CIFAR-10 规模已出现。研究据此认为，剪枝标准应将重训练阶段纳入考量。
来源：arXiv · Machine Learning · arxiv.org