热点事件持续更新

研究发现预言式剪枝难预测重训性能

1 篇报道1 个报道来源12 小时前更新

先了解这件事

AI 综述

Sicheng Feng、Keda Tao 和 Huan Wang 的系统研究发现，Oracle pruning 中模型剪枝前的性能与重训练后的性能几乎不相关，因此仅凭剪枝前表现难以判断剪枝方案最终效果。研究训练了约 3.7 万个模型，覆盖 LeNet5、VGG、ResNet、ViT、MLLM 及 MNIST、CIFAR、ImageNet 等数据集；这一现象在 ResNet56 on CIFAR-10 规模已出现。由于精确 Oracle pruning 成本过高，大规模实验采用了近似方法，研究据此认为剪枝标准应纳入重训练阶段。

AI 根据报道生成 · 2 小时前更新

最新进展10月28日 12:00

Oracle 剪枝是真正的 Oracle 吗？

报道时间线

沿着报道，了解事件的不同侧面。

10月28日

12:00
arXiv · Machine Learning
Oracle 剪枝是真正的 Oracle 吗？
一项针对深度神经网络的系统分析发现，Oracle pruning 的剪枝前性能与重训练后的性能几乎不相关。研究跨越 LeNet5、VGG、ResNets、ViT、MLLM 及多种数据集训练了 37K 个模型，结果显示这一问题在 ResNet56 on CIFAR-10 规模已出现。研究据此认为，剪枝标准应将重训练阶段纳入考量。

本事件热度走势

还没有足够的连续观测数据，暂不绘制趋势。