arXiv · Machine Learning· Shiwen Wang, Pengxiang Zhao, Xiaoming Yuan·2026-10-12 12:00· 8 小时前AI 评分70

HSVDQuant 以 Rank-4 W4A4 量化扩散 Transformer

Deflating the Hessian: Rank-4 W4A4 Quantization for Multimodal Diffusion Transformers

AI 导读

HSVDQuant 提出统一框架，将低秩辅助的 W4A4 后训练量化建模为联合校准问题，并通过 deflated Hessian 和激活噪声代理降低量化误差。