arXiv · Machine Learning· Yuwei Zeng, Zekun Shi·· 13 小时前AI 评分39
FlowVQ:将分位数传输到码本,实现无需码本坍塌的可扩展向量量化
Transporting Quantiles to Codebook: Scalable Vector Quantization without Codebook Collapse
AI 导读
FlowVQ提出一种替代标准向量量化的方法,将神经量化建模为联合建模与聚类过程,以轻量级 flow matching 模型学习潜空间,并通过 probability flow ODE 将源空间中按等分位数划分的先验码传输为结构化码本。该方法在图像 tokenization 与生成,以及两个要求高精度 tokenization 的任务上进行评估,显示出可扩展性、更强的码本表达能力和完整码本利用率。
来源:arXiv · Machine Learning · arxiv.org