arXiv · Machine Learning· Anthony Kostal-Vazquez, Vassil Dimitrov, Branden Butler·· 23 小时前AI 评分61
Algebraic Integer Quantization 提出面向机器学习的代数整数压缩计算框架
Algebraic Integer Quantization for Machine Learning Applications
AI 导读
论文提出代数整数数值格式（AINF），将计算归约为纯整数运算，以支持无误差的乘加操作，并开发了利用该性质的矩阵乘法引擎。作者进一步提出面向大语言模型推理的有损压缩格式代数整数量化（AIQ）；在相同每参数比特预算下，AIQ 在多种模型和基准上的准确率与行业标准 MX 格式具有竞争力。实验采用二次代数整数，arXiv:2610.12494。
来源：arXiv · Machine Learning · arxiv.org