GitHub · ggml-org/llama.cpp Releases·· 8 小时前AI 评分29
llama.cpp b11883 修复 llama-quant 的 4D 张量量化与专家张量识别
b11883
AI 导读
llama.cpp b11883 修复 llama-quant 对 4D 张量量化时漏处理后续行的问题,改用 ggml_nrows() 统计所有行。更新还改为按张量名称识别专家张量,并修正 4D 张量 imatrix 的预期大小计算,移除了 BailingMoE3 特例。
来源:GitHub · ggml-org/llama.cpp Releases · github.com