GitHub · ggml-org/llama.cpp Releases·· 12 小时前AI 评分34
llama.cpp b11854 发布,Vulkan 后端支持 ggml src1 精度
b11854
AI 导读
llama.cpp 发布 b11854,Vulkan 后端加入 ggml src1 精度支持,并更新 accumulator precision selection。该版本通过 scaling 处理 fp32 溢出和 copy-to-fp16 activations 溢出,同时覆盖 fp32 src0,新增 ggml prec get helpers 并补充测试。
来源:GitHub · ggml-org/llama.cpp Releases · github.com