跳到正文
GitHub · ggml-org/llama.cpp Releases·· 12 小时前AI 评分34

llama.cpp b11854 发布,Vulkan 后端支持 ggml src1 精度

b11854

AI 导读

llama.cpp 发布 b11854,Vulkan 后端加入 ggml src1 精度支持,并更新 accumulator precision selection。该版本通过 scaling 处理 fp32 溢出和 copy-to-fp16 activations 溢出,同时覆盖 fp32 src0,新增 ggml prec get helpers 并补充测试。

来源:GitHub · ggml-org/llama.cpp Releases · github.com