GitHub · ggml-org/llama.cpp Releases·· 12 小时前AI 评分48
llama.cpp b11573 发布:Vulkan 为 f16 accumulation 打包 FMA
b11573
AI 导读
llama.cpp 发布 b11573,Vulkan 更新 f16 accumulation 的 FMA 打包实现,不使用 dot product op。相关改动让 dot_product 每个 f16 FMA 处理两行,并将其重命名为 dot_product_v2;版本同时列出 macOS、Linux CPU、Vulkan、CUDA 12 与 CUDA 13 构建。
来源:GitHub · ggml-org/llama.cpp Releases · github.com