跳到正文
GitHub · ggml-org/llama.cpp Releases·· 9 小时前AI 评分31

llama.cpp Vulkan 后端优化 RDNA3 和 RDNA4 的 small-n split-K 选择

b12050

AI 导读

llama.cpp 改进 Vulkan 后端在 RDNA3 和 RDNA4 GPU 上的 small-n split-K 选择策略。此次更新还清理了测试用例中的注释代码,并按要求移除了部分测试。

来源:GitHub · ggml-org/llama.cpp Releases · github.com