跳到正文
GitHub · ggml-org/llama.cpp Releases·· 8 小时前AI 评分33

llama.cpp b12052:OpenCL 新增 topk_mask 支持

b12052

AI 导读

llama.cpp 的 b12052 版本为 OpenCL 新增 topk_mask 功能,相关代码变更记录在提交 #31441 中。该版本同时提供 macOS、iOS 和 Linux 平台的构建产物,涵盖 CPU、Vulkan 和 CUDA 12、CUDA 13 等构建类型。

来源:GitHub · ggml-org/llama.cpp Releases · github.com