跳到正文
GitHub · ggml-org/llama.cpp Releases·· 14 小时前AI 评分34

llama.cpp b11874 版本说明:OpenCL 新增 topk 和 lightning indexer

b11874

AI 导读

llama.cpp b11874 为 OpenCL 新增 topk 和 lightning indexer,并对两者进行优化。此次更新还重构了相关实现,包括分块 topk 内核;发布页列出 macOS、iOS、Linux 及 CPU、Vulkan、CUDA 构建。

来源:GitHub · ggml-org/llama.cpp Releases · github.com