跳到正文
GitHub · ggml-org/llama.cpp Releases·· 4 小时前AI 评分42

llama.cpp b11583:graph 的“no cache”路径避免 reallocations

b11583

AI 导读

llama.cpp b11583 更新 graph 的“no cache”路径,避免发生 reallocations,相关改动编号为 #30439。发布内容列出 macOS、iOS、Linux 及 Ubuntu x64、arm64、s390x 的 CPU、Vulkan 和 CUDA 12/CUDA 13 构建。

来源:GitHub · ggml-org/llama.cpp Releases · github.com