跳到正文
GitHub · ggml-org/llama.cpp Releases·· 4 小时前AI 评分34

llama.cpp b12024 发布

b12024

AI 导读

llama.cpp b12024 发布,将 lfm sc 的 mm 操作所用张量从 3D tensor 调整为 2D tensor。版本提供 macOS Apple Silicon、macOS Intel、iOS XCFramework,以及 Ubuntu x64/arm64/s390x 的 CPU、Vulkan 和 CUDA 12/13 构建包。

来源:GitHub · ggml-org/llama.cpp Releases · github.com