GitHub · ggml-org/llama.cpp Releases·· 12 小时前AI 评分31
llama.cpp b11997 发布:复用 tensor staging buffer 并跳过 direct-io bounce buffer
b11997
AI 导读
llama.cpp b11997 复用 tensor staging buffer,并跳过 direct-io bounce buffer。版本提供 macOS、iOS 和 Linux 构建,覆盖 CPU、Vulkan、CUDA 12 和 CUDA 13,并包含 x64、arm64、s390x 等架构选项。
来源:GitHub · ggml-org/llama.cpp Releases · github.com