GitHub · ggml-org/llama.cpp Releases·· 11 小时前AI 评分19
llama.cpp b11881 发布
b11881
AI 导读
llama.cpp 发布 b11881,更新内存缓存逻辑,使其遵循 no_alloc 设置。该版本提供 macOS、iOS、Linux、Android、Windows 和 openEuler 构建,覆盖 CPU、Vulkan、CUDA、ROCm、OpenVINO、SYCL,以及 Snapdragon 的 Adreno GPU 和 Hexagon NPU。
来源:GitHub · ggml-org/llama.cpp Releases · github.com