跳到正文
GitHub · ggml-org/llama.cpp Releases·· 9 小时前AI 评分54

llama.cpp b11594 发布,支持 Vulkan 多设备访问 GPU 可见主机内存

b11594

AI 导读

llama.cpp 发布 b11594,Vulkan 现在允许多个设备访问 GPU 可见的主机内存。该版本还加入 Windows 支持,并修复 nullptr 处理和启用条件问题,同时提供 macOS、iOS、Linux CPU、Vulkan 及 CUDA 12、CUDA 13 构建包。

来源:GitHub · ggml-org/llama.cpp Releases · github.com