GitHub · ggml-org/llama.cpp Releases·· 10 小时前AI 评分40
llama.cpp b12048 更新:优化 Intel Arc Pro B70 的 SYCL 通信与提示词处理性能
b12048
AI 导读
llama.cpp 发布 b12048,优化 Intel Arc Pro B70 上的 SYCL 通信交换(ggml_sycl_comm_exchange),使 -sm 张量提示词评估吞吐提升 19%,PPL 保持不变。
来源:GitHub · ggml-org/llama.cpp Releases · github.com