GitHub · ggml-org/llama.cpp Releases·· 8 小时前AI 评分39
llama.cpp b11724 修复 `flash_attn_ext_vec` 中的 CUDA 共享内存读写竞争
b11724
AI 导读
llama.cpp b11724 修复了 `flash_attn_ext_vec` 中 CUDA 共享内存的读后写(WAR)竞争,并调整了 KQ 同步相关注释。该版本还列出多种平台与构建配置的下载项,包括 CUDA 12 和 CUDA 13。
来源:GitHub · ggml-org/llama.cpp Releases · github.com