跳到正文
GitHub · ggml-org/llama.cpp Releases·· 10 小时前AI 评分26

llama.cpp 发布 b11976 预发布版本,改进 Hexagon IM2COL 并行化

b11976

AI 导读

llama.cpp 发布 b11976 预发布版本,改进 Hexagon 的 IM2COL 并行化。更新加入基于块的 HVX 并行处理,以及使用 output-col blocks 的多线程处理,并修复 padding 处理、展开常见情况的循环。

来源:GitHub · ggml-org/llama.cpp Releases · github.com