GitHub · ggml-org/llama.cpp Releases·· 11 小时前AI 评分22
llama.cpp b11703 使用 HVX 向量化 softplus
b11703
AI 导读
llama.cpp b11703 为 Hexagon 后端将 softplus_f32 和 tile_softplus_f32 从标量循环改为基于 HVX 向量原语的实现。新实现保留 x > 20 的选择条件,避免大输入时结果饱和,并与 CPU 参考结果一致。
来源:GitHub · ggml-org/llama.cpp Releases · github.com