GitHub · ggml-org/llama.cpp Releases·· 8 小时前AI 评分25
llama.cpp b11858 禁止特定架构使用 -sm tensor
b11858
AI 导读
llama.cpp b11858 针对构建 amax graph 的架构禁用 -sm tensor,并移除 Meta split-state 的 MIRRORED 情况。由于 amax 的 POOL_1D 归约覆盖整行 matmul,按 axis-0 切分时各设备只能得到各自切片的局部最大值。
来源:GitHub · ggml-org/llama.cpp Releases · github.com