GitHub · ggml-org/llama.cpp Releases·· 13 小时前AI 评分35
llama.cpp b11702 为 Adreno X1 设备添加 MxFP4 MoE bin 内核
b11702
AI 导读
llama.cpp b11702 为 Adreno X1 设备新增基于 OpenCL 的 MxFP4 MoE bin 内核 `gemm_moe_mxfp4_q8_1_dp4a_ila_ldck`。此次更新还为 X1E 启用了 dp4a clc。
来源:GitHub · ggml-org/llama.cpp Releases · github.com