llama.cpp b11986 增加 OpenCL IQ2 支持
热点事件持续更新
llama.cpp b11986 增加 OpenCL IQ2 支持
1 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
ggml-org 发布 llama.cpp b11986，为 OpenCL 增加 IQ2 系列量化格式的初始支持，并为 Adreno 增加相关 dp4a 实现及 GEMM/GEMV 优化。更新还优化了解码和窄批次处理，并提供 Windows arm64 OpenCL Adreno 构建版本。
AI 根据报道生成 · 2 小时前更新
最新进展10月30日 04:16
llama.cpp b11986 发布，新增 OpenCL 对 IQ2 系列的支持报道时间线
沿着报道，了解事件的不同侧面。
10月30日
- GitHub · ggml-org/llama.cpp Releasesllama.cpp b11986 发布，新增 OpenCL 对 IQ2 系列的支持
llama.cpp b11986 为 OpenCL 增加 iq2、iq2_s、iq2_xs 和 iq2_xxs 支持。更新还加入 Adreno 的 GEMM/GEMV 与 dp4a 实现，并优化解码和窄批次处理；发布构建包括 Windows arm64 OpenCL Adreno 版本。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。