跳到正文
热点事件持续更新

llama.cpp b11710 发布并增强 CUDA 优化

1 篇报道1 个报道来源12 小时前更新

先了解这件事

AI 综述

llama.cpp 发布 b11710,在 CUDA 中新增 grouped experts top-k fusion,并接入 graph_optimize,相关更新已合并到该版本。 该版本还加入测试并修复多项 HIP 问题,官方发布构建覆盖 CPU、Vulkan、CUDA 12、CUDA 12.8、CUDA 13 和 CUDA 13.4。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月17日
  1. GitHub · ggml-org/llama.cpp Releases
    llama.cpp b11710 发布:CUDA 新增 grouped experts top-k fusion

    llama.cpp 发布 b11710,CUDA 新增 grouped experts top-k fusion,并将其接入 graph_optimize;更新包含测试及多项 HIP 修复,发布构建列表覆盖 CPU、Vulkan、CUDA 12、CUDA 12.8、CUDA 13 和 CUDA 13.4。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。