跳到正文
热点事件持续更新

llama.cpp 新增 Kolibri-1 支持

1 篇报道1 个报道来源13 小时前更新

先了解这件事

AI 综述

ggml-org/llama.cpp 在 b11709 中加入了对 Aleph-Alpha Kolibri-1 模型的支持,相关模型转换、张量映射、分词器注册和架构测试也已更新。Kolibri-1 是德英双语 MoE 推理模型,拥有 780 亿参数、每个 token 激活约 34.6 亿参数;其 FP8 检查点可通过通用的 weight_scale_inv 路径处理,无需为该模型添加特殊代码。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月17日
  1. GitHub · ggml-org/llama.cpp Releases
    llama.cpp b11709 加入 Kolibri-1 模型支持

    llama.cpp b11709 加入对 Kolibri-1 的支持,并更新模型转换器、张量映射、分词器注册和架构测试。Kolibri-1 是一个德英双语 MoE 推理模型,共 78B 参数,每个 token 激活 3.46B 参数;其 FP8 检查点可通过通用 weight_scale_inv 路径处理,无需特殊代码。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。