跳到正文
热点事件持续更新

vLLM v0.33.0 升级 PyTorch 并调整硬件支持

1 篇报道1 个报道来源14 小时前更新

先了解这件事

AI 综述

vLLM 项目发布 v0.33.0,将 PyTorch 升级至 2.14.0、Triton 升级至 3.8.0,并调整 CUDA 和 ROCm 发布包的默认版本。本次更新包含 389 位贡献者提交的 927 次代码变更,其中 122 位是新贡献者。 硬件支持方面,CUDA 发布包和镜像统一使用 CUDA 13.0,不再发布 CUDA 12.9 版本的安装包及对应镜像;ROCm 默认版本升级至 10.0,同时保留 ROCm 7.2 的独立发布包。使用 NIXL 连接器则需要 NIXL 1.5 或更高版本。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. GitHub · vllm-project/vllm Releases精选
    vLLM v0.33.0 发布,升级 PyTorch 2.14 并扩展多硬件推理优化

    vLLM 发布 v0.33.0,包含来自 389 位贡献者的 927 次提交,其中 122 位为新贡献者。本次版本升级至 PyTorch 2.14.0、torchvision 0.29.0 和 Triton 3.8.0,CUDA 发布包统一为 CUDA 13.0,并将 ROCm 10.0 设为默认版本。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。