vLLM v0.33.0 升级 PyTorch 并调整硬件支持
热点事件持续更新
vLLM v0.33.0 升级 PyTorch 并调整硬件支持
1 篇报道1 个报道来源14 小时前更新
先了解这件事
AI 综述
vLLM 项目发布 v0.33.0,将 PyTorch 升级至 2.14.0、Triton 升级至 3.8.0,并调整 CUDA 和 ROCm 发布包的默认版本。本次更新包含 389 位贡献者提交的 927 次代码变更,其中 122 位是新贡献者。 硬件支持方面,CUDA 发布包和镜像统一使用 CUDA 13.0,不再发布 CUDA 12.9 版本的安装包及对应镜像;ROCm 默认版本升级至 10.0,同时保留 ROCm 7.2 的独立发布包。使用 NIXL 连接器则需要 NIXL 1.5 或更高版本。
AI 根据报道生成 · 1 小时前更新
最新进展11月2日 18:10
vLLM v0.33.0 发布,升级 PyTorch 2.14 并扩展多硬件推理优化报道时间线
沿着报道,了解事件的不同侧面。
11月2日
- GitHub · vllm-project/vllm Releases精选vLLM v0.33.0 发布,升级 PyTorch 2.14 并扩展多硬件推理优化
vLLM 发布 v0.33.0,包含来自 389 位贡献者的 927 次提交,其中 122 位为新贡献者。本次版本升级至 PyTorch 2.14.0、torchvision 0.29.0 和 Triton 3.8.0,CUDA 发布包统一为 CUDA 13.0,并将 ROCm 10.0 设为默认版本。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。