GitHub · NVIDIA/TensorRT-LLM Releases·· 2026-06-10精选AI 评分78
NVIDIA TensorRT-LLM v1.3.0rc18 发布
v1.3.0rc18
AI 导读
NVIDIA TensorRT-LLM 发布 v1.3.0rc18，新增 Nemotron-H、Qwen image、Step-3.7-Flash、Cosmos3 和 AFMoE Trinity 等模型支持。
推荐理由
版本变更覆盖模型支持、KV cache、CUDA 图和 Triton 内核等推理链路，便于评估升级对部署与性能工程的影响。
来源：GitHub · NVIDIA/TensorRT-LLM Releases · github.com