NVIDIA Developer Blog· Tanya Lenz·· 23 小时前AI 评分21
NVIDIA TensorRT 如何借助 Global Performance Tuner 将性能优化扩展到单一构建路线之外（第一部分）
Scaling NVIDIA TensorRT Performance Optimization Beyond a Single Build Route with the Global Performance Tuner, Part 1
AI 导读
NVIDIA TensorRT 构建推理引擎时，会对计算图 IR 转换、算子融合、实现选择、内存放置和量化等相互关联的决策进行调度。部署神经网络因此是一个存在多种合理方案的编译问题，而不只是将算子转换为 GPU 内核。本文聚焦 Global Performance Tuner 如何将性能优化扩展到单一构建路线之外。
来源：NVIDIA Developer Blog · developer.nvidia.com