NVIDIA Developer Blog· Elizabeth Goodman·· 2 小时前AI 评分14
使用 Green Contexts 控制 GPU 工作的资源共享
Control How Your GPU Shares Work with Green Contexts
AI 导读
Green Contexts 用于控制单一进程内并行运行的多个 GPU 工作如何共享资源。相关场景包括延迟敏感算子与吞吐导向后台内核、数据预处理与模型推理，以及共享单个 GPU 的多阶段处理流程。
来源：NVIDIA Developer Blog · developer.nvidia.com