#GPU/加速器

使用 Green Contexts 控制 GPU 工作的资源共享

Green Contexts 用于控制单一进程内并行运行的多个 GPU 工作如何共享资源。相关场景包括延迟敏感算子与吞吐导向后台内核、数据预处理与模型推理，以及共享单个 GPU 的多阶段处理流程。