跳到正文
NVIDIA Developer Blog· Elizabeth Goodman·· 10 小时前AI 评分14

NVIDIA CUDA 13.4:在 Kubernetes 中实现内存约束的 GPU 共享

Memory-Enforced GPU Sharing in Kubernetes with NVIDIA CUDA 13.4

AI 导读

NVIDIA CUDA 13.4 可用于在 Kubernetes 中实现内存约束的 GPU 共享,面向只需部分 GPU 的 AI 工作负载。整卡分配会造成容量闲置,共享可让平台团队用现有基础设施承载更多工作负载。NVIDIA GPU 的 MIG 可将 GPU 划分为对应用透明且具备硬件隔离的实例。

来源:NVIDIA Developer Blog · developer.nvidia.com