NVIDIA Developer Blog· Elizabeth Goodman·· 10 小时前AI 评分14
NVIDIA CUDA 13.4:在 Kubernetes 中实现内存约束的 GPU 共享
Memory-Enforced GPU Sharing in Kubernetes with NVIDIA CUDA 13.4
AI 导读
NVIDIA CUDA 13.4 可用于在 Kubernetes 中实现内存约束的 GPU 共享,面向只需部分 GPU 的 AI 工作负载。整卡分配会造成容量闲置,共享可让平台团队用现有基础设施承载更多工作负载。NVIDIA GPU 的 MIG 可将 GPU 划分为对应用透明且具备硬件隔离的实例。
来源:NVIDIA Developer Blog · developer.nvidia.com