GPU资源
弹性容器集群
提供如下型号的GPU资源,在申请 开通弹性容器集群
时,请按需选择
型号类型 | GPU标签 | GPU显存 | 资源申请/限制 |
---|---|---|---|
NVIDIA-H800A-NV-96G | 请联系客服 | 96G | 18c : 200G : 1GPU |
NVIDIA-H800A-NV-80G | 请联系客服 | 80G | 13c : 200G : 1GPU |
NVIDIA-H800-NV-80G | nvidia.com/gpu-h800 | 80G | 18c : 200G : 1GPU |
NVIDIA-L40S-PCIE-48G | nvidia.com/gpu-l40s | 48G | 14c : 100G : 1GPU |
GPU使用
在容器中,可以设置请求和限制的GPU资源,其中key是GPU使用标签,value是请求或限制的GPU数量
如下面示例所示
请求资源:
GPU标签: nvidia.com/gpu-h800
GPU数量: 1
cpu: 18
memory: 200G
限制资源:
GPU标签: nvidia.com/gpu-h800
GPU数量: 1
cpu: 18
memory: 200G
提示
cpu和memory,单个GPU对应的cpu和memory要小于等于上表中资源申请限制,多个GPU要根据GPU的数量成比例增加。
填写cpu数量时,只写数字不要带字母c,例如: cpu: 18
示例:
spec:
imagePullSecrets:
- name: your-harbor-secret
containers:
- name: your-container-name
image: your-image:tag # 替换为您自己的镜像名称
command: your-command
resources:
requests:
memory: "200G"
cpu: "18"
nvidia.com/gpu-h800: 1 # 请求 1 个 GPU
limits:
memory: "200G"
cpu: "18"
nvidia.com/gpu-h800: 1 # 限制 1 个 GPU