跳到主要内容

GPU资源

弹性容器集群 提供如下型号的GPU资源,在申请 开通弹性容器集群 时,请按需选择

型号类型GPU标签GPU显存资源申请/限制
NVIDIA-H800A-NV-96G请联系客服96G18c : 200G : 1GPU
NVIDIA-H800A-NV-80G请联系客服80G13c : 200G : 1GPU
NVIDIA-H800-NV-80Gnvidia.com/gpu-h80080G18c : 200G : 1GPU
NVIDIA-L40S-PCIE-48Gnvidia.com/gpu-l40s48G14c : 100G : 1GPU

GPU使用

容器中,可以设置请求和限制的GPU资源,其中key是GPU使用标签,value是请求或限制的GPU数量
如下面示例所示
请求资源
GPU标签: nvidia.com/gpu-h800
GPU数量: 1
cpu: 18
memory: 200G

限制资源
GPU标签: nvidia.com/gpu-h800
GPU数量: 1
cpu: 18
memory: 200G

提示

cpu和memory,单个GPU对应的cpu和memory要小于等于上表中资源申请限制,多个GPU要根据GPU的数量成比例增加。
填写cpu数量时,只写数字不要带字母c,例如: cpu: 18

示例:

spec:
imagePullSecrets:
- name: your-harbor-secret
containers:
- name: your-container-name
image: your-image:tag # 替换为您自己的镜像名称
command: your-command
resources:
requests:
memory: "200G"
cpu: "18"
nvidia.com/gpu-h800: 1 # 请求 1 个 GPU
limits:
memory: "200G"
cpu: "18"
nvidia.com/gpu-h800: 1 # 限制 1 个 GPU