GPU 资源
弹性容器集群提供如下型号的 GPU 资源。在申请开通弹性容器集群时，请按需选择。
| 型号类型 | GPU 标签 | GPU 显存 | 资源申请 / 限制 |
|---|---|---|---|
| NVIDIA-H800A-NV-96G | 请联系客服 | 96G | 19c ： 224G ： 1GPU |
| NVIDIA-H800A-NV-80G | 请联系客服 | 80G | 19c ： 224G ： 1GPU |
| NVIDIA-H800B-NV-180G | nvidia.com/gpu-b200 | 180G | 19c ： 224G ： 1GPU |
| NVIDIA-L40S-PCIE-48G | nvidia.com/gpu-l40s | 48G | 17c ： 108G ： 1GPU |
GPU 使用
在容器中，可以设置请求和限制的 GPU 资源，其中 key 是 GPU 使用标签，value 是请求或限制的 GPU 数量。如下面示例所示：
请求资源：
- GPU 标签：
nvidia.com/gpu-h800 - GPU 数量：1
- cpu：19
- memory：224G
限制资源：
- GPU 标签：
nvidia.com/gpu-h800 - GPU 数量：1
- cpu：19
- memory：224G
CPU和Memory，单个GPU对应的CPU和Memory要小于等于上表中资源申请限制，多个GPU要根据GPU的数量成比例增加。 填写CPU数量时，只写数字不要带字母c，例如，CPU：18
代码示例
spec:
imagePullSecrets:
- name: your-harbor-secret
containers:
- name: your-container-name
image: your-image:tag # 替换为您自己的镜像名称
command: your-command
resources:
requests:
memory: "200G"
cpu: "18"
nvidia.com/gpu-h800: 1 # 请求 1 个 GPU
limits:
memory: "200G"
cpu: "18"
nvidia.com/gpu-h800: 1 # 限制 1 个 GPU最后更新于
这篇文档对你有帮助吗？