基本概念
在使用相关功能之前,用户可能需要了解相关概念。本文为用户介绍客户中心的常用名词及其基本概念,帮助用户更好地理解和使用客户中心下的功能。
队列管理
在任务调度的排队、分发与弹性调度过程中,通常会涉及以下核心概念:
| 概念 | 详解 |
|---|---|
| 优先级 | 衡量任务在排队队列中的调度顺序,取值范围通常为 1(最高)至 5(最低),数值越小代表优先级越高。在资源竞争场景下,系统会优先为高优先级任务分配算力。 |
| 并行度 | 指子账号在同一智算中心同一时刻可占用 GPU 卡数的上限,是系统为控制资源消耗而设定的配额阈值。该限制决定了用户能够同时并发运行的任务规模,超出此上限的新任务将进入等待状态。 |
| 占用 | 表示当前正在运行中的任务实际消耗的 GPU 卡数。该指标直观反映了账号或集群的实时资源负载情况。 |
| 排队中任务 | 已提交但因受限于并行度配额或底层物理资源不足,而处于等待调度状态的任务。此类任务在排队期间不会消耗算力,一旦系统检测到有符合条件的空闲资源释放,调度器便会自动将其唤醒并启动执行。 |
资源配额
在资源配额的分配、执行与动态管理过程中,通常会涉及以下核心概念:
| 概念 | 详解 |
|---|---|
| 配额 | 企业在某个智算中心、某个配额项上可使用资源的上限。不同智算中心之间的配额相互独立。 |
| 企业配额 | 企业在完成注册并加入智算中心后,系统自动应用的默认模板所设定的初始配额值。该配额为企业可用的资源基准。企业管理员可对各项配额进行调整和优化。 |
| 用户配额 | 企业管理员分配给单个用户的个人资源上限,用户配额不得超过企业配额所设定的上限。 |
| 配额模板 | 预定义的一组配额配置集合,企业可以通过应用模板快速完成各项配额的批量设置。系统提供默认模板供新入驻企业使用,企业管理员也可以根据内部管理规范创建自定义模板。 |
| 计算资源 | 用于运行计算任务的各类资源配额项,主要包括 CCI(容器计算实例)、ALab(算法实验室)、HyperTrain(分布式训练平台)等计算类产品。 |
| 存储资源 | 用于数据持久化存储的各类配额项,主要包括 NAS 型存储等存储类产品。影响数据集、模型文件、日志等数据的存放和管理。 |
| 客户上限 | 企业在某个智算中心、某个配额项上的总额度上限,代表了企业在该场景下能够使用的资源天花板,所有用户配额之和不能超过客户上限。 |
| 可用额度 | 可用额度是指客户上限扣除已占用部分后的剩余可申请余量。当可用额度不足时,用户需要等待现有资源释放或向管理员申请提升配额。 |
| 个人上限 | 指某个用户在某个配额项上的最大可用边界,由企业管理员在分配用户配额时设定。个人上限仅代表该用户被授权的最大使用额度,并不代表资源已被实际预留。用户只有在实际开通实例时才会占用相应的可用额度。 |
| 已占用 | 当前已使用和正在开通中的实例数,占用企业可用额度。已占用的资源包括运行中的实例、创建中的实例以及处于其他占用状态的资源。实例被释放或删除后,相应的占用量将被回收,可用额度随之恢复。 |
最后更新于
这篇文档对你有帮助吗?
