九章智算云
基本概念

在使用相关功能之前,用户可能需要了解相关概念。本文为用户介绍客户中心的常用名词及其基本概念,帮助用户更好地理解和使用客户中心下的功能。

队列管理

在任务调度的排队、分发与弹性调度过程中,通常会涉及以下核心概念:

概念详解
优先级衡量任务在排队队列中的调度顺序,取值范围通常为 1(最高)至 5(最低),数值越小代表优先级越高。在资源竞争场景下,系统会优先为高优先级任务分配算力。
并行度指子账号在同一智算中心同一时刻可占用 GPU 卡数的上限,是系统为控制资源消耗而设定的配额阈值。该限制决定了用户能够同时并发运行的任务规模,超出此上限的新任务将进入等待状态。
占用表示当前正在运行中的任务实际消耗的 GPU 卡数。该指标直观反映了账号或集群的实时资源负载情况。
排队中任务已提交但因受限于并行度配额或底层物理资源不足,而处于等待调度状态的任务。此类任务在排队期间不会消耗算力,一旦系统检测到有符合条件的空闲资源释放,调度器便会自动将其唤醒并启动执行。

资源配额

在资源配额的分配、执行与动态管理过程中,通常会涉及以下核心概念:

概念详解
配额企业在某个智算中心、某个配额项上可使用资源的上限。不同智算中心之间的配额相互独立。
企业配额企业在完成注册并加入智算中心后,系统自动应用的默认模板所设定的初始配额值。该配额为企业可用的资源基准。企业管理员可对各项配额进行调整和优化。
用户配额企业管理员分配给单个用户的个人资源上限,用户配额不得超过企业配额所设定的上限。
配额模板预定义的一组配额配置集合,企业可以通过应用模板快速完成各项配额的批量设置。系统提供默认模板供新入驻企业使用,企业管理员也可以根据内部管理规范创建自定义模板。
计算资源用于运行计算任务的各类资源配额项,主要包括 CCI(容器计算实例)、ALab(算法实验室)、HyperTrain(分布式训练平台)等计算类产品。
存储资源用于数据持久化存储的各类配额项,主要包括 NAS 型存储等存储类产品。影响数据集、模型文件、日志等数据的存放和管理。
客户上限企业在某个智算中心、某个配额项上的总额度上限,代表了企业在该场景下能够使用的资源天花板,所有用户配额之和不能超过客户上限。
可用额度可用额度是指客户上限扣除已占用部分后的剩余可申请余量。当可用额度不足时,用户需要等待现有资源释放或向管理员申请提升配额。
个人上限指某个用户在某个配额项上的最大可用边界,由企业管理员在分配用户配额时设定。个人上限仅代表该用户被授权的最大使用额度,并不代表资源已被实际预留。用户只有在实际开通实例时才会占用相应的可用额度。
已占用当前已使用和正在开通中的实例数,占用企业可用额度。已占用的资源包括运行中的实例、创建中的实例以及处于其他占用状态的资源。实例被释放或删除后,相应的占用量将被回收,可用额度随之恢复。

最后更新于

这篇文档对你有帮助吗?

目录