九章智算云
科技企业CXO必读:算力降本指南

建立不重复计费的算力成本口径,用七项管理指标识别资源错配,再通过分层供给、预算控制和同口径验收,把降本转化为可核验的经营结果。

算力账单下降,可能只是业务量减少;账单上升,也可能同时伴随着单位服务成本下降。如果只看卡时单价或月租金,管理层很难判断降本是否真正发生。

一个可执行的目标应当是:在质量、交付时效、安全和可用性要求不降低的前提下,减少完成同一业务目标的完整成本,并改善资金与资源的使用方式。

本文面向负责预算、技术与业务交付的决策者,给出成本口径、七项指标和实施流程。文中算例均为假设数据,不代表市场报价或客户实测;不使用缺少原始样本的行业利用率、降本比例和收益承诺作为决策依据。

先统一成本口径:同一笔钱只能计算一次

本文将TCC(Total Cost of Computing,算力总成本)作为内部管理口径,用于覆盖算力的获取、运行、使用与退出。它不是新的会计准则,也不意味着把所有“隐性损失”直接加进财务费用。

建议同时建立三种视图,而不是混成一个总数。

全生命周期现金支出要付多少钱,何时付款?计量重点购置/租赁与运行迁移、退出及处置回款常见错误把一次性购置款与同一设备折旧再加一遍当期归属成本本期业务实际承担多少?计量重点折旧、租赁、算力服务能源与支持(统一归属)常见错误将闲置资源已有费用,再作为“闲置损耗”重复加总风险与情景需求、供给或退出变化会怎样?计量重点暴露金额与影响范围概率或情景、处置选项常见错误把机会成本、预备预算和会计减值混为一谈同一笔钱只能计算一次:三种视图服务于不同决策,不能直接相加成一个总数。图 1:三种视图服务于不同决策,同一资产或合同可以出现在不同视图中,但不能因此重复计入一个成本总额。
视图回答的问题计量重点常见错误
全生命周期现金支出要付多少钱,何时付款?购置/租赁、运行、迁移、退出及处置回款把一次性购置款与同一设备折旧再加一遍
当期归属成本本期业务实际承担多少成本?按统一政策归属的折旧、租赁、算力服务、能源和支持等将闲置资源已有费用再作为“闲置损耗”重复加总
风险与情景需求下降、供给变化或退出失败会怎样?暴露金额、概率或情景、影响范围、处置选项把机会成本、预备预算和会计减值混为一谈

比较不同生命周期方案时,应采用统一的评估周期核算净现金支出,涵盖资源获取、网络、存储、能源、软件许可、运维、适配、迁移、并行运行及退出等环节的全部付款,并扣除可实际兑现的退款和资源处置回款,以确保不同方案的成本比较口径一致。

每笔付款应归入一个类别。若采用折现现金流比较,需统一时点、税费、币种与折现假设。已经不可收回的历史支出可以进入历史复盘,但新增方案决策应比较未来可改变的现金流,并单列账面影响。

成本归属则要把账单、资产和任务记录连接起来:项目、租户、环境、模型版本、负责人、资源规格、运行区间,以及共享费用的分摊规则。没有归属的数据应留在“待分摊”项中,不能通过分摊将其隐藏。FinOps成本分摊方法

两个需要先消除的预算歧义

第一,“台”和“卡”不能混用。假设每台服务器有八张加速卡,64台就是512张卡,64张卡则只对应八台服务器。预算还需写清CPU、网卡、交换机、存储、许可、服务与税费范围,不能用不同规模的建设费用和运维费用互相比较。

第二,闲置、失败与探索不是三笔额外账单。它们通常是已有资源成本的用途分类。失败重跑的资源费、无业务归属的占用费,应从原成本中识别出来;有假设、有预算、有阶段验收的探索实验,也不应仅因未进入生产就被判定为浪费。

资产减值、预计负债和内部风险预算需要分别处理。资产减值涉及账面价值与可收回金额,预计负债有相应确认条件,不能用“资产原值的5% 或10%”作为通用计提或警戒规则。具体会计处理由财务团队依据适用准则判断。企业会计准则第8号、企业会计准则第13号

低利用率只是线索,先查清资源为何没有产出

nvidia-smi 的GPU utilization主要描述采样期间是否有kernel执行,不等于有效FLOPs占比,更不等于业务贡献。显存被占用,也不能证明任务正在有效推进。NVIDIA指标定义

管理层应要求工程团队把容量时间分为可解释的类别:

类别可能原因应采取的动作
任务正常推进训练、推理、已批准实验按质量和进度验收,再检查单位成本
被占用但等待数据加载、通信、CPU、存储或调度阻塞用时间线定位瓶颈,避免只增加加速卡
必要预留高可用副本、启动预热、峰值保障依据SLO和演练验证预留规模
可回收占用/空闲无活跃任务、超期实验、遗留实例确认归属,回收或重新分配
故障与维护硬件故障、升级、恢复单列停机损失与恢复时间
状态未知指标缺失、账单与任务无法匹配先补数据,不直接视为有效或浪费

类别应在约定的统计粒度上互斥,避免同一小时同时被标记为“有效运行”和“可回收空闲”。共享加速卡、MIG与异构设备需要按规格或容量份额分别统计,不能把所有卡时直接当作等价产能。

池化与调度可以改善资源匹配,但前提是软件环境、权限、数据位置、任务可恢复性与组织授权允许重新分配。若项目仍永久占有资源,统一看板只能展示问题,无法自动解决问题。

还要区分容量释放和现金节省:收回一张已经按年付费的加速卡,可以供另一个任务使用,却不一定让本月付款减少。只有减少可取消的消费、避免有依据的新增采购,或在续约时降低承诺,才会形成相应的财务结果。FinOps使用优化

七项管理指标:有分母、有来源、有动作

下面是一套建议的管理指标,不是行业统一标准。目标值应结合业务基线、SLO和风险承受能力确定,不直接套用“利用率低于30%”或“资金周期超过120天”的通用阈值。

指标建议定义数据来源/负责人用于什么决策
1. 单位有效业务成本同期可归属完整成本 ÷ 同期合格业务产出费用台账、任务结果;业务与财务共同负责比较优化前后,避免只看单价
2. 付费容量的有效运行占比按规则验证的有效任务容量时 ÷ 同期付费容量时调度、任务进度、设备遥测;平台团队识别容量没有转化成任务进展的原因
3. 可回收闲置成本占比经确认可回收的闲置资源归属成本 ÷ 相关资源总成本资源归属与成本分摊;平台及资源负责人排序回收机会,区分重新利用与可取消付款
4. 算力相关业务贡献率(收入 − 归属算力成本 − 其他约定直接成本)÷ 收入统一经营台账;业务与财务衡量商业贡献,避免重复扣减成本
5. 滚动资金余缺每周预计期末余额=期初可用资金+预计回款−预计付款支付、回款与资金计划;财务关注未来窗口内的最低余额与资金缺口
6. 未匹配需求的承诺比例未被批准需求覆盖的不可撤销承诺金额 ÷ 同窗口承诺总额合同、需求预测、容量计划;采购与财务决定续约、换型、转用与谈判顺序
7. 单位有效产出能耗约定系统边界内kWh ÷ 合格业务产出整机/机房计量与任务结果;平台及设施团队比较同等服务的能源效率

指标落地时的四个口径说明

有效产出要按业务定义。 在线服务可用同时满足质量、时延和成功率要求的请求;训练可以按约定质量目标、合格模型或可复核里程碑核算。token适合技术效率分析,但重复训练、无效生成与业务质量需要另外标注。FinOps也区分资源效率指标与业务结果指标。FinOps单位经济性

如果成本 C 的单位是人民币元、token数为 N:

元/千 token = C ÷ N × 1,000
分/千 token = C ÷ N × 100,000

例如,费用10,000元、有效token为1亿,则为 0.1 元/千 token,也就是 10 分/千 token。训练与推理、输入与输出、不同模型和质量条件应分别统计。

贡献率是本文的经营分析口径。 如果已有毛利润已经扣除了算力成本,再减一次TCC就会重复计算。应从收入和互不重复的成本项目重新对齐;尚无收入的研究项目不适合套用该贡献率,可采用预算与里程碑管理。

资金余缺不等于会计意义上的现金转换周期。 可以采用未来13周作为管理窗口,逐周检查余额;13周只是实施示例。预付、押金、阶段付款、回款延迟和不可撤销承诺都要进入计划。没有可归属收入的成本中心,应展示资金拨付与付款安排,而不是虚构服务回款。

能耗与碳排分别计算。 加速卡功耗不能代替整机或机房能耗。碳排还涉及电力碳强度、硬件隐含排放与分摊边界;比较时必须使用相同业务单位和边界。Software Carbon Intensity规范

分母为零时应标记“不适用”,缺失数据标记“待核实”。当设备更快完成任务后,其运行时间可能下降,因此不能把指标2越高越好作为独立绩效目标。

分层供给:稳定需求控制承诺,波动需求保留弹性

企业阶段可以影响资金偏好,但不直接决定部署方式。成熟企业也可能适合托管服务,合规要求高也不自动等于必须自建;关键是实际控制、交付能力与适用要求。

业务层供给策略必须验证的条件
稳定核心负载在自建、专属租赁、承诺用量或托管服务之间比较真实长期用量、容量保障、质量与SLO、现金流和退出条件
峰值/阶段性负载基础容量加按需或预约资源配额、启动时间、数据搬移、扩容库存、计费边界
实验与研究小规模起步、项目预算、期限和阶段验收环境兼容、恢复能力、回收规则及实验价值

“国产、二手、海外”分别涉及技术生态、设备生命周期和部署地域,并不是一个共同的低价类别。它们都应按软件适配、维保、合法供给、数据处理和退出成本单独评估,不预设一定更便宜或一定只适合补充用途。

自建与云服务也没有“租满三四年必然更贵”的统一交点。需要固定硬件能力、质量与服务要求,比较实际用量、折扣、机房条件、运维投入、残值和资金成本。

采购承诺应与使用优化联动。例如,先预计回收大量资源,再按旧峰值签长期合同,可能把可取消的消费变成固定负担;但也不必等全部技术优化完成才谈价格。应按已验证需求分批决策,避免把用量节省与折扣收益重复计算。FinOps价格与承诺优化

降本行动:从能核验、能回退的项目开始

第一类:回收不必要的消费

为资源建立负责人和有效期,检查无活跃任务的实例、实验残留、过期快照、无读取价值的缓存和重复部署。自动回收应依据任务状态、保留政策和业务授权,保留恢复或回退方案。

生产热备与已批准研究预算不能仅凭低GPU utilization被清理。回收前后应同时观察有效产出、排队时间、失败率和SLO。

第二类:减少完成同一任务的资源量

训练侧检查数据流水线、通信与计算重叠、checkpoint和失败恢复;推理侧检查模型路由、batch、前缀缓存、量化与弹性策略。网络和存储造成的等待,应先定位原因,而不是直接购买更多加速卡。

优化后还需做质量回归。更短输出、更低图像分辨率、更少训练数据或更宽松时延,可能降低成本,但这属于业务规格改变,应另行披露。

第三类:用平台能力落实组织规则

平台应支持项目配额、优先级、资源回收、费用归属和例外处理。业务团队决定价值与优先级,工程团队保证质量与可靠性,采购管理合同,财务统一成本口径与资金安排。

每项降本机会都应有负责人、基线、预期收益、实施成本、验收指标、回退条件和实际结果。只有看板而没有执行责任,无法将机会转化成收益。

第四类:给Agent明确的执行与预算边界

Agent可以辅助识别闲置、解释异常、推荐规格和生成变更方案。自动执行时,控制必须位于Agent无法自行绕过的服务端:

控制点需要落实的能力
权限最小权限、允许操作清单、限定项目和资源范围
单次任务最大运行时长、并发数、重试次数、模型调用和子任务数量上限
预算执行前预估并预占预算;已发生费用与在途承诺合并核算
资源生命周期幂等创建、超时终止、完成后清理,防止重复提交与遗留实例
生产变更根据影响范围设置授权、维护窗口与回退;不可逆操作单独控制
审计与止损保存目标、调用、审批与费用归属;可以停止新任务并处置在途任务

预算通知不等于实时硬上限。云账单与预算系统可能存在更新延迟,因此即时控制还应放在任务入口、资源配额与调用网关上。AWS Budgets的更新与通知限制

停止提交新任务也不意味着费用立刻归零;已经运行的实例、存储、长期承诺和在途请求,需要各自的终止或结算规则。

怎样证明降本发生?先把比较基线对齐

至少区分三种结果:

  • 实际支出下降:同口径实际付款或费用减少,说明采用哪一种口径。
  • 避免未来支出:有需求依据的新增采购或扩容被避免,不能直接等同于已经少付的钱。
  • 效率或容量提升:同样资源完成更多合格任务,或释放可再利用容量;现金效果需要另行确认。

假设算例:当月费用上升2%,也可能有优化收益

假设某业务原月度归属成本为100万元。本月需求与服务范围变化,经双方确认的基线模型估计:如果不优化,完成本月同等质量和服务要求的业务需130万元。

以下金额仅用于说明核算方法:

项目金额变化累计成本说明
原周期基线—100万元已明确成本范围
需求增加+20万元120万元根据需求与容量模型估计,不假设所有成本线性增长
服务范围增加+10万元130万元形成当前业务条件下的未优化基线
用量与系统优化−25万元105万元依据优化后的需求量核算
价格与合同优化−15万元90万元在前一步剩余用量上计算,避免重复计收益
一次性实施投入+12万元102万元本例全部归入当期管理成本;会计处理另按适用政策
增加支出优化节省基线 / 当期020406080100120140累计成本(万元)未优化基线 = 130100原周期基线+20需求增加+10服务范围增加−25用量与系统优化−15价格与合同优化+12一次性实施投入102当期成本图 2:假设数据,单位为万元。130 万元是按本月业务条件调整后的反事实基线,不是已经发生的费用。

同一组数字可以回答三个不同问题:

当期费用相对原周期变化 = (102 - 100) ÷ 100 = +2%
相对调整后基线的净优化收益 = 130 - 102 = 28 万元
当期净优化比例 = 28 ÷ 130 ≈ 21.5%

若后续需求、范围和价格不变,且不再发生这笔实施投入,持续运行成本为90万元,对应调整后基线约30.8% 的差额。这是附带前提的后续情景,不应冒充已经实现的全年节省。

验收报告应保留调整理由、模型、费用来源和质量结果;若反事实基线不可靠,应同时报告区间或多个情景,不仅给一个精确百分比。

附件提供 瀑布图数据。

“利用率翻倍”为什么不能直接证明“降本60%”?

在一个非常简化的模型中,若有效工作量不变、费用与所需容量完全成正比,且有效运行占比从27% 提高到52%,所需容量约变为原来的 27/52≈51.9%,对应约48.1% 的容量减少。

这仍然不是实际综合降本比例。固定合同、不同设备速度、软件与迁移费用、闲置是否可取消,都会改变结果;若百分比来自 nvidia-smi,上述“有效容量占比”模型也不能直接使用。任何60% 的案例结论,都需要额外的成本分解与对照证据。

五类行业场景:先列验证问题,再报告收益

以下是分析模板,不是已经完成的客户案例。

场景优先检查验收时比较不应省略的成本或条件
具身智能训练、仿真、数据处理是否互相等待,实验是否可恢复同等任务效果下的迭代时间与完整费用仿真、数据采集、失败实验和边缘验证
自动驾驶数据读取、长任务恢复与集中训练窗口同等数据与质量目标的训练完成时间迁移、checkpoint、存储吞吐、保留周期与容量保障
制造业AIGC生成、筛选、返工和生产使用之间的转换率每个可用设计的费用与交付周期人工筛选、返工、素材授权和集成
动画与视频生成分辨率、帧数、步数、batch与交付质量每个合格镜头或单位视频时长的费用重生成、后处理、资产存储和传输
生物医药数值正确性、候选筛选质量与实验流程衔接达到同等筛选标准的候选产出与周期数据授权、验证计算、实验验证和模型适配

“从数周变成数天”需要说明计算、排队、数据准备和人工环节各占多少;“API成本下降”需要说明输出规格是否一致;“Serverless训练”也要确认调度等待、镜像与模型加载、存储和失败恢复如何计费。

可公开的案例应标注测试环境、原方案与新方案、时间窗口、样本数、成本边界、一次性投入、质量变化和实际结果,并获得相应披露授权。

一份可执行的90天计划

时间安排仅作实施参考,企业可按组织规模调整。

阶段核心工作交付物
第1–30天:建立基线对齐合同、账单、资产、任务与负责人;统一七项指标三种成本视图、待分摊项、容量分类与需求情景
第31–60天:小范围验证选择可回退的回收、调度或配置优化,做同口径对照质量与SLO结果、实施成本、实测收益及回退记录
第61–90天:固化治理扩大已验证方案,调整续约与预算,部署执行边界实际节省、成本避免和容量收益分别报告;明确下一轮负责人

当期账单与任务台账应定期对账,预测随业务与模型变化滚动更新。需求、价格、使用方式和折扣会变化,因此降本不能只做一次性的迁移验收。FinOps预测管理

附件提供 降本项目验收空表,用于记录基线、质量约束、实施投入与实际结果。

CXO最终需要持续追问三件事:这笔支出对应什么产出,下一笔承诺有多少真实需求支撑,这项优化是否已经在同口径结果中得到验证。 把答案落实到台账、合同与执行机制,降本才能从价格谈判变成持续的经营能力。

最后更新于

这篇文档对你有帮助吗?

目录