建立不重复计费的算力成本口径,用七项管理指标识别资源错配,再通过分层供给、预算控制和同口径验收,把降本转化为可核验的经营结果。
算力账单下降,可能只是业务量减少;账单上升,也可能同时伴随着单位服务成本下降。如果只看卡时单价或月租金,管理层很难判断降本是否真正发生。
一个可执行的目标应当是:在质量、交付时效、安全和可用性要求不降低的前提下,减少完成同一业务目标的完整成本,并改善资金与资源的使用方式。
本文面向负责预算、技术与业务交付的决策者,给出成本口径、七项指标和实施流程。文中算例均为假设数据,不代表市场报价或客户实测;不使用缺少原始样本的行业利用率、降本比例和收益承诺作为决策依据。
先统一成本口径:同一笔钱只能计算一次
本文将TCC(Total Cost of Computing,算力总成本)作为内部管理口径,用于覆盖算力的获取、运行、使用与退出。它不是新的会计准则,也不意味着把所有“隐性损失”直接加进财务费用。
建议同时建立三种视图,而不是混成一个总数。
| 视图 | 回答的问题 | 计量重点 | 常见错误 |
|---|---|---|---|
| 全生命周期现金支出 | 要付多少钱,何时付款? | 购置/租赁、运行、迁移、退出及处置回款 | 把一次性购置款与同一设备折旧再加一遍 |
| 当期归属成本 | 本期业务实际承担多少成本? | 按统一政策归属的折旧、租赁、算力服务、能源和支持等 | 将闲置资源已有费用再作为“闲置损耗”重复加总 |
| 风险与情景 | 需求下降、供给变化或退出失败会怎样? | 暴露金额、概率或情景、影响范围、处置选项 | 把机会成本、预备预算和会计减值混为一谈 |
比较不同生命周期方案时,应采用统一的评估周期核算净现金支出,涵盖资源获取、网络、存储、能源、软件许可、运维、适配、迁移、并行运行及退出等环节的全部付款,并扣除可实际兑现的退款和资源处置回款,以确保不同方案的成本比较口径一致。
每笔付款应归入一个类别。若采用折现现金流比较,需统一时点、税费、币种与折现假设。已经不可收回的历史支出可以进入历史复盘,但新增方案决策应比较未来可改变的现金流,并单列账面影响。
成本归属则要把账单、资产和任务记录连接起来:项目、租户、环境、模型版本、负责人、资源规格、运行区间,以及共享费用的分摊规则。没有归属的数据应留在“待分摊”项中,不能通过分摊将其隐藏。FinOps成本分摊方法
两个需要先消除的预算歧义
第一,“台”和“卡”不能混用。假设每台服务器有八张加速卡,64台就是512张卡,64张卡则只对应八台服务器。预算还需写清CPU、网卡、交换机、存储、许可、服务与税费范围,不能用不同规模的建设费用和运维费用互相比较。
第二,闲置、失败与探索不是三笔额外账单。它们通常是已有资源成本的用途分类。失败重跑的资源费、无业务归属的占用费,应从原成本中识别出来;有假设、有预算、有阶段验收的探索实验,也不应仅因未进入生产就被判定为浪费。
资产减值、预计负债和内部风险预算需要分别处理。资产减值涉及账面价值与可收回金额,预计负债有相应确认条件,不能用“资产原值的5% 或10%”作为通用计提或警戒规则。具体会计处理由财务团队依据适用准则判断。企业会计准则第8号、企业会计准则第13号
低利用率只是线索,先查清资源为何没有产出
nvidia-smi 的GPU utilization主要描述采样期间是否有kernel执行,不等于有效FLOPs占比,更不等于业务贡献。显存被占用,也不能证明任务正在有效推进。NVIDIA指标定义
管理层应要求工程团队把容量时间分为可解释的类别:
| 类别 | 可能原因 | 应采取的动作 |
|---|---|---|
| 任务正常推进 | 训练、推理、已批准实验 | 按质量和进度验收,再检查单位成本 |
| 被占用但等待 | 数据加载、通信、CPU、存储或调度阻塞 | 用时间线定位瓶颈,避免只增加加速卡 |
| 必要预留 | 高可用副本、启动预热、峰值保障 | 依据SLO和演练验证预留规模 |
| 可回收占用/空闲 | 无活跃任务、超期实验、遗留实例 | 确认归属,回收或重新分配 |
| 故障与维护 | 硬件故障、升级、恢复 | 单列停机损失与恢复时间 |
| 状态未知 | 指标缺失、账单与任务无法匹配 | 先补数据,不直接视为有效或浪费 |
类别应在约定的统计粒度上互斥,避免同一小时同时被标记为“有效运行”和“可回收空闲”。共享加速卡、MIG与异构设备需要按规格或容量份额分别统计,不能把所有卡时直接当作等价产能。
池化与调度可以改善资源匹配,但前提是软件环境、权限、数据位置、任务可恢复性与组织授权允许重新分配。若项目仍永久占有资源,统一看板只能展示问题,无法自动解决问题。
还要区分容量释放和现金节省:收回一张已经按年付费的加速卡,可以供另一个任务使用,却不一定让本月付款减少。只有减少可取消的消费、避免有依据的新增采购,或在续约时降低承诺,才会形成相应的财务结果。FinOps使用优化
七项管理指标:有分母、有来源、有动作
下面是一套建议的管理指标,不是行业统一标准。目标值应结合业务基线、SLO和风险承受能力确定,不直接套用“利用率低于30%”或“资金周期超过120天”的通用阈值。
| 指标 | 建议定义 | 数据来源/负责人 | 用于什么决策 |
|---|---|---|---|
| 1. 单位有效业务成本 | 同期可归属完整成本 ÷ 同期合格业务产出 | 费用台账、任务结果;业务与财务共同负责 | 比较优化前后,避免只看单价 |
| 2. 付费容量的有效运行占比 | 按规则验证的有效任务容量时 ÷ 同期付费容量时 | 调度、任务进度、设备遥测;平台团队 | 识别容量没有转化成任务进展的原因 |
| 3. 可回收闲置成本占比 | 经确认可回收的闲置资源归属成本 ÷ 相关资源总成本 | 资源归属与成本分摊;平台及资源负责人 | 排序回收机会,区分重新利用与可取消付款 |
| 4. 算力相关业务贡献率 | (收入 − 归属算力成本 − 其他约定直接成本)÷ 收入 | 统一经营台账;业务与财务 | 衡量商业贡献,避免重复扣减成本 |
| 5. 滚动资金余缺 | 每周预计期末余额=期初可用资金+预计回款−预计付款 | 支付、回款与资金计划;财务 | 关注未来窗口内的最低余额与资金缺口 |
| 6. 未匹配需求的承诺比例 | 未被批准需求覆盖的不可撤销承诺金额 ÷ 同窗口承诺总额 | 合同、需求预测、容量计划;采购与财务 | 决定续约、换型、转用与谈判顺序 |
| 7. 单位有效产出能耗 | 约定系统边界内kWh ÷ 合格业务产出 | 整机/机房计量与任务结果;平台及设施团队 | 比较同等服务的能源效率 |
指标落地时的四个口径说明
有效产出要按业务定义。 在线服务可用同时满足质量、时延和成功率要求的请求;训练可以按约定质量目标、合格模型或可复核里程碑核算。token适合技术效率分析,但重复训练、无效生成与业务质量需要另外标注。FinOps也区分资源效率指标与业务结果指标。FinOps单位经济性
如果成本 C 的单位是人民币元、token数为 N:
元/千 token = C ÷ N × 1,000
分/千 token = C ÷ N × 100,000例如,费用10,000元、有效token为1亿,则为 0.1 元/千 token,也就是 10 分/千 token。训练与推理、输入与输出、不同模型和质量条件应分别统计。
贡献率是本文的经营分析口径。 如果已有毛利润已经扣除了算力成本,再减一次TCC就会重复计算。应从收入和互不重复的成本项目重新对齐;尚无收入的研究项目不适合套用该贡献率,可采用预算与里程碑管理。
资金余缺不等于会计意义上的现金转换周期。 可以采用未来13周作为管理窗口,逐周检查余额;13周只是实施示例。预付、押金、阶段付款、回款延迟和不可撤销承诺都要进入计划。没有可归属收入的成本中心,应展示资金拨付与付款安排,而不是虚构服务回款。
能耗与碳排分别计算。 加速卡功耗不能代替整机或机房能耗。碳排还涉及电力碳强度、硬件隐含排放与分摊边界;比较时必须使用相同业务单位和边界。Software Carbon Intensity规范
分母为零时应标记“不适用”,缺失数据标记“待核实”。当设备更快完成任务后,其运行时间可能下降,因此不能把指标2越高越好作为独立绩效目标。
分层供给:稳定需求控制承诺,波动需求保留弹性
企业阶段可以影响资金偏好,但不直接决定部署方式。成熟企业也可能适合托管服务,合规要求高也不自动等于必须自建;关键是实际控制、交付能力与适用要求。
| 业务层 | 供给策略 | 必须验证的条件 |
|---|---|---|
| 稳定核心负载 | 在自建、专属租赁、承诺用量或托管服务之间比较 | 真实长期用量、容量保障、质量与SLO、现金流和退出条件 |
| 峰值/阶段性负载 | 基础容量加按需或预约资源 | 配额、启动时间、数据搬移、扩容库存、计费边界 |
| 实验与研究 | 小规模起步、项目预算、期限和阶段验收 | 环境兼容、恢复能力、回收规则及实验价值 |
“国产、二手、海外”分别涉及技术生态、设备生命周期和部署地域,并不是一个共同的低价类别。它们都应按软件适配、维保、合法供给、数据处理和退出成本单独评估,不预设一定更便宜或一定只适合补充用途。
自建与云服务也没有“租满三四年必然更贵”的统一交点。需要固定硬件能力、质量与服务要求,比较实际用量、折扣、机房条件、运维投入、残值和资金成本。
采购承诺应与使用优化联动。例如,先预计回收大量资源,再按旧峰值签长期合同,可能把可取消的消费变成固定负担;但也不必等全部技术优化完成才谈价格。应按已验证需求分批决策,避免把用量节省与折扣收益重复计算。FinOps价格与承诺优化
降本行动:从能核验、能回退的项目开始
第一类:回收不必要的消费
为资源建立负责人和有效期,检查无活跃任务的实例、实验残留、过期快照、无读取价值的缓存和重复部署。自动回收应依据任务状态、保留政策和业务授权,保留恢复或回退方案。
生产热备与已批准研究预算不能仅凭低GPU utilization被清理。回收前后应同时观察有效产出、排队时间、失败率和SLO。
第二类:减少完成同一任务的资源量
训练侧检查数据流水线、通信与计算重叠、checkpoint和失败恢复;推理侧检查模型路由、batch、前缀缓存、量化与弹性策略。网络和存储造成的等待,应先定位原因,而不是直接购买更多加速卡。
优化后还需做质量回归。更短输出、更低图像分辨率、更少训练数据或更宽松时延,可能降低成本,但这属于业务规格改变,应另行披露。
第三类:用平台能力落实组织规则
平台应支持项目配额、优先级、资源回收、费用归属和例外处理。业务团队决定价值与优先级,工程团队保证质量与可靠性,采购管理合同,财务统一成本口径与资金安排。
每项降本机会都应有负责人、基线、预期收益、实施成本、验收指标、回退条件和实际结果。只有看板而没有执行责任,无法将机会转化成收益。
第四类:给Agent明确的执行与预算边界
Agent可以辅助识别闲置、解释异常、推荐规格和生成变更方案。自动执行时,控制必须位于Agent无法自行绕过的服务端:
| 控制点 | 需要落实的能力 |
|---|---|
| 权限 | 最小权限、允许操作清单、限定项目和资源范围 |
| 单次任务 | 最大运行时长、并发数、重试次数、模型调用和子任务数量上限 |
| 预算 | 执行前预估并预占预算;已发生费用与在途承诺合并核算 |
| 资源生命周期 | 幂等创建、超时终止、完成后清理,防止重复提交与遗留实例 |
| 生产变更 | 根据影响范围设置授权、维护窗口与回退;不可逆操作单独控制 |
| 审计与止损 | 保存目标、调用、审批与费用归属;可以停止新任务并处置在途任务 |
预算通知不等于实时硬上限。云账单与预算系统可能存在更新延迟,因此即时控制还应放在任务入口、资源配额与调用网关上。AWS Budgets的更新与通知限制
停止提交新任务也不意味着费用立刻归零;已经运行的实例、存储、长期承诺和在途请求,需要各自的终止或结算规则。
怎样证明降本发生?先把比较基线对齐
至少区分三种结果:
- 实际支出下降:同口径实际付款或费用减少,说明采用哪一种口径。
- 避免未来支出:有需求依据的新增采购或扩容被避免,不能直接等同于已经少付的钱。
- 效率或容量提升:同样资源完成更多合格任务,或释放可再利用容量;现金效果需要另行确认。
假设算例:当月费用上升2%,也可能有优化收益
假设某业务原月度归属成本为100万元。本月需求与服务范围变化,经双方确认的基线模型估计:如果不优化,完成本月同等质量和服务要求的业务需130万元。
以下金额仅用于说明核算方法:
| 项目 | 金额变化 | 累计成本 | 说明 |
|---|---|---|---|
| 原周期基线 | — | 100万元 | 已明确成本范围 |
| 需求增加 | +20万元 | 120万元 | 根据需求与容量模型估计,不假设所有成本线性增长 |
| 服务范围增加 | +10万元 | 130万元 | 形成当前业务条件下的未优化基线 |
| 用量与系统优化 | −25万元 | 105万元 | 依据优化后的需求量核算 |
| 价格与合同优化 | −15万元 | 90万元 | 在前一步剩余用量上计算,避免重复计收益 |
| 一次性实施投入 | +12万元 | 102万元 | 本例全部归入当期管理成本;会计处理另按适用政策 |
同一组数字可以回答三个不同问题:
当期费用相对原周期变化 = (102 - 100) ÷ 100 = +2%
相对调整后基线的净优化收益 = 130 - 102 = 28 万元
当期净优化比例 = 28 ÷ 130 ≈ 21.5%若后续需求、范围和价格不变,且不再发生这笔实施投入,持续运行成本为90万元,对应调整后基线约30.8% 的差额。这是附带前提的后续情景,不应冒充已经实现的全年节省。
验收报告应保留调整理由、模型、费用来源和质量结果;若反事实基线不可靠,应同时报告区间或多个情景,不仅给一个精确百分比。
附件提供 瀑布图数据。
“利用率翻倍”为什么不能直接证明“降本60%”?
在一个非常简化的模型中,若有效工作量不变、费用与所需容量完全成正比,且有效运行占比从27% 提高到52%,所需容量约变为原来的 27/52≈51.9%,对应约48.1% 的容量减少。
这仍然不是实际综合降本比例。固定合同、不同设备速度、软件与迁移费用、闲置是否可取消,都会改变结果;若百分比来自 nvidia-smi,上述“有效容量占比”模型也不能直接使用。任何60% 的案例结论,都需要额外的成本分解与对照证据。
五类行业场景:先列验证问题,再报告收益
以下是分析模板,不是已经完成的客户案例。
| 场景 | 优先检查 | 验收时比较 | 不应省略的成本或条件 |
|---|---|---|---|
| 具身智能 | 训练、仿真、数据处理是否互相等待,实验是否可恢复 | 同等任务效果下的迭代时间与完整费用 | 仿真、数据采集、失败实验和边缘验证 |
| 自动驾驶 | 数据读取、长任务恢复与集中训练窗口 | 同等数据与质量目标的训练完成时间 | 迁移、checkpoint、存储吞吐、保留周期与容量保障 |
| 制造业AIGC | 生成、筛选、返工和生产使用之间的转换率 | 每个可用设计的费用与交付周期 | 人工筛选、返工、素材授权和集成 |
| 动画与视频生成 | 分辨率、帧数、步数、batch与交付质量 | 每个合格镜头或单位视频时长的费用 | 重生成、后处理、资产存储和传输 |
| 生物医药 | 数值正确性、候选筛选质量与实验流程衔接 | 达到同等筛选标准的候选产出与周期 | 数据授权、验证计算、实验验证和模型适配 |
“从数周变成数天”需要说明计算、排队、数据准备和人工环节各占多少;“API成本下降”需要说明输出规格是否一致;“Serverless训练”也要确认调度等待、镜像与模型加载、存储和失败恢复如何计费。
可公开的案例应标注测试环境、原方案与新方案、时间窗口、样本数、成本边界、一次性投入、质量变化和实际结果,并获得相应披露授权。
一份可执行的90天计划
时间安排仅作实施参考,企业可按组织规模调整。
| 阶段 | 核心工作 | 交付物 |
|---|---|---|
| 第1–30天:建立基线 | 对齐合同、账单、资产、任务与负责人;统一七项指标 | 三种成本视图、待分摊项、容量分类与需求情景 |
| 第31–60天:小范围验证 | 选择可回退的回收、调度或配置优化,做同口径对照 | 质量与SLO结果、实施成本、实测收益及回退记录 |
| 第61–90天:固化治理 | 扩大已验证方案,调整续约与预算,部署执行边界 | 实际节省、成本避免和容量收益分别报告;明确下一轮负责人 |
当期账单与任务台账应定期对账,预测随业务与模型变化滚动更新。需求、价格、使用方式和折扣会变化,因此降本不能只做一次性的迁移验收。FinOps预测管理
附件提供 降本项目验收空表,用于记录基线、质量约束、实施投入与实际结果。
CXO最终需要持续追问三件事:这笔支出对应什么产出,下一笔承诺有多少真实需求支撑,这项优化是否已经在同口径结果中得到验证。 把答案落实到台账、合同与执行机制,降本才能从价格谈判变成持续的经营能力。
最后更新于
