技术分享
工程团队的实战记录——推理调优、千卡训练、网络拓扑、合规架构、算力选型与降本案例。每月更新。
2026年9月2 篇
2026年5月7 篇
IB组网入门:从带宽到Rail-aligned拓扑
随着计算性能持续提升,为什么网络反而成为高性能计算集群的瓶颈?从InfiniBand、RDMA、PCIe Affinity到Rail-aligned拓扑,深入理解网络架构、设备亲和性与通信路径如何协同发挥带宽性能。
NCCL-tests实战:多机多卡集群上线前的通信基线与性能验收
从加速卡拓扑、GPU-NIC亲和性与GPUDirect RDMA出发,使用NCCL-tests建立单机、双机和多节点通信基线,并通过日志与对照测试定位性能异常。
Hugging Face模型权重加速下载实战:镜像、ModelScope与团队缓存
大模型权重下载慢、易中断?从hf-mirror、ModelScope到aria2并发与团队缓存,讲清可用命令、授权边界、完整性校验和真实带宽上限。
加速卡监控指标与XID故障速查——一线运维的6张表
从nvidia-smi、DCGM指标到Xid 31、79、119/120,梳理一线排查、日志取证、隔离恢复与硬件升级边界,避免把告警直接等同于返厂。
用uv替代pip / Poetry:AI项目的包管理与源配置
从旧项目迁移到uv,配好国内PyPI镜像与PyTorch CUDA源,分清 --locked和 --frozen,并把依赖管理接入CI与Docker。
给AI工程师的Kubernetes速通:概念与最小可用方案
从单卡训练Job到vLLM推理服务,讲清Pod、Deployment、PVC、加速卡资源声明与排障顺序,并提供可拆分使用的完整YAML。
Docker基本使用与镜像源配置(2026)
从容器常用命令到镜像加速、代理配置、多架构构建和离线分发,梳理不同配置的适用范围,帮助减少镜像拉取超时与环境差异问题。
