实践教程
每篇教程都是一段独立可完成的实战,从头跟到尾,复制即可运行。
训练与微调
finetune进阶
CCI + LLaMA Factory 跑一次 LoRA 微调
在云容器实例中安装 LLaMA Factory,通过 Webui 跑一次基于 LoRA 的 SFT 指令微调,以 Llama-3-8B-Instruct 为例。
cci入门
CCI 上跑通 PyTorch 二分类入门
在 CCI 上用 Jupyter + PyTorch 训练一个二分类神经网络,从环境配置到结果可视化全流程。
推理与部署
vllm进阶
CCI + vLLM 部署 OpenAI 兼容推理服务
在云容器实例中安装 vLLM,启动 OpenAI 兼容的推理服务并在线测试一次 completions(以 Baichuan2-7B-Chat 为例)。
应用集成
dify进阶
Dify + RAG 知识库客服
把企业业务数据接入 Dify,搭建一个带知识库的 RAG 问答客服。
llamafactory进阶
LLaMA Factory 微调指南
使用 Aladdin IDE 插件 + LLaMA Factory 进行单机单卡、单机多卡、多机多卡的模型微调实战。
工具与环境
cli入门
GPU Pod Linux 速查
SSH 进 pod 后最常用的 ~40 条命令——文件、权限、SCP、nvidia-smi 占卡排查、杀掉占卡进程。
hf入门
模型下载加速(HF 镜像)
按区域设置 HF_ENDPOINT 走北京一、二、三、四区内部镜像——snapshot_download、huggingface-cli、from_pretrained 三种姿势。
查看其余 5 个 →Show 5 more →
远程开发
最后更新于
这篇文档对你有帮助吗?
