使用弹性容器集群部署stable-diffuision-webui

Stable Diffusion WebUI 是一个基于 Stable Diffusion 模型的图形用户界面，使得用户可以更容易地生成和编辑图像。
Stable Diffusion 是一种深度学习模型，专门用于生成高质量的图像。通过 WebUI，用户可以方便地调整参数、运行生成任务，并查看结果。 本文介绍如何使用弹性容器集群，快速部署Stable Diffusion WebUI。

前置条件

安装docker，请参考安装Docker
开通弹性容器集群
连接弹性容器集群，具体请参考使用指南->弹性容器集群->快速开始

方案概述

1. 准备镜像，并推送镜像仓库
2. 下载模型文件，并上传对象存储管理
3. 声明命名空间
4. 创建密钥，用于容器从镜像仓库拉取镜像
5. 创建容器，从对象存储下载模型文件，放置在容器代码指定的位置
6. 创建服务
7. 发布服务

操作步骤

准备镜像

关于镜像仓库使用，请参考镜像仓库的使用
用户名密码：查看开通镜像仓库时的通知短信
镜像仓库地址：由 访问域名/项目 组成

拉取源镜像

在开始部署前，需要先拉取Stable Diffusion WebUI的源镜像，然后根据部署需求，以源镜像为基础镜像，自定义镜像。
拉取源镜像：

docker pull freeze1111/stable-diffusion-webui

自定义镜像文件

可以把一些工具打包到镜像里，如：rclone，curl，vim 等。
rclone.conf 需要与Dockerfile文件放在同一目录下。

FROM freeze1111/stable-diffusion-webui:latest
ARG VERSION=3.0

# 切换回root用户来安装软件
USER root

# 安装rclone, curl, vim, ping 和 sudo
RUN apt-get update && apt-get install -y rclone curl vim iputils-ping sudo && \
    apt-get clean && rm -rf /var/lib/apt/lists/*

# 拷贝rclone配置文件，这个镜像里的用户为"user",所以将配置文件拷贝至"user"用户的home路径下
COPY rclone.conf /home/user/.config/rclone/

# 切换回之前的非root用户, 保持原有的工作目录和用户
WORKDIR /workspace
USER user

# 保留原有的启动命令
CMD ["sh", "-c", "./webui.sh --listen --no-download-sd-model"]

重打自定义镜像

docker build -t 镜像仓库地址/freeze1111/stable-diffusion-webui:5.0 .

推送到镜像仓库:

docker login 域名 -u username -p password

docker push 镜像仓库地址/freeze1111/stable-diffusion-webui:5.0

下载模型文件

本文档部署示例需要两个模型 clip-vit-large-patch14 和 stable-diffusion-v1-5
模型文件下载可以有多种渠道，如 modelscope，huggingface等
本文从modelscope下载模型文件， 以stable-diffusion-v1-5为例，下载方法如下：

pip install modelscope -i https://pypi.tuna.tsinghua.edu.cn/simple

modelscope download --model AI-ModelScope/stable-diffusion-v1-5

将下载的模型文件，上传到对象存储，对象存储的使用请参考对象存储的使用

创建命名空间

# 创建namespace
kubectl create namespace sd-test

创建密钥

具体创建方式参考使用指南->弹性容器集群->创建密钥
此处我们创建名称为 sd-harbor-secret 的密钥，所属命名空间为 sd-test

  apiVersion: v1
  kind: Secret
  metadata:
    name: sd-harbor-secret
    namespace: sd-test
  type: kubernetes.io/dockerconfigjson
  data:
    .dockerconfigjson: base64编码后的docker config.json内容

创建容器

以deployment方式，管理pod，创建容器

# sd_deploy.yaml
apiVersion: apps/v1
kind: Deployment
metadata:
  name: sd-deploy
  namespace: sd-test
  labels:
    app: sd
spec:
  replicas: 1  # 指定你希望运行的副本数量
  selector:
    matchLabels:
      app: sd
  template:
    metadata:
      labels:
        app: sd
    spec:
      restartPolicy: Always
      securityContext:
        runAsUser: 1000
        runAsGroup: 1000
        fsGroup: 1000
      containers:
        - name: sd-cuda-container
          image: registry.hd-01.alayanew.com:8443/vc-huangxs/freeze1111/stable-diffusion-webui:5.0   # 替换成你的镜像
          resources:
            requests:
              memory: "100G"
              cpu: "18"
              nvidia.com/gpu-l40s: 1
            limits:
              memory: "100G"
              cpu: "18"
              nvidia.com/gpu-l40s: 1
          ports:
            - containerPort: 7860
              name: http-port
              protocol: TCP
          volumeMounts:
            - name: data-vol
              mountPath: "/workspace/models/Stable-diffusion"
              subPath: "workspacemodels/Stable-diffusion"
            - name: data-vol
              mountPath: "/home/user/.cache/huggingface/hub"
              subPath: "home/user/.cache/huggingface/hub"
            - name: data-vol
              mountPath: "/workspace/output"
      imagePullSecrets:
        - name: sd-harbor-secret
      volumes:
        - name: data-vol
          persistentVolumeClaim:
            claimName: pvc-capacity-userdata

进入pod中，从对象存储中下载模型文件

# 下载stable-diffusion模型文件到/workspacemodels/Stable-diffusion目录
rclone -v copy [my-s3:/models01/stable-diffusion-v1-5.tar.gz]  /workspacemodels/Stable-diffusion

# 下载huggingface模型文件到/home/user/.cache/huggingface/hub目录
rclone -v copy [my-s3:/models01/models--openai--clip-vit-large-patch14.tar.gz]  /home/user/.cache/huggingface/hub

# 解压stable-diffusion模型文件
cd /workspacemodels/Stable-diffusion
tar -xzvf stable-diffusion-v1-5.tar.gz

# 解压huggingface模型文件
cd /home/user/.cache/huggingface/hub
tar -xzvf models--openai--clip-vit-large-patch14.tar.gz

注意：在pod中从对象存储下载模型文件时，请将一下信息替换为你实际的存储位置：

示例路径	实际路径
my-s3:/models01/stable-diffusion-v1-5.tar.gz	实际对象存储存放路径
my-s3:/models01/models--openai--clip-vit-large-patch14.tar.gz	实际对象存储存放路径

创建服务

具体参考使用指南->弹性容器集群->创建服务
此处创建如下服务：

服务名	命名空间	标签	服务端口	目标端口
sd-svc	sd-test	app: sd	8888	7860

发布服务

具体参数使用指南->弹性容器集群->发布服务
此处发布服务参数：

serviceExporterName	命名空间	服务名称	服务端口
sd-svc-exporter	sd-test	sd-svc	8888

执行如下命令，获取服务域名

kubectl describe serviceexporter  sd-svc-exporter -n sd-test

执行结果如图：

上图中url，拼接内置端口22443
得到实际访问服务域名：https://sd-svc-x-sd-test-x-vc2qofwoe524.sproxy.hd-01.alayanew.com:22443 访问服务，结果如下：