跳到主要内容

构建和部署镜像模型

Alaya NeW下支持通过页面化操作构建和部署模型

开通企业镜像仓库后,可在LM Lab应用下或本地进行镜像模型的构建,在Inference下进行模型的部署

查看企业镜像

前提条件: 企业已开通镜像仓库

文件存储开通: 登录Alaya NeW后,点击导航栏产品,选择存储产品,进入存储介绍页,点击立即进入

存储介绍

点击立即进入后,进入存储管理系统,左侧选择镜像仓库,查看企业镜像仓库信息

查看企业镜像仓库

构建模型

LM Lab构建镜像

前提条件: 企业需开通LM Lab应用

操作步骤

  1. 登录后,首页产品菜单下选择LM Lab应用,点击立即进入

    进入LMLab

  2. 新建项目或进入已有项目下后,点击左侧导航栏下的Workshop进入workshop列表

    Workshop

  3. 创建并启动Workshop,启动Workshop可根据自己的需求选择镜像、配置环境变量、设定资源,启动后时选择的镜像将作为Workshop的操作环境,可通过Workshop进行开发。

    使用Workshop

  4. 编码完成后,选择对应的workshop点击保存镜像,输入镜像信息及用户名和密码后,镜像会保存在企业镜像仓库下。

    保存镜像

本地构建镜像

前提条件: 本地需安装Docker

示例

  1. 制作用于自动化构建Docker镜像的的Dockerfile
# 使用官方Python运行时作为父镜像
FROM python:3.8-slim

# 设置工作目录
WORKDIR /home/app

# 将当前目录内容复制到位于/app中的容器
COPY /home/app

# 安装requirements.txt中指定的任何所需包
RUN pip install -no-cache-dir -r requirements.txt

# 使端口80可供此容器外的环境使用
EXPOSE 80

# 定义环境变量
ENV NAME World

# 在容器启动时运行app.py
CMD ["python","app.py"]

  1. 构建Docker镜像
docker build -t my-python-app -f /home    # my-python-app 是镜像指定的名称  /home 为Dockerfile的目录地址
  1. 上传本地镜像到企业镜像仓库
docker login  http://registry.hd-01.alayanew.com:8443  ##按照提示输入用户名/密码 

docker tag volcanosh/vc-scheduler:v1.7.0 registry.hd-01.alayanew.com:8443/harbor项目/volcanosh/vc-scheduler:v1.7.0

docker push registry.hd-01.alayanew.com:8443/harbor项目/volcanosh/vc-scheduler:v1.7.0 ##推送镜像

部署模型

前提条件:企业需开通Inference应用

操作步骤

  1. 登录后,首页产品菜单下选择Inference应用,点击立即进入

    进入Inference

  2. 新建镜像模型项目或进入已有镜像模型项目下后,点击左侧导航栏下的模型管理进入模型列表

    镜像模型列表

  3. 点击添加模型,选择镜像仓库导入方式,输入镜像仓库地址及端口等信息后进行提交。

    导入镜像模型

  4. 模型导入完成后会出现在待审核Tab下,点击移动到通过,移动到已通过下可进行模型的部署

    移动到通过

  5. 点击左侧导航栏下的在线服务进入模型在线服务页

    在线服务

  6. 点击新建部署,选择模型,并设定部署资源等信息,进行镜像模型的部署

    新建部署

  7. 部署完成后的模型,点击调试可进行镜像模型的调试