构建和部署镜像模型
Alaya NeW下支持通过页面化操作构建和部署模型
开通企业镜像仓库后,可在LM Lab应用下或本地进行镜像模型的构建,在Inference下进行模型的部署
查看企业镜像
前提条件: 企业已开通镜像仓库
文件存储开通:
登录Alaya NeW后,点击导航栏产品
,选择存储
产品,进入存储介绍页,点击立即进入
点击立即进入
后,进入存储管理系统,左侧选择镜像仓库
,查看企业镜像仓库信息
构建模型
LM Lab构建镜像
前提条件: 企业需开通LM Lab应用
操作步骤:
-
登录后,首页
产品
菜单下选择LM Lab
应用,点击立即进入
-
新建项目或进入已有项目下后,点击左侧导航栏下的Workshop进入workshop列表
-
创建并启动Workshop,启动Workshop可根据自己的需求选择镜像、配置环境变量、设定资源,启动后时选择的镜像将作为Workshop的操作环境,可通过Workshop进行开发。
-
编码完成后,选择对应的workshop点击保存镜像,输入镜像信息及用户名和密码后,镜像会保存在企业镜像仓库下。
本地构建镜像
前提条件: 本地需安装Docker
示例:
- 制作用于自动化构建Docker镜像的的Dockerfile
# 使用官方Python运行时作为父镜像
FROM python:3.8-slim
# 设置工作目录
WORKDIR /home/app
# 将当前目录内容复制到位于/app中的容器
COPY /home/app
# 安装requirements.txt中指定的任何所需包
RUN pip install -no-cache-dir -r requirements.txt
# 使端口80可供此容器外的环境使用
EXPOSE 80
# 定义环境变量
ENV NAME World
# 在容器启动时运行app.py
CMD ["python","app.py"]
- 构建Docker镜像
docker build -t my-python-app -f /home # my-python-app 是镜像指定的名称 /home 为Dockerfile的目录地址
- 上传本地镜像到企业镜像仓库
docker login http://registry.hd-01.alayanew.com:8443 ##按照提示输入用户名/密码
docker tag volcanosh/vc-scheduler:v1.7.0 registry.hd-01.alayanew.com:8443/harbor项目/volcanosh/vc-scheduler:v1.7.0
docker push registry.hd-01.alayanew.com:8443/harbor项目/volcanosh/vc-scheduler:v1.7.0 ##推送镜像
部署模型
前提条件:企业需开通Inference应用
操作步骤:
-
登录后,首页
产品
菜单下选择Inference
应用,点击立即进入
-
新建镜像模型项目或进入已有镜像模型项目下后,点击左侧导航栏下的模型管理进入模型列表
-
点击添加模型,选择镜像仓库导入方式,输入镜像仓库地址及端口等信息后进行提交。
-
模型导入完成后会出现在
待审核
Tab下,点击移动到通过,移动到已通过
下可进行模型的部署 -
点击左侧导航栏下的在线服务进入模型在线服务页
-
点击新建部署,选择模型,并设定部署资源等信息,进行镜像模型的部署
-
部署完成后的模型,点击
调试
可进行镜像模型的调试