mcp-server-vks部署
通过文章MCP简介我们已经对MCP有了一个初步的了解。
接下来我们通过私有应用市场部署一个mcp-server-vks服务,让它来帮助你管理自己的VKS。
本次部署的mcp-server-vks服务是我们基于 mcp-server-kubernetes 二次开发的一个MCP服务,它可以连接到你的Kubernetes集群并管理这个集群。
前置条件
本教程假定您已经具备以下条件:
- 在您的系统上安装了kubectl,具体步骤参考安装命令行工具(kubectl)。
- 在您的系统上安装了Helm,具体步骤参考helm的使用。
- 开通了Alaya NeW弹性容器集群,具体步骤参考开通弹性容器集群。
- 部署私有应用市场,具体步骤参考部署私有应用市场。
访问私有应用市场
请参考部署私有应用市场
部署应用
请参考私有应用市场-部署应用
在应用市场界面搜索“mcp”,找到“mcp-server-vks”,点击进入配置界面。
在部署mcp-server-vks时,需要修改的values.yaml文件内容。
必须修改项:
vksID: 需要修改成自己集群的ID,获取方式 kubectl cluster-info | awk -F'/' '{print $NF}' | head -n 1
base64_kubeconfig_data: 需要修改成自己的集群kubeconfig配置文件内容,参考开通弹性容器集群 获取自己的kubeconfig配置信息。
可选修改项: modelName: 可以自定义模型名称
cpu: 根据具体情况而定;
memory: 根据具体情况而定;
在该示例中,创建弹性集群页面上存在但表格中未列出的参数,均采用默认配置。
获取访问URL
部署成功之后,进入应用详情,如下图:
点击Notes.txt,可以显示模型网页访问地址,如下图:
常用指令
以下是一些常用的指令,指令使用流程可参见下图,用户在使用大模型时,按照以下模板输入你的指令,大模型就回调用mcp-server-vks来帮你管理VKS的资源了。
创建一个命名空间,指令如下所示。
帮我创建一个名称为`demo`的命名空间
创建一个拉取镜像需要的secret
资源,指令如下所示。
在demo命名空间创建一个docker镜像仓库的`secret`,名称为"demosecret"。
以下是基本信息:
docker-server: registry.hd-01.alayanew.com:8443
docker-username: ******
docker-password: ******
在demo
命名空间来创建一个的pod
资源,指令如下所示。
在demo命名空间启动一个pod:
容器名称设置为demogpu,分配16个cpu,64G内存。
使用以下镜像:registry.hd-01.alayanew.com:8443/alayanew-4fd285c4-c4f3-4e92-80ee-26169717cba8/ubuntu:22.04;
镜像拉取的secret为:demosecret
镜像拉取的策略为:Always
容器的启动命令为:["/bin/bash", "-c", "tail -f /dev/null"]
查看一下demo
命名空间下的Pod资源,指令如下所示。
查看一下demo命名空间下有哪些pod资源。
查看对应命名空间下GPU资源详情,指令如下所示。
帮我查看一下demo命名空间下,demogpu的详细信息
查看对应命名空间下有哪些secret
资源,指令如下所示。
查看一下demo命名空间下,有哪些secret资源
查看对应命名空间下有哪些service
资源,指令如下所示。
查看一下demo命名空间下,有哪些service资源
删除对应命名空间下的pod
,指令如下所示。
删除demo命名空间下的所有pod
删除对应的命名空间,指令如下所示。
删除demo命名空间