【Python大语言模型系列】在阿里云ECS服务器上部署dify大模型应用开发平台（完整教程）
这是我的第360篇原创文章。
一、阿里云ECS简介
云服务器( Elastic Compute Service ,简称ECS )是一-种简单高效、处理能力可弹性伸缩的计算服务，帮助您快速构建更稳定、安全的应用,提升运维效率,降低IT成本，使您更专注于核心业务创新。
这个活动需要满足是新用户的条件，然后进入 https://free.aliyun.com/?spm=5176.13830350.J_9630841290.4.3b3750d0kpmRdO&product=1351页面即可免费体验阿里云ECS了。
进入页面之后我们可以选择我们需要的配置：
开通服务器后，首先修改服务器的登陆密码，点击重置实例密码：
创建的实例：
我们通过远程连接的方式，进入这个实例：
当然，也可以用Xshell或其他远程连接软件连上服务器（输入root和密码），根据公网ip地址连上。
二、在ECS上安装Docker
安装dify的两个前提条件：
2.1 下载Docker的依赖环境
安装Docker，首先要下载他所依赖的环境
2.2 指定Docker镜像源
默认下载Docker会去国外服务器下载，速度较慢，可以设置为阿里云镜像源，速度更快
2.3 安装Docker
开始安装Docker
2.4 设置启动方式
安装成功后，需要手动启动，设置为开机启动
2.5 测试docker
测试(Docker自带的hello-world)
2.6 查看docker版本
看一下docker的版本：
三、在ECS上安装Docker Compose
3.1 方式一：curl
curl：
# 1 国内镜像秒下载
curl -L https://get.daocloud.io/docker/compose/releases/download/1.25.5/docker-compose-`uname -s`-`uname -m` > /usr/local/bin/docker-compose
# 2 修改文件执行权限
sudo chmod +x /usr/local/bin/docker-compose
# 3 创建软链
sudo ln -s /usr/local/bin/docker-compose /usr/bin/docker-compose
# 4 测试是否安装成功
docker-compose --version3.2 方式二：wget
wget：
# 1.去github官网搜索docker-compose，下载1.24.1版本的Docker-Compose
# 下载路径：
wget https://github.com/docker/compose/releases/download/1.24.1/docker-compose-Linux-x86_64
# 2.设置权限
# 需要将DockerCompose文件的名称修改一下，给予DockerCompose文件一个可执行的权限
mv docker-compose-Linux-x86_64 docker-compose
chmod 777 docker-compose
# 3.配置环境变量
# 方便后期操作，配置一个环境变量
# 将docker-compose文件移动到了/usr/local/bin，修改了/etc/profile文件，给/usr/local/bin配置到了PATH中
mv docker-compose /usr/local/bin
vi /etc/profile
# 添加内容：export PATH=/usr/local/bin:$PATH
source /etc/profile
# 4.测试
在任意目录下输入docker-compose3.3 方式三：pip
pip：
# 1.运行以下命令，安装setuptools。
pip3 install -U pip setuptools
# 2.运行以下命令，安装docker-compose。
pip3 install docker-compose
# 3.运行以下命令，验证docker-compose是否安装成功。
docker-compose --version四、按照dify提供的官方教程进行部署
克隆dify 源代码至本地环境（这里的本地就是这台阿里云ECS）
如果没有git工具，需要安装：
进入dify源代码的 Docker 目录；复制环境配置文件；
选择合适的命令来启动容器。你可以通过 docker compose version 命令检查版本，启动 Docker 容器：如果版本是 Docker Compose V2，使用以下命令：
报错：
在尝试用docker-compose启动应用时遇到网络创建失败的错误，具体表现为无法启用SKIPDNAT规则的iptables操作。错误源于防火墙在Docker服务启动后被关闭。解决方案是重启Docker服务以消除此问题。
重新启动 Docker 容器，，运行命令后，你应该会看到类似以下的输出，显示所有容器的状态和端口映射：
最后检查是否所有容器都正常运行：
在这个输出中，你应该可以看到包括 3 个业务服务 api / worker / web，以及 6 个基础组件 weaviate / db / redis / nginx / ssrf_proxy / sandbox 。都启动了。
五、在ESC部署的dify上进行大模型应用开发
5.1 配置ESC安全组的访问规则
我使用本机去 ping 公网 ip 结果可以 ping 通，直接使用它给我提供的公网 ip 进行访问，结果显示访问失败，这需要在云服务器上进行配置：点击安全组，添加访问规则，设置80端口：
5.2 公网访问
输入公网ip，就可以进入部署在ESC的dify平台了
5.3 开发并发布AI大模型应用（Maas）-模型即服务
设置管理员账户：
之后进入：
就可以在这台云服务器ESC上进行开发工作流或者Agent了。
作者简介：
读研期间发表6篇SCI数据挖掘相关论文，现在某研究院从事数据算法相关科研工作，结合自身科研实践经历不定期分享关于Python、机器学习、深度学习、人工智能系列基础知识与应用案例。致力于只做原创，以最简单的方式理解和学习，关注我一起交流成长。需要数据集和源码的小伙伴可以关注底部公众号添加作者微信。
