Windows下(win10)本地部署Deepseek + Docker + RAGFlow
首先确认自己的电脑配置,有没有GPU,内存大小等。以便后续选择合适自己的Deepseek蒸馏模型
开始行动起来,直接上干货:
1、登录ollama官网,下载安装ollama
2、下载安装后进行环境变量设置
环境变量设置完成之后,千万记得要重启电脑。不然安装Deepseek蒸馏模型后,使用ollama list命令获取不到信息。
3、通过ollama下载安装模型。
打开cmd工具,在命令行输入官网下载指令即可。
4、安装模型成功后 会出现对话框,表示模型安装成功
5、下载安装Docker
Windows下安装Docker,有点麻烦,遇到了几个坑
1)首先Docker官网下载适合自己电脑的版本
2)安装前需要先对电脑进行设置
勾选如下配置
3)配置上述内容后,还需要确认自己电脑是不是安装了wsl
通过cmd命令行 执行 wsl指令
wsl --version等命令可正常返回,说明已支持。
如果不支持 可以通过 wsl --update 命令进行升级安装。
默认切到wsl 2:wsl --set-default-version 2
4)开始安装Docker,按照默认配置安装即可。
安装后打开运行。
6、开始通过Docker 下载安装RAGFlow
首先去github上下载RagFlow源码。
下载解压即可。
然后进入目录内 找到Docker目录下的.env文件 打开RAGFLOW_IMAGE宏定义。
我这里是通过华为云下载的
执行下载命令:
$ cd ragflow/docker
$ docker compose -f docker-compose.yml up -d
这里特别注意一下,如果下载失败 提示下面报错信息,应该是外网权限问题。
Error response from daemon: Get "https://registry-1.docker.io/v2/": net/http: request canceled while waiting for connection (Client.Timeout exceeded while awaiting headers)
需要在Docker里面,增加国内源。
下载会比较耗时。下载完成后会自动运行。此时可以通过浏览器访问RAGFlow
url框里输入localhost:80即可
进入RAWFlow后 可以添加自己本地的模型。上传知识库。进行解析问答了。
后续可参考下面视频介绍:(或后续更新文章)
【喂饭教程】20分钟教会你本地部署DeepSeek-R1,并搭建自己的知识库!小白也能轻松上手!(附Windows安装包+使用技巧)大模型|LLM_哔哩哔哩_bilibili