【AI】在Ubuntu中使用docker对DeepSeek的部署与使用
这篇文章前言是我基于部署好的deepseek-r1:8b模型跑出来的
关于部署DeepSeek的前言与介绍
在当今快速发展的技术环境中，有效地利用机器学习工具来解决问题变得越来越重要。今天，我将引入一个名为DeepSeek 的工具，它作为一种强大的搜索引擎，不仅能够帮助我们更高效地定位所需信息，还能通过自动化的方式提供深度的分析和见解。
DeepSeek简介
DeepSeek 是一款基于先进人工智能技术开发的搜索引擎，它结合了最先进的自然语言处理和大数据分析能力，能够为用户提供高度个性化的搜索体验。与传统搜索引擎不同，DeepSeek不仅会根据关键词匹配结果，还能理解用户的意图，自动调整搜索策略，以满足特定需求。
为什么选择部署DeepSeek
在我的项目中，我需要处理大量的数据，寻找特定的模式和趋势。传统的方法往往效率低下且耗时较长，而通过部署DeepSeek，可以将其集成到现有的工作流程中，自动化地进行信息检索和分析。这不仅能够提高效率，还能减少人为错误，确保数据处理的准确性。
部署目标
本文旨在详细描述我对DeepSeek 的部署过程、初步体验以及实际应用中的效果。通过分享我的经验，我希望能为其他用户提供有价值的参考，同时展示机器学习工具在日常工作中的潜力和便利性。
首先是环境介绍
我的笔记本安装了ubuntu系统，所以我直接在ubuntu下使用docker快速部署ollama
GPU：RTX 2060 6G
CPU：AMD R7 4800H
MEM：DDR4 3200 8x2 16G
Docker Server Version: 25.0.2
准备工作
安装docker脚本，使用root权限，需要联网
#!/bin/bash
curl -fsSL http://mirrors.aliyun.com/docker-ce/linux/ubuntu/gpg | sudo apt-key add -
sudo add-apt-repository "deb [arch=amd64] http://mirrors.aliyun.com/docker-ce/linux/ubuntu $(lsb_release -cs) stable"
apt update
#安装指定版本 这里我选择25.2版本，使用稍微靠后一点的版本，稳定性更好
apt-get install docker-ce=5:25.0.2-1~ubuntu.20.04~focal
apt-mark hold docker-ce docker-ce-cli
# docker 要使用gpu设备需要安装驱动
curl -s -L https://nvidia.github.io/nvidia-container-runtime/gpgkey | sudo apt-key add -
curl -s -L https://nvidia.github.io/nvidia-container-runtime/$distribution/nvidia-container-runtime.list | sudo tee /etc/apt/sources.list.d/nvidia-container-runtime.list
sudo apt-get update
sudo apt-get install nvidia-container-runtime
#安装二进制包docker-compose
wget https://ghfast.top/https://github.com/docker/compose/releases/download/v2.27.3/docker-compose-linux-x86_64
chmod +x docker-compose-linux-x86_64
mv docker-compose-linux-x86_64 /usr/local/bin/docker-compose
mkdir /etc/docker/
#写入镜像加速配置
sudo tee /etc/docker/daemon.json <<-'EOF'
{
"registry-mirrors": [
"https://docker.m.daocloud.io",
"https://docker.1ms.run",
"https://docker-0.unsee.tech",
"https://docker.hlmirror.com",
"https://func.ink"
]
}
EOF
systemctl daemon-reload
systemctl enable docker
systemctl start docker
systemctl status docker
拉取镜像
# web前端服务
docker pull ghcr.io/open-webui/open-webui:main
# ollama服务
docker pull ollama/ollama:0.5.7
编排文件
#创建网络
docker network create --subnet 172.20.0.0/16 ollama-net
#创建目录
mkdir {ollamadeamon,ollamawebui}
#目录结构如下，将下面给出的文件写入docker-compose.yaml
luobozi@lenoud:~/docker$ tree -L 2
├── ollamadeamon
│ └── docker-compose.yaml #ollamadeamon目录下docker-compose.yaml文件
├── ollamawebui
│ ├── docker-compose.yaml #ollamawebui目录下docker-compose.yaml文件
ollamadeamon-docker-compose.yaml
version: "3.3"
services:
ollama:
image: ollama/ollama:0.5.7
container_name: ollama-deamon
hostname: ollama-deamon
restart: unless-stopped
ports:
- 11434:11434
networks:
- ollama-net
tty: true
volumes:
- ./data:/root/.ollama
deploy:
# 添加 GPU 资源配置
resources:
reservations:
devices:
- capabilities:
- gpu
environment:
# 可选：设置 CUDA 环境变量
- NVIDIA_VISIBLE_DEVICES=all # 使容器可以访问所有 GPU
- NVIDIA_DRIVER_CAPABILITIES=compute,utility # 启用计算和工具功能
networks:
ollama-net:
external: true
ollamawebui-docker-compose.yaml
version: "3.3"
services:
open-webui:
image: ghcr.io/open-webui/open-webui:main
container_name: ollama-webui
hostname: ollama-webui
restart: unless-stopped
networks:
- ollama-net
ports:
- 3000:8080
extra_hosts:
- host.docker.internal:host-gateway
volumes:
- ./data:/app/backend/data
environment:
- ENABLE_OPENAI_API=False
- ENABLE_RAG_WEB_SEARCH=True
- RAG_WEB_SEARCH_ENGINE="duckduckgo"
- RAG_WEB_SEARCH_RESULT_COUNT=3
- RAG_WEB_SEARCH_CONCURRENT_REQUESTS=10
networks:
ollama-net:
external: true
启动容器
进入对应的docker-compose.yaml文件所在目录下运行命令启动容器
cd ./ollamadeamon
docker-compose up -d
cd ../ollamawebui
docker-compose up -d
拉取deepseek模型
#进入容器
docker exec -it ollama-deamon bash
#拉取14b模型，按照你的配置和需要拉取即可
ollama pull deepseek-r1:14b
#下载好后，运行模型
ollama run deepseek-r1:14b
访问本地前端
访问 http://localhost:3000，设置用户名和密码
选择下载好的模型使用即可
8b模型使用示例
前端代码预览
整体回答
推导过程
GPU 使用情况
