ubuntu上应用ollama
一、安装
1、ollama自动安装
打开官网Ollama
linux统一采用sh脚本安装,执行上面复制的命令
curl -fsSL https://ollama.com/install.sh | sh
linux安装Ollama的方法默认为Linux安装指令在线安装,但有时会因为安装所在机器的网络问题无法安装成功,此处就需要使用手动方式安装。
2、ollama手动安装
①获取安装包
通过上github到Ollama仓库下载离线版的Ollama程序包,intel与amd CPU的机器选择amd版,arm的机器选择arm版,下载地址为:Releases · ollama/ollama
这里我直接分享已经下载好的,大家自取
通过网盘分享的文件:ollama-linux-amd64.tgz
链接: https://pan.baidu.com/s/1bMabOKjqIMqlYTkAqqJ-bg?pwd=1111 提取码: 1111
②上传安装包到linux服务器,比如我将安装包放在/root目录下
进入目录,创建ollama文件夹,将安装包解压至/root/ollama文件夹下
cd /root
mkdir ollama
tar -zxf ollama-linux-amd64.tgz -C /root/ollama
③创建ollama.service文件并配置内容
vi /etc/systemd/system/ollama.service
配置内容,注意目录地址
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/root/ollama/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3
Environment="PATH=$PATH"
#指定模型存储位置,可以直接在外网下载好模型,打包解压到内网的ollama的模型目录下,就能实现离线安装了
Environment="OLLAMA_MODELS=/root/ollama/models"
#解决ollama无法访问的问题
Environment="OLLAMA_HOST=192.168.0.224:11434