Linux系统利用ollama本地安装部署DeepSeekR1 + open-webui

Linux系统利用ollama本地安装部署DeepSeekR1 + open-webui

1. 首先，下载安装ollama

1. #下载安装脚本并执行
2. curl -fsSL https://ollama.com/install.sh | sh
3. #安装完成后查看ollama版本
4. ollama --version

复制代码

2. 利用ollama下载deepseek

1. #不同的参数规格对硬件有不同的要求，这里使用7b、个人电脑资源有限可以使用1.5b
2. ollama run deepseek-r1:7b

复制代码

网络不好执行上面ollama run deepseek-r1:7b命令会非常慢、下载速率会越来越慢
这里提供一个脚本、每隔60s取消然后继续下载（会按照之前下载的进度继续下载）

1. #!/bin/bash
2. DeepSeekModel="deepseek-r1:7b"
4. while true; do
5.     # 判断是否下载完成
6.     DeepSeekModelExist=$(ollama list | grep "$DeepSeekModel")
8.     if [ -n "$DeepSeekModelExist" ]; then
9.         echo "$DeepSeekModel已下载完成"
10.         break
11.     fi
13.     echo "开始下载模型$DeepSeekModel"
14.     # 在后台启动进程
15.     #nohup ollama run $DeepSeekModel >> nohup.log 2>&1 &
16.     ollama run $DeepSeekModel &
17.     # $!获取最近一次在后台执行的进程（即通过在命令末尾添加&符号来使其在后台运行）的进程ID（PID）
18.     processId=$!
19.     echo "进程id为：$processId"
20.    
21.     sleep 60
23.     # 检测进程是否存在
24.     if kill -0 $processId 2>/dev/null; then
25.         # 杀死进程
26.         kill -9 $processId
27.         echo "杀死进程、重新下载模型"
28.     else
29.         echo "进程id不存在、模型可能下载完成"
30.     fi
31. done

复制代码

3. 下载open-webui

模型下载好之后就可以在命令行中举行对话，但是如许看起来不太好看，我们可以利用开源的open-webui来做展示

这里利用docker安装open-webui
没有docker需要先安装docker

1. ##安装docker
2. #安装依赖
3. yum install -y yum-utils device-mapper-persistent-data lvm2
4. #设置阿里云的docker yum源
5. yum-config-manager --add-repo https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
6. #安装docker
7. yum install -y docker-ce docker-ce-cli containerd.io
8. #启动docker并设置开机自启
9. systemctl start docker
10. systemctl enable docker
11. #查看docker版本
12. docker --version
14. mkdir -p /etc/docker
15. tee /etc/docker/daemon.json <<EOF
16. {
17.     "registry-mirrors": [
18.         "https://docker.1ms.run",
19.         "https://docker.xuanyuan.me",
20.     ]
21. }
22. EOF
23. systemctl daemon-reload
24. systemctl restart docker

复制代码

下载open-webui镜像

1. #下载镜像
2. docker pull ghcr.io/open-webui/open-webui:main
3. #下载完成后、运行容器
4. docker run -d --network=host -e OLLAMA_BASE_URL=http://127.0.0.1:11434 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

复制代码

4. 浏览器访问webui界面

1. #访问地址
2. http://ip:8080
3. #第一次访问时页面加载会很慢、需要耐心等待
4. #可以查看webui容器日志
5. docker logs -f open-webui

复制代码

看到get_all_models()是正常的、等待加载即可

然后在页面举行注册登录就可以了，模型选择deepseek-r1:7b 就可以利用deepseek了

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。