在 AutoDL 上部署 Ollama + DeepSeek-R1 + Open-WebUI 的倒腾记载

这段时间实行室想部署一个本身的DeepSeek，但是手边目前没有服务器，于是想在 AutoDL 上先倒腾一下试试。
这篇主要就是整理一下操作的步调，省的过阵子全忘掉了又要重新倒腾。
  前面安装 Ollama 的部分主要是参考了这篇：云服务器+ Ollama 部署 DeepSeek-R1 保姆级教程（图文并茂版）
然后使用pip安装Open-WebUI的步调主要参考了这篇：Ollama WebUI 安装使用（pip 版）
在此谢过各位大佬的履历。
0. 前置操作

• 更新一下apt源并更新
  

1. sudo apt-get update && sudo apt-get upgrade -y

复制代码

• 安装须要的工具
  

1. sudo apt-get install -y wget curl git pciutils lshw

复制代码

1. 安装 Ollama

执行命令安装 Ollama（假如有魔法会快一点）

1. curl -fsSL https://ollama.com/install.sh | sh

复制代码

2. 更改 Ollama 模型路径

AutoDL 的体系盘给了 30G，在后续要部署 Open WebUI的时间大概会出现空间不够的标题，所以把模型下载到数据盘上。
这里假设新的模型路径为：/root/autodl-tmp/ollama/models

• 添加情况变量
  

1. export OLLAMA_MODELS="/root/autodl-tmp/ollama/models"
2. export CUDA_VISIBLE_DEVICES=0,1,2 # 如果有多张显卡（按照自己的显卡数来填）
3. export OLLAMA_SCHED_SPREAD=1 # 如果有多张显卡

复制代码

• 启动 Ollama 服务
  之前在安装Ollama时，由于在 AutoDL 中没有 systemd，会报systemd not running警告，手动启动 Ollama 服务：
  

1. nohup ollama serve > /dev/null 2>&1 &

复制代码

3. 拉取模型

这里可以按照本身的需求从Ollama、Hugging Face等渠道拉取模型，这里以拉去deepseek-r1:32b为例：

1. ollama run deepseek-r1:32b

复制代码

等候漫长的下载后，就可以使用大模型了。
2025/02/22更新： 网络情况欠好的话可以尝试一下从 ModelScope 拉取模型，按照官方给的文档来说拉取命令如下：

1. ollama run modelscope.cn/{model-id}

复制代码

{model-id}可以在 ModelScope 上直接复制。
4. 安装 Open-WebUI

目前虽然DeepSeek已经部署完毕了，但是只可以或许使用命令行，不是很方便。安装 Open-WebUI 来提供一个方便使用的前端。
因为本身AutoDL好像已经是Docker了，所以这里使用pip来安装 Open-WebUI。

• 创建并进入 Conda 情况
  

1. conda create -n open-webui python=3.11
2. conda activate open-webui

复制代码

• 使用pip安装Open-WebUI
  

1. pip install open-webui

复制代码

也是履历漫长的等候，完成安装。

• 使用SSH代理到云服务器
  这里可以下载官方提供的小工具，将指令和密钥填进去就好。或者可以自行用其他方式代理，这里我没研究过。
  
• 启动 Open-WebUI 服务
  根据 AutoDL 的指示，必要将端口配置为6006，启动 Open-WebUI 服务
  

1. open-webui serve --port 6006

复制代码

• 然后就可以在本地访问了，剩下的部分就自行调整吧
  

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。