论坛
潜水/灌水快乐,沉淀知识,认识更多同行。
ToB圈子
加入IT圈,遇到更多同好之人。
朋友圈
看朋友圈动态,了解ToB世界。
ToB门户
了解全球最新的ToB事件
博客
Blog
排行榜
Ranklist
文库
业界最专业的IT文库,上传资料也可以赚钱
下载
分享
Share
导读
Guide
相册
Album
记录
Doing
搜索
本版
文章
帖子
ToB圈子
用户
免费入驻
产品入驻
解决方案入驻
公司入驻
案例入驻
登录
·
注册
只需一步,快速开始
账号登录
立即注册
找回密码
用户名
Email
自动登录
找回密码
密码
登录
立即注册
首页
找靠谱产品
找解决方案
找靠谱公司
找案例
找对的人
专家智库
悬赏任务
圈子
SAAS
IT评测·应用市场-qidao123.com
»
论坛
›
软件与程序人生
›
DevOps与敏捷开发
›
使用 Docker 安装 Open WebUI 并集成 Ollama 的 DeepSee ...
使用 Docker 安装 Open WebUI 并集成 Ollama 的 DeepSeek 模型
星球的眼睛
金牌会员
|
2025-3-5 09:52:40
|
显示全部楼层
|
阅读模式
楼主
主题
683
|
帖子
683
|
积分
2049
使用 Docker 安装 Open WebUI 并集成 Ollama 的 DeepSeek 模型
在本教程中,我们将引导您怎样使用 Docker 安装 Open WebUI,并将其与 Ollama 的 DeepSeek 模型集成。这种方法可以简化摆设过程,并确保情况的同等性。
条件条件
操作系统
:Windows、macOS 或 Linux
硬件要求
:建议至少有 16GB 内存。如果要运行更大的模型,须要更多的内存。
**显存要求:**deepseek:1.5b须要2G显存,8b须要6.9G显存,14b须要11G显存。如下图
已安装 Docker
:如果尚未安装,请参考 Docker 官方文档 进行安装。
本文基于win11操作系统。
1. 安装ollama
进入ollama官网,下载对应的客户端
ollama官网:https://ollama.com/
2. 拉取deepseek的模型
进入如下网站,拉取不同的deepseek模型:
deepseek模型:https://ollama.com/library/deepseek-r1
默认拉取的是7b模型
ollama run deepseek-r1
复制代码
1.5b模型
ollama run deepseek-r1
:1.5b
复制代码
14b模型
ollama run deepseek-r1
:14b
复制代码
r1背面的数字就是对应不同的参数模型,其他模型可拜见官网代码。
使用如下下令查察模型是否已经存在:
ollama list
复制代码
3. Open-WebUI 说明
open-webui堆栈:https://github.com/open-webui/open-webui
访问上述网站,可以查察更多的open-webui详细说明。
虽说可以通过conda新建虚拟情况安装,但照旧推荐使用Docker安装。
open-webui的文档说明:https://docs.openwebui.com/
4. 启动容器
文档的方法如下
如果你电脑安装了ollama,不使用gpu,使用如下下令:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
复制代码
为了应用支持Nvidia GPU的open webui,使用如下下令:
docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda
复制代码
参数
作用
-d让容器背景运行-p 3000:8080把宿主机 3000 端口映射到容器的 8080 端口--gpus all允许容器使用 GPU(需 NVIDIA 装备)--add-host=host.docker.internal:host-gateway让容器能访问宿主机-v open-webui:/app/backend/data恒久化存储 Open-WebUI 数据--name open-webui给容器定名为 open-webui--restart always让容器在瓦解或重启后自动规复ghcr.io/open-webui/open-webui:cuda使用 Open-WebUI
CUDA 版本
镜像
优化下令(可选)
启用支持GPU的open webui,并增加康健查抄:
docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway --health-cmd "curl -fsSL http://localhost:8080 || exit 1" --health-interval 60s --health-retries 5 --health-timeout 20s --health-start-period 60s --restart=always -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:cuda
复制代码
1. 增加了康健查抄机制(--health-cmd)
问题
(基础版):
仅依靠 --restart=always,Docker 只有在容器
完全瓦解
时才会重启它。
如果 Web 服务挂掉了(但容器仍然运行),Docker 无法检测到
,导致 WebUI 看似“正常运行”,但实际上用户无法访问。
优化
(改进版):
通过 --health-cmd "curl -fsSL http://localhost:8080 || exit 1",
每 60 秒查抄一次 API 是否存活
,确保 WebUI
真正可用
。
如果 API 失去相应,Docker 会自动将容器标志为 unhealthy
,并可能触发重启。
2. 使 WebUI 服务更稳定
问题
(基础版):
由于
没有康健查抄
,如果 WebUI 进程瓦解但容器仍在运行,Docker
不会检测到问题
,用户可能无法访问 WebUI。
优化
(改进版):
结合 HEALTHCHECK 和 --restart=always
:
Web 服务非常 →
康健查抄失败
→
容器被标志 unhealthy
可以手动查抄问题
,或使用外部监控工具观察容器状态。
3. 避免容器启动时的误报(--health-start-period 60s)
问题
(基础版):
容器刚启动时,WebUI 可能还没完全停当
,如果立即运行康健查抄,可能会误判它“宕机”并触发不须要的重启。
优化
(改进版):
添加 --health-start-period 60s
,启动后 60 秒内不执行康健查抄,
避免因启动时间较长导致误判
。
4. 更灵活的康健查抄配置
参数
基础版
优化版(改进点)
作用
--health-cmd❌ 无✅ curl -fsSL http://localhost:8080--health-interval 60s❌ 无✅ 60 秒检测一次定期查抄 WebUI 是否存活--health-retries 5❌ 无✅ 允许 5 次失败避免短暂波动导致误判--health-timeout 20s❌ 无✅ 每次查抄最长等待 20 秒适应 WebUI 可能的相应延迟--health-start-period 60s❌ 无✅ 60 秒后才开始查抄避免容器刚启动时误判
本帖子中包含更多资源
您需要
登录
才可以下载或查看,没有账号?
立即注册
x
回复
使用道具
举报
0 个回复
倒序浏览
返回列表
快速回复
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
or
立即注册
本版积分规则
发表回复
回帖并转播
回帖后跳转到最后一页
发新帖
回复
星球的眼睛
金牌会员
这个人很懒什么都没写!
楼主热帖
体系集成项目招标要诀
Java项目:基于SSM框架实现的康健综合 ...
微调神器LLaMA-Factory官方保姆级教程 ...
防止邮箱发信泄露服务器IP教程 ...
CMake构建学习笔记11-minizip库的构建 ...
Ubuntu上安装Chrome浏览器
第三篇【传奇开心果系列】Python的自动 ...
若依——后端多表联查(实用于只查询) ...
G7易流赋能化工物流,实现安全、环保与 ...
这么好的政策和创新基地,年轻人有空想 ...
标签云
AI
运维
CIO
存储
服务器
浏览过的版块
Postrge-SQL技术社区
移动端开发
Oracle
人工智能
物联网
备份
IOS
网络安全
Java
快速回复
返回顶部
返回列表