IT评测·应用市场-qidao123.com

标题: 【大模型对话 的界面搭建-Open WebUI】 [打印本页]

作者: 王柳    时间: 2025-2-25 15:03
标题: 【大模型对话 的界面搭建-Open WebUI】
Open WebUI 前身就是 Ollama WebUI,为 Ollama 提供一个可视化界面,可以完全离线运行,支持 Ollama 和兼容 OpenAI 的 API。
  github网址
  1. https://github.com/open-webui/open-webui
复制代码
安装

第一种 docker安装

假如ollama 安装在同一台服务器上:
  1. docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
复制代码
假如不在同一台服务器上:
  1. docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=https://example.com -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
复制代码
假如有NVIDIA的GPU:
  1. docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda
复制代码
另有一些安装细节,可以参考https://docs.openwebui.com/ 查看
其他安装方法

pip

注意这个有版本要求:
Python 3.11 is required for this method
安装
  1. pip install open-webui
复制代码
利用:
  1. open-webui serve
复制代码
从open webui的github repo

要求:
   




欢迎光临 IT评测·应用市场-qidao123.com (https://dis.qidao123.com/) Powered by Discuz! X3.4