王柳 发表于 2025-2-25 15:03:31

【大模型对话 的界面搭建-Open WebUI】

Open WebUI 前身就是 Ollama WebUI,为 Ollama 提供一个可视化界面,可以完全离线运行,支持 Ollama 和兼容 OpenAI 的 API。
github网址
https://github.com/open-webui/open-webui
安装

第一种 docker安装

假如ollama 安装在同一台服务器上:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
假如不在同一台服务器上:
docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=https://example.com -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
假如有NVIDIA的GPU:
docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda
另有一些安装细节,可以参考https://docs.openwebui.com/ 查看
其他安装方法

pip

注意这个有版本要求:
Python 3.11 is required for this method
安装
pip install open-webui
利用:
open-webui serve
从open webui的github repo

要求:
   
页: [1]
查看完整版本: 【大模型对话 的界面搭建-Open WebUI】