Open WebUI + Ollama 摆设LLM大模型,实战教程

打印 上一主题 下一主题

主题 900|帖子 900|积分 2700

Open WebUI地址:https://github.com/open-webui/open-webui
Open WebUI 是一个可扩展、功能丰富且用户友好的自托管网页用户界面(WebUI),设计旨在完全离线运行。它支持多种大型语言模型(LLM)运行器,包括 Ollama 和兼容 OpenAI 的 API。以下是 Open WebUI 的主要特点:
主要功能



  • 简便安装:通过 Docker 或 Kubernetes(支持 kubectl、kustomize 和 helm)实现无缝安装,支持 llama 和 :cuda 标签的镜像,确保轻松上手。
  • Ollama/OpenAI API 集成:轻松集成兼容 OpenAI 的 API,支持与 Ollama 模型进行多样化对话。可自界说 OpenAI API URL,链接 LMStudio、GroqCloud、Mistral、OpenRouter 等平台。
  • 插件支持与流水线:利用 Pipelines 插件框架,将自界说逻辑和 Python 库无缝集成到 Open WebUI 中。支持功能调用、用户速率限制、使用

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

北冰洋以北

金牌会员
这个人很懒什么都没写!

标签云

快速回复 返回顶部 返回列表