论坛
潜水/灌水快乐,沉淀知识,认识更多同行。
ToB圈子
加入IT圈,遇到更多同好之人。
朋友圈
看朋友圈动态,了解ToB世界。
ToB门户
了解全球最新的ToB事件
博客
Blog
排行榜
Ranklist
文库
业界最专业的IT文库,上传资料也可以赚钱
下载
分享
Share
导读
Guide
相册
Album
记录
Doing
应用中心
搜索
本版
文章
帖子
ToB圈子
用户
免费入驻
产品入驻
解决方案入驻
公司入驻
案例入驻
登录
·
注册
账号登录
立即注册
找回密码
用户名
Email
自动登录
找回密码
密码
登录
立即注册
首页
找靠谱产品
找解决方案
找靠谱公司
找案例
找对的人
专家智库
悬赏任务
圈子
SAAS
qidao123.com技术社区-IT企服评测·应用市场
»
论坛
›
软件与程序人生
›
前端开发
›
Deepseek当地部署+联网教程:Ollama+OpenWebUI+博查 ...
Deepseek当地部署+联网教程:Ollama+OpenWebUI+博查
灌篮少年
论坛元老
|
2025-2-13 02:52:56
|
来自手机
|
显示全部楼层
|
阅读模式
楼主
主题
1637
|
帖子
1637
|
积分
4911
马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。
您需要
登录
才可以下载或查看,没有账号?
立即注册
x
博查 X Ollama github链接:https://github.com/BochaAI/open-webui-Bocha
博查开放平台(https://open.bochaai.com/)
博查介绍
博查是一个给AI用的天下知识搜索引擎,它可以让你的AI应用连接天下知识,获得干净、准确、高质量的搜索结果。
博查AI开放平台提供Web Search API、Semantic Reranker API等搜索服务,让你的AI应用可以通过API接口直接连接互联网,从近百亿网页和生态内容源中搜索高质量天下知识,包括新闻、图片、视频、百科、机酒、学术等。
博查底层基于多模态混淆搜索与语义排序技术的新一代搜索引擎,实用于 AI Agents、AI Chatbots、AI Search 以及各类 RAG 应用的线上应用或数据冷启动。博查在数据安全、成本控制及内容合规性方面表现杰出,确保数据不出海并符合国内安全规范。
Ollama当地部署
Ollama介绍
Ollama是一款专门设计用于在当地环境中部署和定制大型语言模型的工具。它通过提供一个简便且高效的接口,简化了创建、运行及管理这些模型的过程。此外,Ollama还拥有一个内容丰富的预构建模型库,便于用户将其轻松集成至不同的应用中。其核心目的在于让不论是开发者还是终端用户,在与大型语言模型举行交互或部署这些模型时,都能体验到前所未有的简便性。
下载地址
macOS: https://ollama.com/download/Ollama-darwin.zip
Windows: https://ollama.com/download/OllamaSetup.exe
Linux:
curl -fsSL https://ollama.com/install.sh | sh
复制代码
以windows为例,打开OllamaSetup.exe,完成ollama的安装过程
打开终端,输入以下下令 来查验Ollama是否已精确安装,若精确安装则会出现下列输出:
ollama
复制代码
模型选择与下载
Ollama 支持在 ollama.com/library 上提供的模型列表。
以deepseek-r1为例,Ollama支持多种巨细的模型选择,在下图1处选取模型巨细后,只需要复制2处的指令,在下令行输入即可下载并运行该模型
Ollama的各种指令
ollama serve用于在不运行桌面应用程序的环境下启动 Ollama。
下载大模型或者更新当地大模型:如ollama pull deepseek-r1:1.5b可下载deepseek-r1的1.5B巨细的模型
ollama pull [本地/远程仓库模型名称]
复制代码
下载且运行当地大模型(若已下载,则直接运行):
ollama run [本地/远程仓库模型名称]
复制代码
<img alt="" height="56" src="https://i-blog.csdnimg.cn/direct/6a53b7235be1474f8bd546b58184e6c7.png" width="453" />
复制代码
展示当地大模型列表:
ollama list<img alt="" height="70" src="https://i-blog.csdnimg.cn/direct/c9b1b8a5a7df4bf0b7754ee317d8de5c.png" width="524" />
复制代码
删除单个当地大模型:如ollama rm deepseek-r1:1.5b
ollama rm [本地模型名称]
复制代码
检察当地运行中模型列表:
ollama ps
复制代码
复制当地大模型:
ollama cp [本地存在的模型名] [新复制模型名]
复制代码
利用下令行的Ollama指令来利用Deepseek
以deepseek-r1的1.5B巨细的模型为例,ollama run deepseek-r1:1.5b运行程序
ollama run deepseek-r1:1.5b
复制代码
直接在下令行中输入你好
多行输入:对于多行输入,你可以用 """ 包裹文本,逐行输入:
"""Hello,
... world!
... """
复制代码
若退出程序,可以利用ctrl+d或者输入/bye来退出程序
更多详细Ollama利用指南如自界说模型等请参考官方文档 更加直观和友好的交互设计,利用户操作更为便捷和高效,我们将部署一个Web可视化谈天界面。
Open-WebUI当地部署
Open WebUI是一个完全离线操作的、可扩展的、功能丰富的用户友好型自托管AI平台。它支持多种LLM运行器,如Ollama和与OpenAI兼容的API,并内置了针对RAG的推理引擎,使其成为一个强大的AI部署解决方案。
Bocha AI插件为Ollama WebUI提供的增强功能:通过实时网络搜索提升您的大型语言模型(LLM)
Bocha的主要特点⭐
回复
使用道具
举报
0 个回复
倒序浏览
返回列表
快速回复
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
or
立即注册
本版积分规则
发表回复
回帖并转播
回帖后跳转到最后一页
发新帖
回复
灌篮少年
论坛元老
这个人很懒什么都没写!
楼主热帖
【靶场】THM-Pickle Rick-练习
每日算法之二叉搜索树的后序遍历序列 ...
【邂逅Django】——(一)创建项目 ...
SAP WM高阶之下架策略M(Small Large Qu ...
Dubbo原理解析(非常透彻)
【WinUI3】ListView / GridView 学习总 ...
JDBC核心技术
docker报错:Docker Desktop - WSL dis ...
线程池
K3S系列文章-使用AutoK3s在腾讯云上安 ...
标签云
渠道
国产数据库
集成商
AI
运维
CIO
存储
服务器
浏览过的版块
人工智能
快速回复
返回顶部
返回列表