论坛
潜水/灌水快乐,沉淀知识,认识更多同行。
ToB圈子
加入IT圈,遇到更多同好之人。
朋友圈
看朋友圈动态,了解ToB世界。
ToB门户
了解全球最新的ToB事件
博客
Blog
排行榜
Ranklist
文库
业界最专业的IT文库,上传资料也可以赚钱
下载
分享
Share
导读
Guide
相册
Album
记录
Doing
搜索
本版
文章
帖子
ToB圈子
用户
免费入驻
产品入驻
解决方案入驻
公司入驻
案例入驻
登录
·
注册
只需一步,快速开始
账号登录
立即注册
找回密码
用户名
Email
自动登录
找回密码
密码
登录
立即注册
首页
找靠谱产品
找解决方案
找靠谱公司
找案例
找对的人
专家智库
悬赏任务
圈子
SAAS
ToB企服应用市场:ToB评测及商务社交产业平台
»
论坛
›
容器及微服务
›
容器及微服务
›
手把手教你摆设 DeepSeek 当地模型
手把手教你摆设 DeepSeek 当地模型
南七星之家
金牌会员
|
2025-2-12 07:35:56
|
显示全部楼层
|
阅读模式
楼主
主题
880
|
帖子
880
|
积分
2642
本文目标:摆设 DeepSeek 当地模型,并通过 Ollama 提供 API 支持,Chatbox 提供 UI 界面。
原则:不搞那些高深的玩法,让小白也能理解并真正的上手实践。
1.下载Ollama并安装运行DeepSeek
2.下载Chatbox并配置为当地DeepSeek
3.无需联网也能和DeepSeek畅快谈天
1.下载Ollama并安装运行DeepSeek
从Ollama官方网站下载Ollama:
https://ollama.com/
进入Ollama官方网站后,可以看到Ollama已经支持DeepSeek-R1的摆设:
点击DeepSeek-R1的链接可以看到有关deepseek-r1的具体介绍:
目前deepseek-r1模型巨细提供了7个选择:1.5b、7b、8b、14b、32b、70b、671b。
由于我笔记本的显卡配置较低,所以这里只能选择最小的1.5b模型来做演示:
你可以根据你的硬件环境选择,通常模型巨细(参数量)越大,模型的理解和生成能力越强,但也会斲丧更多的计算资源。
点击Download按钮下载符合本身平台的Ollama:
我这里选择macOS,点击下载。
下载文件巨细不到200M,文件名为:Ollama-darwin.zip。
解压后打开Ollama应用步伐,提示:
点击Install安装ollama。
按照提示,打开终端,使用 Command + Space 快捷键调用 terminal:
这里Ollama默认给出的例子是下载/运行llama3.2大模型,
我们这里不使用这个llama3.2模型,直接下载/运行deepseek,参数选择最小的1.5b,在终端窗口运行下面命令:
ollama run deepseek-r1:1.5b
复制代码
jingyuzhao@jingyuzhao-mac ~ % ollama run deepseek-r1:1.5b
pulling manifest
pulling manifest
pulling manifest
pulling manifest
pulling manifest
pulling manifest
pulling aabd4debf0c8... 100% ▕████████████████████████████████████████▏ 1.1 GB
pulling 369ca498f347... 100% ▕████████████████████████████████████████▏ 387 B
pulling 6e4c38e1172f... 100% ▕████████████████████████████████████████▏ 1.1 KB
pulling f4d24e9138dd... 100% ▕████████████████████████████████████████▏ 148 B
pulling a85fe2a2e58e... 100% ▕████████████████████████████████████████▏ 487 B
verifying sha256 digest
writing manifest
success
>>> Send a message (/? for help)
复制代码
这里就直接可以和DeepSeek对话了:
>>> Hi! Who are you?
<think>
</think>
Hi! I'm DeepSeek-R1, an artificial intelligence assistant created by DeepSeek. I'm at your service
and would be delighted to assist you with any inquiries or tasks you may have.
>>> 你好,你是谁?
<think>
</think>
你好!我是DeepSeek-R1,一个由深度求索公司开发的智能助手。我擅长通过思考来帮您解答复杂的数学,代码和
逻辑推理等理工类问题。 Feel free to ask me anything you'd like me to know!
>>> Send a message (/? for help)
复制代码
2.下载Chatbox并配置为当地DeepSeek
Chatbox官方网站:
https://chatboxai.app/en
我这里还是Intel-based的MAC,
下载的Chatbox-1.9.7.dmg,巨细100M多点,点击安装,按下面提示拖到Applications内:
注意,这里我故意选错成DeepSeek API,这也是初学者常常会选错的,实际上,若选择这个你就找不到你当地的DeepSeek模型。
实际正确应该选择OLLAMA API,然后就可以看到我们上一步安装好的deepseek-r1:1.5b。
3.无需联网也能和DeepSeek畅快谈天
配置好DeepSeek当地模型之后,就可以实如今断网环境下自由问答了,比如,此刻我正在写这篇文章,于是就问他帮我想几个备选的标题:
我正在写一篇文章,我起的名字是“手把手教你部署 DeepSeek 本地模型”。请你帮我重新生成10个吸引眼球的标题供我选择。
复制代码
他真的迅速给我起了10个吸引眼球的标题,还提供了它思考的过程,而且在我这4年前的电脑上跑起来都很迅速。
嗯,真的很赞!不过我还是决定用本身最初想的朴实标题,不做标题党了。
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
本帖子中包含更多资源
您需要
登录
才可以下载或查看,没有账号?
立即注册
x
回复
使用道具
举报
0 个回复
倒序浏览
返回列表
快速回复
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
or
立即注册
本版积分规则
发表回复
回帖并转播
回帖后跳转到最后一页
发新帖
回复
南七星之家
金牌会员
这个人很懒什么都没写!
楼主热帖
详讲Java开发中的六个常用API(Math,S ...
MySQL并行复制(MTS)原理(完整版) ...
鸿蒙到底是不是安卓?
BOS EDI 项目 Excel 方案开源介绍 ...
【K8S】K8S入门基础知识
软件项目管理 3.5.敏捷生存期模型 ...
译:SQLServer 事务复制延迟诊断 ...
java中Collections.addAll方法具有什么 ...
保姆级教程!玩转 ChunJun 详细指南 ...
给技术新人的ODPS优化建议
标签云
挺好的
服务器
快速回复
返回顶部
返回列表