手把手教你摆设 DeepSeek 当地模型
本文目标:摆设 DeepSeek 当地模型,并通过 Ollama 提供 API 支持,Chatbox 提供 UI 界面。原则:不搞那些高深的玩法,让小白也能理解并真正的上手实践。
[*]1.下载Ollama并安装运行DeepSeek
[*]2.下载Chatbox并配置为当地DeepSeek
[*]3.无需联网也能和DeepSeek畅快谈天
https://img2023.cnblogs.com/blog/635610/202502/635610-20250205214811347-1748069224.png
1.下载Ollama并安装运行DeepSeek
从Ollama官方网站下载Ollama:
[*]https://ollama.com/
进入Ollama官方网站后,可以看到Ollama已经支持DeepSeek-R1的摆设:
https://img2023.cnblogs.com/blog/635610/202502/635610-20250205214811504-1044867574.jpg
点击DeepSeek-R1的链接可以看到有关deepseek-r1的具体介绍:
https://img2023.cnblogs.com/blog/635610/202502/635610-20250205214811490-2042520916.jpg
目前deepseek-r1模型巨细提供了7个选择:1.5b、7b、8b、14b、32b、70b、671b。
由于我笔记本的显卡配置较低,所以这里只能选择最小的1.5b模型来做演示:
https://img2023.cnblogs.com/blog/635610/202502/635610-20250205214811300-1394297426.png
你可以根据你的硬件环境选择,通常模型巨细(参数量)越大,模型的理解和生成能力越强,但也会斲丧更多的计算资源。
点击Download按钮下载符合本身平台的Ollama:
https://img2023.cnblogs.com/blog/635610/202502/635610-20250205214811318-1394039628.jpg
我这里选择macOS,点击下载。
下载文件巨细不到200M,文件名为:Ollama-darwin.zip。
解压后打开Ollama应用步伐,提示:
https://img2023.cnblogs.com/blog/635610/202502/635610-20250205214811583-278407829.jpg
https://img2023.cnblogs.com/blog/635610/202502/635610-20250205214811365-1800220886.jpg
https://img2023.cnblogs.com/blog/635610/202502/635610-20250205214811347-1089004642.jpg
点击Install安装ollama。
https://img2023.cnblogs.com/blog/635610/202502/635610-20250205214811550-1406760993.jpg
按照提示,打开终端,使用 Command + Space 快捷键调用 terminal:
https://img2023.cnblogs.com/blog/635610/202502/635610-20250205214811638-1754988517.jpg
这里Ollama默认给出的例子是下载/运行llama3.2大模型,
我们这里不使用这个llama3.2模型,直接下载/运行deepseek,参数选择最小的1.5b,在终端窗口运行下面命令:
ollama run deepseek-r1:1.5bhttps://img2023.cnblogs.com/blog/635610/202502/635610-20250205214811333-987684367.jpg
jingyuzhao@jingyuzhao-mac ~ % ollama run deepseek-r1:1.5b
pulling manifest
pulling manifest
pulling manifest
pulling manifest
pulling manifest
pulling manifest
pulling aabd4debf0c8... 100% ▕████████████████████████████████████████▏ 1.1 GB
pulling 369ca498f347... 100% ▕████████████████████████████████████████▏387 B
pulling 6e4c38e1172f... 100% ▕████████████████████████████████████████▏ 1.1 KB
pulling f4d24e9138dd... 100% ▕████████████████████████████████████████▏148 B
pulling a85fe2a2e58e... 100% ▕████████████████████████████████████████▏487 B
verifying sha256 digest
writing manifest
success
>>> Send a message (/? for help)这里就直接可以和DeepSeek对话了:
>>> Hi! Who are you?
<think>
</think>
Hi! I'm DeepSeek-R1, an artificial intelligence assistant created by DeepSeek. I'm at your service
and would be delighted to assist you with any inquiries or tasks you may have.
>>> 你好,你是谁?
<think>
</think>
你好!我是DeepSeek-R1,一个由深度求索公司开发的智能助手。我擅长通过思考来帮您解答复杂的数学,代码和
逻辑推理等理工类问题。 Feel free to ask me anything you'd like me to know!
>>> Send a message (/? for help)2.下载Chatbox并配置为当地DeepSeek
Chatbox官方网站:
[*]https://chatboxai.app/en
https://img2023.cnblogs.com/blog/635610/202502/635610-20250205214811332-1649700781.jpg
https://img2023.cnblogs.com/blog/635610/202502/635610-20250205214811497-153873065.jpg
我这里还是Intel-based的MAC,
下载的Chatbox-1.9.7.dmg,巨细100M多点,点击安装,按下面提示拖到Applications内:
https://img2023.cnblogs.com/blog/635610/202502/635610-20250205214811430-1994164741.jpg
https://img2023.cnblogs.com/blog/635610/202502/635610-20250205214811672-607665982.jpg
https://img2023.cnblogs.com/blog/635610/202502/635610-20250205214811352-1480779039.jpg
注意,这里我故意选错成DeepSeek API,这也是初学者常常会选错的,实际上,若选择这个你就找不到你当地的DeepSeek模型。
实际正确应该选择OLLAMA API,然后就可以看到我们上一步安装好的deepseek-r1:1.5b。
https://img2023.cnblogs.com/blog/635610/202502/635610-20250205214811628-681728965.jpg
3.无需联网也能和DeepSeek畅快谈天
配置好DeepSeek当地模型之后,就可以实如今断网环境下自由问答了,比如,此刻我正在写这篇文章,于是就问他帮我想几个备选的标题:
我正在写一篇文章,我起的名字是“手把手教你部署 DeepSeek 本地模型”。请你帮我重新生成10个吸引眼球的标题供我选择。https://img2023.cnblogs.com/blog/635610/202502/635610-20250205214811688-60256533.jpg
他真的迅速给我起了10个吸引眼球的标题,还提供了它思考的过程,而且在我这4年前的电脑上跑起来都很迅速。
嗯,真的很赞!不过我还是决定用本身最初想的朴实标题,不做标题党了。
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
页:
[1]