络腮胡菲菲 发表于 2025-3-2 01:47:48

DeepSeek---手摸手教你在macOS环境中当地部署DeepSeek大模型

克日发布的DeepSeek大模型可谓是震惊了业界,博主也跟风下载了app进行了体验,奈何访问太火爆了,导致服务器一度瓦解,于是乎决定当地mac部署下deepseek尝尝鲜~
方式一:

Ollama + open-webui
Ollama下载地址:https://ollama.com
Step 1:点击Models
https://i-blog.csdnimg.cn/direct/c2a0098ba2e74a59a0d46032103bf653.png
Step 2:选择deepseek-r1模型
https://i-blog.csdnimg.cn/direct/77690467bfce4be098113418627b0de1.png
Step 3:选参数版本
https://i-blog.csdnimg.cn/direct/b58977683f6a453f8c6fb5f9c6770afb.png
注:参数根据自己的电脑配置自行选择参数,参数越大,对电脑配置的要求就越高,下面我用7b进行一个举例
复制代码 ollama run deepseek-r1:7b
https://i-blog.csdnimg.cn/direct/877ee2d8fbb8437abed3228982916e05.png
Step 4:打开当地终端执行下载


[*]sudo ollama run deepseek-r1:7b
[*]输入密码进行下载
https://i-blog.csdnimg.cn/direct/240e7c7bc05e4370a406e1aa1ef6f5e3.png
[*]下载完成报success,即部署完成,可在命令行中跟deepseek进行对话
https://i-blog.csdnimg.cn/direct/fff318bfe1b148c0a9f33d1c0e6b2708.png
虽可进行对话,但对话的界面不敷精美,要是想做到跟ChatGPT一样的页面交互效果,那就需要安装open-webui
Step5:安装open-webui & docker


[*]安装docker(如已安装docker,请忽略该步骤)
docker下载地址:https://www.docker.com/
根据电脑芯片选择对应版本下载即可


[*]安装运行 open-webui
访问github官网。搜索open-webui,点击进入
https://i-blog.csdnimg.cn/direct/33e32702f2c346eda3ab1c291b6c4ee8.png
找到how to Install
https://i-blog.csdnimg.cn/direct/4ffee6e8ddfc4a7c9d58e19328415c9c.png
https://i-blog.csdnimg.cn/direct/87b6a11eab334a64b0a87e480750ce42.png
复制上述代码:通过管理员身份执行 sudo docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
等候下载完成后,电脑右上角点击docker图标,点击 Goto the dashboard进入控制台,即可看见open-webui安装成功,点击Port(s)中的端口即可打开对话页面
https://i-blog.csdnimg.cn/direct/eabef0050f044056a87b121aca8b7e9a.png
在可视化对话页面的左上角即可选择不同的大模型,部署完成~
https://i-blog.csdnimg.cn/direct/d13b29ae277a47869d68c0864a12a4f1.png
方式二:(可联网搜索)

Ollama + 浏览器插件(Page Assist)
Ollama安装参考方式一即可,
问:Page Assist是干什么的?
答:官方的解释是——使用当地运行的 AI 模型来辅助您的网络浏览。利用您当地运行的AI模型,在浏览网页时进行交互,或者作为当地AI模型提供者(如Ollama、Chrome AI等)的网页界面。
说白了就是不需要安装docker和Python环境即可进行可视化交互操作
该插件支持的环境如下:
https://i-blog.csdnimg.cn/direct/713d1d6b61c846df9ddce41d19f71a59.png
下面我拿最主流的Chrome浏览器来举例子(其他浏览器的插件安装原理类似):
1、科学上网,访问谷歌应用商店 https://chromewebstore.google.com/
2、在商店中搜索 Page Assist
https://i-blog.csdnimg.cn/direct/5b67ab0f06a241f0890825a91b65dbaa.png
3、安装完成后点击插件logo即可打开可视化界面
4、点击界面右上角的齿轮按钮进行嵌入模型的选择,并保存
https://i-blog.csdnimg.cn/direct/68438e6c9c6d4620966db664b90964fb.png
5、配置完成,开始尽情享受你的AI之旅吧(小贴士:Ollama服务必须先启动起来,否则会报错!)
https://i-blog.csdnimg.cn/direct/423e645a0f354464b36087599d4c4c8f.png

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
页: [1]
查看完整版本: DeepSeek---手摸手教你在macOS环境中当地部署DeepSeek大模型