deepseek本地部署-linux
1、官网保举安装方法(使用脚本,我绕不过github,未接纳)登录ollama下载网站https://ollama.com/download/linux,linux下有下载脚本。
https://i-blog.csdnimg.cn/direct/de9b4d79b7c8463d88b0dd0d50f9f55c.png
正常来说,在OS系统下直接执行脚本即可。
2、手动安装方法
2.1获取ollama-linux-arm64.tgz
wget https://ollama.com/download/ollama-linux-arm64.tgz
wget https://ollama.com/download/ollama-linux-amd64.tgz
2.2解压
sudo tar - C /usr -xzf ollama-linux-arm64.tgz
2.3创建用户和组
sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami
2.3创建service文件
vim /etc/systemd/system/ollama.service要是系统没有就本身创建
Description=Ollama Service
After=network-online.target
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
WantedBy=default.target
3、启动ollama服务
sudo systemctl daemon-reload
sudo systemctl enable ollama
sudo systemctl start ollama
sudo systemctl status ollama
https://i-blog.csdnimg.cn/direct/2058d915160d45028147860f7c5b171c.png
4、安装deepseek
4.1选择适合的模型版本
https://i-blog.csdnimg.cn/direct/5786f749b1874c6aafffa94d4021ea50.png
4.2安装模型
4.2.1查询模型安装命令
Ollama
https://i-blog.csdnimg.cn/direct/e23ff14e951a4aebaf32fa538b2faafc.png
https://i-blog.csdnimg.cn/direct/d0644c7378f24ba1ba81a23858a9fa3a.png
https://i-blog.csdnimg.cn/direct/6b4922a130f540e69a2825315485f6ad.png
其他的模型下载也是一样的,可以在这里找到,点进去后直接这里选择你要下载的模型,然后复制即可。
4.2.2输入命令下载运行1.5b版本
# ollama run deepseek-r1:1.5b需要联网情况,下载完成后,就可以对话了
https://i-blog.csdnimg.cn/direct/5f6687cabc08423c913ec6079eea9bdc.png
5、配置可视化界面
如果需要Web或者客户端支持,可以检察GitHub里的保举GitHub - ollama/ollama: Get up and running with Llama 3.3, DeepSeek-R1, Phi-4, Gemma 2, and other large language models.
https://i-blog.csdnimg.cn/direct/196a85db9e72489396a9e9458254040f.png
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
页:
[1]