deepseek本地部署-linux

打印 上一主题 下一主题

主题 900|帖子 900|积分 2700

1、官网保举安装方法(使用脚本,我绕不过github,未接纳)
登录ollama下载网站https://ollama.com/download/linux,linux下有下载脚本。

正常来说,在OS系统下直接执行脚本即可。
2、手动安装方法
2.1获取ollama-linux-arm64.tgz
wget https://ollama.com/download/ollama-linux-arm64.tgz
wget https://ollama.com/download/ollama-linux-amd64.tgz
2.2解压
sudo tar - C /usr -xzf ollama-linux-arm64.tgz
2.3创建用户和组
sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami
2.3创建service文件
vim /etc/systemd/system/ollama.service要是系统没有就本身创建
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="ATH=$PATH"
[Install]
WantedBy=default.target
3、启动ollama服务
sudo systemctl daemon-reload
sudo systemctl enable ollama
sudo systemctl start ollama
sudo systemctl status ollama

4、安装deepseek
4.1选择适合的模型版本

4.2安装模型
4.2.1查询模型安装命令
Ollama



其他的模型下载也是一样的,可以在这里找到,点进去后直接这里选择你要下载的模型,然后复制即可。
4.2.2输入命令下载运行1.5b版本
# ollama run deepseek-r1:1.5b需要联网情况,下载完成后,就可以对话了

5、配置可视化界面
如果需要Web或者客户端支持,可以检察GitHub里的保举GitHub - ollama/ollama: Get up and running with Llama 3.3, DeepSeek-R1, Phi-4, Gemma 2, and other large language models.


免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
回复

使用道具 举报

0 个回复

正序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

北冰洋以北

金牌会员
这个人很懒什么都没写!

标签云

快速回复 返回顶部 返回列表