民工心事 发表于 2025-3-7 15:16:34

Linux ollama手动安装与更改模子下载位置及deepseek摆设

# 手动下载 ollama-linux-amd64.tgz

   https://github.com/ollama/ollama/releases/
# 于私人磁盘创建ollama安装目录(本身定制)

   mkdir -p /mnt/sdb1/niuc/ollama
 #解压安装

   sudo tar -C /mnt/sdb1/niuc/ollama -xzf ollama-linux-amd64.tgz
# 测试运行Ollama

   ollama serve 
 然后新开一个控制台

 # 手动添加ollama.service文件相干准备



[*] 创建模子文件存储目录
sudo mkdir -p /mnt/sdb1/niuc/Ollama/models


[*] 更改目录权限,确保 Ollama 有权限访问和写入:
sudo chown -R $(whoami):$(whoami) /mnt/sdb1/niuc/Ollama/models
sudo chmod -R 777 /mnt/sdb1/niuc/Ollama/models

[*]  编辑 Ollama 服务的设置文件。使用以下命令打开设置文件
sudo nano /etc/systemd/system/ollama.service

[*]  复制粘贴以下内容,按Ctrl键+X,选Y生存,点击回车

Description=Ollama Service
After=network-online.target


ExecStart=/usr/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin"
Environment="OLLAMA_MODELS=/mnt/sdb1/niuc/Ollama/models"


WantedBy=default.target   这个ollama.service的细节内容参照这个文章,
ollama.service服务设置分析_mac ollama.service 设置-CSDN博客
需要留意ExecStart路径,user,group权限,评论区里看到改为root会避免一些bug。
评论区的链接:
Ollama模子下载路径替换!靠谱!(Linux版本)_修改ollama模子路径-CSDN博客


[*]  重载体系服务设置并重启ollama,并查询ollama状态
sudo systemctl daemon-reload
sudo systemctl restart ollama
sudo systemctl status ollama  状态正常:https://i-blog.csdnimg.cn/direct/9481689037fe4b31b86fe47d4de40e36.png
 并检查新路径(/mnt/sdb1/niuc/Ollama/models)下是否天生文件 blobs 和 manifests
# 迁移已经下载过的模子

如何查询现有大模子文件位置,我用的是find指令

find / -name "*deepseek*"  移动大模子,询问时输入y回车即可

mv /home/niuc/.ollama/models/* /mnt/sdb1/niuc/Ollama/models  创建软链接,防止原先有些加载这个路径产生bug

ln -s /mnt/sdb1/niuc/Ollama/models /home/niuc/.ollama/models    ollama list
查看ollama的大模子有哪些,可判断是否移动过来,然后运行加载模子
   ollama run deepseek-r1:1.5b
 这些都可以下载尝试一下
   ollama pull deepseek-r1:1.5b
ollama pull deepseek-r1:latest
ollama pull deepseek-r1:7b
ollama pull deepseek-r1:14b
ollama pull deepseek-r1:70b
假如还是无法访问到模子,大概率是权限大概体系变量路径的问题,需要现把ollama serve 关闭,
参考这篇文章:
    241217-办理Ollama无法通过设置文件修改模子下载路径的方法_GuokLiu的技术博客_51CTO博客

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
页: [1]
查看完整版本: Linux ollama手动安装与更改模子下载位置及deepseek摆设