Linux ollama手动安装与更改模子下载位置及deepseek摆设

打印 上一主题 下一主题

主题 981|帖子 981|积分 2943

# 手动下载 ollama-linux-amd64.tgz

   https://github.com/ollama/ollama/releases/
  # 于私人磁盘创建ollama安装目录(本身定制)

   mkdir -p /mnt/sdb1/niuc/ollama
   #解压安装

   sudo tar -C /mnt/sdb1/niuc/ollama -xzf ollama-linux-amd64.tgz
  # 测试运行Ollama

   ollama serve 
   然后新开一个控制台

 # 手动添加ollama.service文件相干准备



  • 创建模子文件存储目录
  1. sudo mkdir -p /mnt/sdb1/niuc/Ollama/models
复制代码


  • 更改目录权限,确保 Ollama 有权限访问和写入:
  1. sudo chown -R $(whoami):$(whoami) /mnt/sdb1/niuc/Ollama/models
  2. sudo chmod -R 777 /mnt/sdb1/niuc/Ollama/models
复制代码


  •  编辑 Ollama 服务的设置文件。使用以下命令打开设置文件
  1. sudo nano /etc/systemd/system/ollama.service
复制代码


  •  复制粘贴以下内容,按Ctrl键+X,选Y生存,点击回车
  1. [Unit]
  2. Description=Ollama Service
  3. After=network-online.target
  4. [Service]
  5. ExecStart=/usr/bin/ollama serve
  6. User=root
  7. Group=root
  8. Restart=always
  9. RestartSec=3
  10. Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin"
  11. Environment="OLLAMA_MODELS=/mnt/sdb1/niuc/Ollama/models"
  12. [Install]
  13. WantedBy=default.target
复制代码
  这个ollama.service的细节内容参照这个文章,
  ollama.service服务设置分析_mac ollama.service 设置-CSDN博客
  需要留意ExecStart路径,user,group权限,评论区里看到改为root会避免一些bug。
  评论区的链接:
  Ollama模子下载路径替换!靠谱!(Linux版本)_修改ollama模子路径-CSDN博客
  

  •  重载体系服务设置并重启ollama,并查询ollama状态
  1. sudo systemctl daemon-reload
  2. sudo systemctl restart ollama
  3. sudo systemctl status ollama
复制代码
 状态正常:

 并检查新路径(/mnt/sdb1/niuc/Ollama/models)下是否天生文件 blobs 和 manifests
# 迁移已经下载过的模子

如何查询现有大模子文件位置,我用的是find指令

  1. find / -name "*deepseek*"
复制代码
 移动大模子,询问时输入y回车即可

  1. mv /home/niuc/.ollama/models/* /mnt/sdb1/niuc/Ollama/models
复制代码
 创建软链接,防止原先有些加载这个路径产生bug

  1. ln -s /mnt/sdb1/niuc/Ollama/models /home/niuc/.ollama/models
复制代码
   ollama list
  查看ollama的大模子有哪些,可判断是否移动过来,然后运行加载模子
   ollama run deepseek-r1:1.5b
   这些都可以下载尝试一下
   ollama pull deepseek-r1:1.5b
ollama pull deepseek-r1:latest
ollama pull deepseek-r1:7b
ollama pull deepseek-r1:14b
ollama pull deepseek-r1:70b
  假如还是无法访问到模子,大概率是权限大概体系变量路径的问题,需要现把ollama serve 关闭,
参考这篇文章:
    241217-办理Ollama无法通过设置文件修改模子下载路径的方法_GuokLiu的技术博客_51CTO博客

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

民工心事

金牌会员
这个人很懒什么都没写!
快速回复 返回顶部 返回列表