linux下ollama更换模型路径

打印 上一主题 下一主题

主题 1032|帖子 1032|积分 3096

Linux下更换Ollama模型下载路径指南
  在使用Ollama进行AI模型管理时,有时必要根据实际需求更改模型文件的存储路径。本文将详细介绍如何在Linux体系中更改Ollama模型的下载路径。

一、关闭Ollama服务
  在更改模型路径之前,必要先克制Ollama服务。可以通过以下命令克制服务:
  1. 使用systemctl命令:
    sudo systemctl stop ollama

    sudo systemctl disable ollama.service
  2. 大概在运行Ollama的终端中按Ctrl+C手动克制服务。

二、默认模型路径
  在Linux体系中,Ollama默认的模型存储路径为:
    /usr/share/ollama/.ollama/models
三、更改模型路径
  1. 创建新的模型存储目次:
    起首,创建一个新的目次作为模型存储路径。例如,创建/data/ollama/models目次:
    sudo mkdir -p /data/ollama/models
  2. 更改目次权限:
    确保新目次的权限设置正确,答应Ollama访问和写入:
    sudo chown -R root:root /data/ollama/models

    sudo chmod -R 775 /data/ollama/models

四、修改Ollama服务配置文件
  1. 编辑服务配置文件:
    使用文本编辑器(如vim)编辑Ollama服务的配置文件:
    sudo gedit /etc/systemd/system/ollama.service
  2. 修改配置内容:
    在[Service]部分的Environment字段后,添加新的Environment字段,指定新的模型路径:
    Environment="OLLAMA_MODELS=/data/ollama/models"
    完备的配置示例如下:
  1. [Unit]
  2. Description=Ollama Service
  3. After=network-online.target
  4. [Service]
  5. ExecStart=/usr/local/bin/ollama serve
  6. User=root
  7. Group=root
  8. Restart=always
  9. RestartSec=3
  10. Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin"
  11. Environment="OLLAMA_MODELS=/data/ollama/models"
  12. [Install]
  13. WantedBy=default.target</font>
复制代码
五、重载配置并重启Ollama服务
  1. 重载体系服务配置:
  1. sudo systemctl daemon-reload
复制代码
  2. 重启Ollama服务:
  1. sudo systemctl restart ollama.service
复制代码
  3. 查看服务状态:
  1. sudo systemctl status ollama
复制代码
六、验证更改
  1. 查抄默认路径:
    进入默认的模型路径/usr/share/ollama/.ollama/models,会发现models文件夹已经消失。
  2. 查抄新路径:
    在新的路径/data/ollama/models下,会看到生成了blobs和manifests文件夹,这表明模型路径已经成功更改。

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

商道如狼道

论坛元老
这个人很懒什么都没写!
快速回复 返回顶部 返回列表