没腿的鸟 发表于 2024-8-11 21:28:14

【ollama】Linux下更改ollama模型下载路径

关闭ollama服务

下令制止:
sudo systemctl stop ollama
sudo systemctl disable ollama.service
手动制止:在运行ollama的终端按ctrl+c,制止服务
默认下的路径:

Linux: /usr/share/ollama/.ollama/models
更改的路径设置root权限

sudo chown -R root:root /path/to/ollama/models
sudo chmod -R 775 /path/to/ollama/models
/path/to/ollama/models是要更改的模型路径
更改service文件

sudo vim /etc/systemd/system/ollama.service
修改内容

在原来的 Environment后加一行新的Environment

Description=Ollama Service
After=network-online.target


ExecStart=/usr/local/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3
Environment="PATH=/home/asus/anaconda3/bin:/home/asus/anaconda3/condabin:/home/asus/.local/bin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/snap/bin:/snap/bin"
Environment="OLLAMA_MODELS=/path/to/ollama/models"


WantedBy=default.target
这里注意User和Group都要设成root
重载设置并重启ollama

sudo systemctl daemon-reload
可以删除默认的模型路径,让它重新生成
重启ollama:sudo systemctl restart ollama.service
查看状态:sudo systemctl status ollama
再进入默认的模型路径会发现model文件夹消失,设置的文件夹里生成了blobs和manifests文件夹
https://i-blog.csdnimg.cn/direct/6d1530aa5f674b09a34948a67bf75db0.png
https://i-blog.csdnimg.cn/direct/1ac0c16e1658452ebc5160a4ba07c37b.png

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
页: [1]
查看完整版本: 【ollama】Linux下更改ollama模型下载路径