ollama摆设deepseek实操记载

1. 安装 ollama


1.1 下载并安装

官网 https://ollama.com/
Linux安装下令  https://ollama.com/download/linux

2. curl -fsSL https://ollama.com/install.sh | sh

复制代码

安装乐成截图

3. 开放外网访问

1. 1、首先停止ollama服务：systemctl stop ollama
2. 2、修改ollama的service文件：/etc/systemd/system/ollama.service
3. 在[Service]下边增加一行：Environment="OLLAMA_HOST=0.0.0.0:8080"，端口根据实际情况修改
4. 3、重载daemon文件 systemctl daemon-reload
5. 4、启动ollama服务 systemctl start ollama
7. Ollama在windows环境中如何支持通过IP来访问接口
8. 1、首先停止ollama服务的允许。由于windows下安装的ollama不是一个标准的windows service，所以只能直接杀掉两个ollama进程。
9. 2、为当前windows系统添加环境变量：电脑-属性-高级系统设置-环境变量
10. 变量：OLLAMA_HOST，值：0.0.0.0:11434
11. 3、关掉已打开的命令行窗口，打开新命令行，用ollama serve或者ollama start来启动ollama服务，此时ollama服务在启动时将读取环境变量中的OLLAMA_HOST，支持IP端口访问

复制代码

4. 修改模子存储位置

1. Windows环境
3. 环境变量-系统变量-新建
5. 变量名：OLLAMA_MODELS
7. 变量值：D:\Ollama
9. Linux环境默认存储路径为: /usr/share/ollama/.ollama/models
12. 假如我要将下载存储路径修改为 /data/ollama
14. #步骤一：创建目录 sudo mkdir /data/ollama
16. #步骤二：将目标路径的所属用户和组改为root
17. sudo chown -R ollama:ollama /data/ollama
19. #步骤三：将其文件权限更换为777
20. sudo chmod -R 777 /data/ollama
22. #步骤四：打开ollama.service文件
23. sudo vi /etc/systemd/system/ollama.service
25. #步骤五：进行修改并添加环境（注意路径要改成自己设置的, 其它的默认, 此处仅添加了 Environment="OLLAMA_MODELS=/data/ollama"
26. Environment="OLLAMA_HOST=0.0.0.0:11434"）
27. [Unit]
28. Description=Ollama Service
29. After=network-online.target
31. [Service]
32. ExecStart=/usr/local/bin/ollama serve
33. User=ollama
34. Group=ollama
35. Restart=always
36. RestartSec=3
37. Environment="PATH=/home/hum/.local/bin:/home/hum/anaconda3/bin:/home/hum/anaconda3/condabin:/home/hum/anaconda3/bin:/usr/local/sbin:/usr/local/bi
38. n:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/snap/bin"
39. Environment="OLLAMA_MODELS=/data/ollama"
40. Environment="OLLAMA_HOST=0.0.0.0:11434"
42. [Install]
43. WantedBy=default.target
45. #步骤六:
47. 重载daemon文件 sudo systemctl daemon-reload
48. 启动ollama服务 sudo systemctl start ollama

复制代码

2. 摆设deepseek模子   deepseek-r1:1.5b

1. ollama run deepseek-r1:1.5b

复制代码

显得比力弱

3. 当地摆设 chatbox 接入 ollama


Chatbox AI: Your AI Copilot, Best AI Client on any device, Free Download

4. 使用

5. 配景进程将别的几个版本下载下来

1. cd /data/ollama
3. nohup ollama pull deepseek-r1:671b > d0.log 2>&1 &
7. nohup ollama pull deepseek-r1:14b > d14.log 2>&1 &
11. nohup ollama pull deepseek-r1:32b > d32.log 2>&1 &
14. nohup ollama pull deepseek-r1:70b > d70.log 2>&1 &

复制代码

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。