IT评测·应用市场-qidao123.com
标题:
ollama Linux部署
[打印本页]
作者:
梦见你的名字
时间:
2025-3-14 13:14
标题:
ollama Linux部署
ollama Linux部署
前言
为了部署当地大模子并创建专属知识库,可以使用ollama快速部署当地大模子服务。
原文博客地点:ollama Linux部署 | 路程blog (cxy.red)
1. 下载ollama
官方下载地点:curl -fsSL https://ollama.com/install.sh | sh
2. 情况配置
安装完成后,默认的网络配置将Ollama设置为仅在当地网络情况中运行,这意味着只有安装Ollama的主性能够访问该服务。如果盼望从外部网络访问Ollama服务,必要进行相应的网络配置调整。
修改ollama配置使其可以监听0.0.0.0和修改端口,可以实现非当地访问
2.1 修改文件
使用下令:vi /etc/systemd/system/ollama.service,添加:Environment="OLLAMA_HOST=0.0.0.0:11434",然后按下
Esc
,键入:wq生存更改
2.2 重现加载
sudo systemctl daemon-reload
复制代码
sudo systemctl restart ollama
复制代码
3. 测试
3.1 网路配置检测
终端输入ip addr查看
然后打开浏览器测试输入:ip地点:11434
出现ollama is running,表示配置成功
3.2 模子测试
参考文献
ollama/docs/linux.md at main · ollama/ollama · GitHub
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
欢迎光临 IT评测·应用市场-qidao123.com (https://dis.qidao123.com/)
Powered by Discuz! X3.4