本文要解决的问题:
Mac安装Ollama APP后,启动Ollama后会本地监听本地TCP的11434端口,但这个监听仅仅是本地层面的监听,无法被本地以外的主机访问,也就是无法被同网段的主机访问。
区别如下 ,利用外部分配的IP就访问不通该端口。
这种环境,我试了许多方式,都无法将Ollama本地监听转化为监听所有IP的环境,也大概是我没有找到合适的方法,但不影响接下来配置,使得外部主性可以或许访问调用。
我个人的解决方案是利用Docker方式,转到11434服务到11435端口,对外暴漏11435端口为Ollma的服务。
内容如下:
- events {}
- http {
- server {
- listen 11435; # 对外暴露的端口
- location / {
- # 代理到宿主机的 11434 端口
- proxy_pass http://host.docker.internal:11434;
- # 以下代理头配置可以根据需要开启
- proxy_set_header Host $host;
- proxy_set_header X-Real-IP $remote_addr;
- proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
- proxy_set_header X-Forwarded-Proto $scheme;
- }
- }
- }
复制代码 然后docker的运行下令
- docker run -d \
- --name nginx-proxy \
- -p 11435:11435 \
- -v $(pwd)/nginx.conf:/etc/nginx/nginx.conf:ro \
- nginx:1.24.0
复制代码 然后外部主机访问该Mac主机的11435端口就可以正常访问到Ollama的服务了。
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。 |