解决Mac电脑上启动Ollama监听本地端口11434异常问题

打印 上一主题 下一主题

主题 1003|帖子 1003|积分 3009

本文要解决的问题:
Mac安装Ollama APP后,启动Ollama后会本地监听本地TCP的11434端口,但这个监听仅仅是本地层面的监听,无法被本地以外的主机访问,也就是无法被同网段的主机访问。

区别如下 ,利用外部分配的IP就访问不通该端口。

 这种环境,我试了许多方式,都无法将Ollama本地监听转化为监听所有IP的环境,也大概是我没有找到合适的方法,但不影响接下来配置,使得外部主性可以或许访问调用。
我个人的解决方案是利用Docker方式,转到11434服务到11435端口,对外暴漏11435端口为Ollma的服务。
  1. nano nginx.conf
复制代码
 内容如下:
  1. events {}  
  2. http {  
  3.     server {  
  4.         listen 11435; # 对外暴露的端口  
  5.         location / {  
  6.             # 代理到宿主机的 11434 端口  
  7.             proxy_pass http://host.docker.internal:11434;  
  8.             # 以下代理头配置可以根据需要开启  
  9.             proxy_set_header Host $host;  
  10.             proxy_set_header X-Real-IP $remote_addr;  
  11.             proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;  
  12.             proxy_set_header X-Forwarded-Proto $scheme;  
  13.         }  
  14.     }  
  15. }
复制代码
然后docker的运行下令
  1. docker run -d \
  2.     --name nginx-proxy \
  3.     -p 11435:11435 \
  4.     -v $(pwd)/nginx.conf:/etc/nginx/nginx.conf:ro \
  5.     nginx:1.24.0
复制代码
然后外部主机访问该Mac主机的11435端口就可以正常访问到Ollama的服务了。

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

钜形不锈钢水箱

论坛元老
这个人很懒什么都没写!
快速回复 返回顶部 返回列表