钜形不锈钢水箱 发表于 2025-2-12 17:25:22

解决Mac电脑上启动Ollama监听本地端口11434异常问题

本文要解决的问题:
Mac安装Ollama APP后,启动Ollama后会本地监听本地TCP的11434端口,但这个监听仅仅是本地层面的监听,无法被本地以外的主机访问,也就是无法被同网段的主机访问。
https://i-blog.csdnimg.cn/direct/6bb2a555dc7a4fdf87743495c883226e.png
区别如下 ,利用外部分配的IP就访问不通该端口。
https://i-blog.csdnimg.cn/direct/de3abc697e1f46e1a01fda3cd0383c97.png
 这种环境,我试了许多方式,都无法将Ollama本地监听转化为监听所有IP的环境,也大概是我没有找到合适的方法,但不影响接下来配置,使得外部主性可以或许访问调用。
我个人的解决方案是利用Docker方式,转到11434服务到11435端口,对外暴漏11435端口为Ollma的服务。
nano nginx.conf  内容如下:
events {}

http {
    server {
      listen 11435; # 对外暴露的端口

      location / {
            # 代理到宿主机的 11434 端口
            proxy_pass http://host.docker.internal:11434;
            # 以下代理头配置可以根据需要开启
            proxy_set_header Host $host;
            proxy_set_header X-Real-IP $remote_addr;
            proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
            proxy_set_header X-Forwarded-Proto $scheme;
      }
    }
} 然后docker的运行下令
docker run -d \
    --name nginx-proxy \
    -p 11435:11435 \
    -v $(pwd)/nginx.conf:/etc/nginx/nginx.conf:ro \
    nginx:1.24.0 然后外部主机访问该Mac主机的11435端口就可以正常访问到Ollama的服务了。

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
页: [1]
查看完整版本: 解决Mac电脑上启动Ollama监听本地端口11434异常问题