马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。
您需要 登录 才可以下载或查看,没有账号?立即注册
×
把 Ollama 暴露到局域网:改 OLLAMA_HOST 并放通防火墙
本地跑 Ollama 推理大模型很方便,但同一个局域网里的其他机器想调用就有了门槛——默认 Ollama 只监听 127.0.0.1,别的机器连不上。改一行 systemd 环境变量 + 放通端口就行,三步搞定。
一、找到 Ollama 的 systemd 配置
Ollama 一般是以 systemd 服务注册的,配置文件在 /etc/systemd/system/ollama.service:
sudo gedit /etc/systemd/system/ollama.service
在 [Service] 段落下面加一行:
Environment="OLLAMA_HOST=0.0.0.0:11434"
写成 0.0.0.0 表示监听所有网卡(而不只是回环),局域网内其他机器才能连进来。
Ollama 默认端口是 11434。Ubuntu 的 ufw 挡着的话先放行:
sudo ufw allow 11434/tcp
如果机器上跑的是 firewalld(CentOS/RHEL 系),就是 sudo firewall-cmd --add-port=11434/tcp --permanent 加 --reload。另外确认路由器的防火墙没拦,还有个坑:如果机器在公网且有端口映射,别把 11434 暴露出去,那是无鉴权的推理接口,谁拿到地址谁能调你的模型跑。
三、重启服务并验证
sudo systemctl daemon-reload
sudo systemctl restart ollama
四、从另一台机器访问
浏览器或 curl 打开:
http://192.168.1.XX:11434
返回 Ollama is running 就说明服务在外面也能访问了。
五、客户端怎么接
设置环境变量指向这台机器的地址,之后 LangChain、OpenWebUI、Continue 之类的客户端就能调用:
export OLLAMA_BASE_URL=http://192.168.1.XX:11434
六、常见问题
- 改完还是连不上:
ss -tlnp | grep 11434 看是不是真的监听在 0.0.0.0(而不是 127.0.0.1)。
- 忘了解防火墙:
sudo ufw status 查一下 11434 在不在 allow 列表。
- 用 Docker 装的 Ollama:环境变量要写进
docker run -e 或 compose,另外别忘了 -p 11434:11434 映射端口,否则改了 host 也不通。
- 局域网太多机器抢资源:给 Ollama 加
OLLAMA_MAX_MODEL_LENS、配 number of ctx,或者直接限定并发。
注意一点:Ollama 的接口本身没有访问控制,局域网内开放等于这一段的任何设备都能用你的机器跑模型。只在可信网络里开,需要外网访问就套一层带鉴权的反向代理(Nginx + Basic Auth)再对外。
qidao123.com企服评测-应用市场 编辑提示 |