【ollama 在linux 上离线部署 当地大模子】

[复制链接]
发表于 2026-10-7 09:41:39 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?立即注册

×

在无外网的环境下,可在 Linux 服务器上离线部署 Ollama 运行本地大模型。核心是先取得 Linux 版二进制包并加入 PATH。

确认架构

uname -a

输出含 x86_64 即为常见服务器架构(手机/嵌入式多为 arm)。

获取并解压离线包

将 GitHub 下载的 Linux 版压缩包传到服务器后解压:

tar -zxvf ollama-linux-amd64.tgz

解压后 bin 目录下即为 ollama 可执行文件,直接运行即可启动。

加入 PATH

为方便后续使用,把 ollama 加入环境变量:

vi ~/.bashrc
# 在末尾追加 export PATH=$PATH:/path/to/ollama/bin
source ~/.bashrc

配置完成后即可在任意目录调用 ollama 拉取/运行模型。

qidao123.com企服评测-应用市场 编辑提示

回复

使用道具 举报

登录后关闭弹窗

登录参与点评抽奖  加入IT实名职场社区
去登录
快速回复 返回顶部 返回列表