马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。
您需要 登录 才可以下载或查看,没有账号?立即注册
×
在无外网的环境下,可在 Linux 服务器上离线部署 Ollama 运行本地大模型。核心是先取得 Linux 版二进制包并加入 PATH。
确认架构
uname -a
输出含 x86_64 即为常见服务器架构(手机/嵌入式多为 arm)。
获取并解压离线包
将 GitHub 下载的 Linux 版压缩包传到服务器后解压:
tar -zxvf ollama-linux-amd64.tgz
解压后 bin 目录下即为 ollama 可执行文件,直接运行即可启动。
加入 PATH
为方便后续使用,把 ollama 加入环境变量:
vi ~/.bashrc
# 在末尾追加 export PATH=$PATH:/path/to/ollama/bin
source ~/.bashrc
配置完成后即可在任意目录调用 ollama 拉取/运行模型。
qidao123.com企服评测-应用市场 编辑提示 |