DeepSeek R1 linux云部署

[复制链接]
发表于 2026-10-6 12:12:04 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?立即注册

×

在云服务器上直接跑官方那条一键安装脚本,国内网络下经常卡在下载环节,几十分钟不动是常态。变通做法其实很朴素:先把发布包下到自己的电脑上,再用上传工具搬到服务器,剩下的就是解压、起服务、拉模型。这篇按这个思路把全过程写清楚,顺便记下几个实用的管理命令。

一、为什么先把包下到本地再上传

服务器直连海外源不稳定,且长时间连接容易断。本地网络条件好得多,用浏览器或者下载工具拿到完整包之后一次上传即可。这个思路对任何「海外工具国内服务器部署」都适用,不限于本文这个工具。

二、把发布包释放到系统目录

包下好后上传到服务器,比如先放到临时目录。然后打开一个终端,把包释放到系统目录下,这一步会把可执行文件铺到系统路径里,之后就能直接敲命令:

tar -C /usr -xzf ollama-linux-amd64.tgz

三、起服务并确认版本

在一个终端里把服务拉起来:

ollama serve

再开第二个终端,看服务版本,能输出版本号就说明启动成功:

ollama -v

四、拉模型与断点续传

以 32B 参数的推理模型为例,拉下来即可:

ollama pull 模型名:32b

下载过程中掉速很常见,掉速中断之后直接再执行一次同样的拉取向,已下载的部分会接着走,不用从头再来。这个特性在处理大模型时非常省时间,很多人不知道,每次都从头下,跑几小时才发现白费。

拉完看一眼模型列表,确认它确实在:

ollama list

五、跑一次看看实际表现

直接进交互会话就能问:

ollama run 模型名:32b

拿一个看似简单、但其实经常答错的小问题试一下,比如比较 9.11 和 9.9 谁大,再看它的回答过程。这类题考验的是推理链而不是知识量,能一步步把比较过程写出来,说明这个规模上的推理能力是够用的,也正是它受关注的原因。

六、几个实用的管控点

  • 模型列表和服务进程是两件独立的事,删模型用专门命令,别直接去目录里删。
  • 32B 参数对内存要求高,跑之前先看一眼剩余可用内存,不够就换小一点的量化版本。
  • 服务是长驻进程,用 nohup 或交给 systemd 托管,别开着一个终端挂着。
  • 多个模型共用一份底包时,拉新模型会共享权重,不用重复占空间。

七、小结

整条链路就是:下载发布包、上传服务器、tar 释放到 /usr、serve 起服务、另开终端 -v 验证、pull 拉模型、run 跑一次。核心技巧只有一个——下载走本地、上传走工具,把最不稳定的那段网络挪到你控制得了的地方。把这个思路换到别的工具上,同样能解决国内服务器装海外软件慢的问题。

qidao123.com企服评测-应用市场 编辑提示

回复

使用道具 举报

登录后关闭弹窗

登录参与点评抽奖  加入IT实名职场社区
去登录
快速回复 返回顶部 返回列表