DeepSeek本机部署(基于Ollama和Docker管理）

目录
一、ollama 与 docker 简介
（一）ollama(Ollama)
（二）docker
二、利用 ollama 和 docker 配置 deepseek-r1 的预备工作
（一）硬件需求
（二）软件安装
三、配置 deepseek-r1 的具体步骤
（一）使用 ollama 获取 deepseek-r1 模子
（二）利用 docker 创建 deepseek-r1 容器
查看模子列表
下载模子命令
注意事项
（三）启动和测试 deepseek-r1 服务
四、这种配置方式的优势
（一）快速部署
（二）环境隔离
（三）易于扩展
五、大概碰到的问题及解决方法
（一）网络问题
（二）资源冲突

---

在人工智能技术日新月异的期间，大语言模子的应用越来越广泛，DeepSeek 作为此中的佼佼者，备受开发者和技术爱好者的关注。通过在本机部署 DeepSeek，能够更机动地利用其强盛功能。而借助 ollama 和 docker 举行 deepseek - r1 的配置，能为我们带来更高效、便捷的部署体验。
一、ollama 与 docker 简介

（一）ollama(Ollama)

ollama 是一个强盛的工具，它为模子的管理和运行提供了便利。它可以简化模子的下载、配置和启动过程，让用户能够快速地将不同的模子集成到本身的工作流程中。例如，在处置惩罚多个不同类型的大语言模子时，ollama 可以轻松管理这些模子之间的切换和调用，提高开发服从。
（二）docker

docker 则是容器化技术的代表，它能够将应用程序及其依赖项打包成一个独立的容器。在 DeepSeek 部署中，使用 docker 可以确保 deepseek - r1 在不同环境中具有同等的运行状态。无论在开发环境、测试环境还是生产环境，只要安装了 docker，就可以运行相同的 deepseek - r1 容器，避免了因环境差异导致的兼容性问题。
二、利用 ollama 和 docker 配置 deepseek-r1 的预备工作

（一）硬件需求

同通例的 DeepSeek 部署雷同，须要一台性能不错的计算机。内存建议 16GB 以上，这样在运行容器和模子时，能够保证系统的流畅性。同时，配备 NVIDIA GPU 会显着提拔模子的推理速率，对于处置惩罚大规模文本任务非常关键。
（二）软件安装

• 安装 docker：可以从 docker 官方网站获取适合你操作系统的安装包，按照官方指引举行安装。在安装完成后，确保 docker 服务正常运行，可通过简单的命令行测试来验证(sheel中输入docker)。
  

• 安装 ollama：根据你使用的操作系统，选择合适的安装方式。例如，在 Linux 系统中，可以通过特定的脚本举行安装。安装完成后，配置好 ollama 的运行环境变量，确保其能够被系统正确辨认。
  

三、配置 deepseek-r1 的具体步骤

可以看出DeepSeek-r1完全模子在各方面优于OpenAI，在某些方面评估甚至强于OpenAI，参数目适合于本地部署办公使用。
（一）使用 ollama 获取 deepseek-r1 模子

通过 ollama 的命令行工具，输入特定的命令来搜刮和下载 deepseek - r1 模子。ollama 会自动从官方或指定的源获取模子文件，并将其存储在本地的模子库中。
（二）利用 docker 创建 deepseek-r1 容器

• 基于下载好的 deepseek - r1 模子，使用 docker 命令创建一个新的容器。在创建容器时，须要指定容器的名称、挂载的目录（以便与本地文件系统举行交互）以及容器运行所需的环境变量。
  

查看模子列表

可以访问 ollama 官方的模子仓库library查看支持的模子列表，点击浏览某个模子，可看到具体说明，如模子参数、大小、运行命令等信息。
下载模子命令


使用ollama pull命令举行下载。例如，若要下载图片中的deepseek - r1 7b 模子，在命令行中输入

1. ollama pull deepseek-r1:7b 

复制代码

（若不指定具体版本如 7b 等，默认下载最新版本）。首次使用该命令运行模子时，ollama 也会自动从网上下载模子。
注意事项

•   下载速率大概受网络状况影响，假如网络不稳定，下载模子大概须要较长期待时间。
  

     2.   部门模子对硬件资源有肯定要求，如运行较大的模子（像 llama3 - 70b）大概会较慢，甚至出现硬件资源不足无法正常运行的情况，下载前可相识模子对硬件的需求。(重要是系统内存的要求)
        配置容器的网络设置，确保容器能够与外部举行通讯。可以根据现实需求，设置容器的端口映射，使本地应用能够访问到容器内运行的 deepseek - r1 服务。
（三）启动和测试 deepseek-r1 服务

• （docker搭建请参照另一篇文章）完成容器创建后，使用 docker 命令启动 deepseek - r1 容器。容器启动后，ollama 会自动加载 deepseek - r1 模子，并启动相关的服务历程。
  

• 通过编写简单的测试脚本，向运行在容器内的 deepseek - r1 服务发送哀求，验证模子是否正常工作。例如，可以发送一段文本，哀求模子生成回答，查抄返回的结果是否符合预期。
  

  （四）WebUi的配置

搭建部署Open WebUI有两种方式

• Docker方式（官网保举）
  
• 源代码部署安装方式：（文档