人工智能-WSL-Ubuntu20.04下Docker方式摆设DB-GPT

0 环境及阐明

环境项阐明测试机型号遐想救济者Y9000PWindows版本Windows 11 专业版 23H2Linux版本Ubuntu20.04.6 LTS（基于WSL）Docker版本28.0.2  当前 hub.docker.com 镜像堆栈中的 dbgpt 镜像有一些题目，在利用 docker run 时指定的
  

• -e DEEPSEEK_MODEL_VERSION
  
• -e DEEPSEEK_MODEL_VERSION
  
• -e DEEPSEEK_API_KEY
  

  等参数是无效的，默认容器启动利用的设置文件为dbgpt-proxy-siliconflow.toml，可以通过以下关联下令指定启动容器时利用谁人设置文件：

1. dbgpt start webserver --config /app/configs/dbgpt-proxy-deepseek.toml

复制代码

  由于个人电脑GPU算力有限，因此本文是以署理模子方式举行摆设。下面先容一下摆设DB-GPT的关键步调。
  1 安装相干依赖

1. # git大文件下载支持
2. sudo apt-get install git-lfs

复制代码

2 docker下载dbgpt镜像

   由于必要从 hub.docker.com 镜像堆栈中下载镜像，如今必要设置科学上网才气下载。也可以设置docker镜像站下载，好比 毫秒镜像

1. docker pull eosphorosai/dbgpt:latest

复制代码

下载后如下图：

   可以看到dbgpt的镜像文件照旧很大的。
  3 下载向量模子

1. mkdir -p /opt/dbgpt/data/models
2. cd /opt/dbgpt/data/models
4. #dbgpt-proxy-deepseek.toml中的默认EMBEDDING_MODEL
5. git clone https://www.modelscope.cn/BAAI/bge-large-zh-v1.5.git
6. # 可以改为以下向量模型，需要修改 dbgpt-proxy-deepseek.toml 中向量模型的配置
7. git clone https://www.modelscope.cn/Jerry0/text2vec-large-chinese.git
8. # 可以改为以下向量模型，需要修改 dbgpt-proxy-deepseek.toml 中向量模型的配置
9. git clone https://www.modelscope.cn/AI-ModelScope/m3e-large.git

复制代码

我下载了bge-large-zh-v1.5和text2vec-large-chinese向量模子，只下载1个就可以，要与反面toml设置文件中向量模子的设置对应。向量模子如下：

## 4 下载设置文件
   toml设置文件可以从github大概gitee的DB-GPT项目处得到：
  https://github.com/eosphoros-ai/DB-GPT/tree/main/configs

1. mkdir -p /opt/dbgpt/configs
2. # 把下载的toml配置文件放到/opt/dbgpt/configs目录下

复制代码

  把下载的toml设置文件放到/opt/dbgpt/configs目次下
  如下图：

## 5 修改设置文件
   由于docker运行dbgpt容器时通过以下下令指定接纳的设置文件：
  

• dbgpt start webserver --config /app/configs/dbgpt-proxy-deepseek.toml
  
  因此我们要对dbgpt-proxy-deepseek.toml设置文件举行修改。假如指定的是dbgpt-proxy-openai.toml，那就修改dbgpt-proxy-openai.toml。
  

  dbgpt-proxy-deepseek.toml的原始内容如下：

1. [system]
2. # Load language from environment variable(It is set by the hook)
3. language = "${env:DBGPT_LANG:-zh}"
4. api_keys = []
5. encrypt_key = "your_secret_key"
7. # Server Configurations
8. [service.web]
9. host = "0.0.0.0"
10. port = 5670
12. [service.web.database]
13. type = "sqlite"
14. path = "pilot/meta_data/dbgpt.db"
15. [service.model.worker]
16. host = "127.0.0.1"
18. [rag.storage]
19. [rag.storage.vector]
20. type = "chroma"
21. persist_path = "pilot/data"
23. # Model Configurations
24. [models]
25. [[models.llms]]
26. name = "deepseek-reasoner"
27. # name = "deepseek-chat"
28. provider = "proxy/deepseek"
29. api_key = "your_deepseek_api_key"
31. [[models.embeddings]]
32. name = "BAAI/bge-large-zh-v1.5"
33. provider = "hf"
34. # If not provided, the model will be downloaded from the Hugging Face model hub
35. # uncomment the following line to specify the model path in the local file system
36. # path = "the-model-path-in-the-local-file-system"
37. path = "models/bge-large-zh-v1.5"

复制代码

  我们重要修改[models]设置节下的[[models.llms]]和[[models.embeddings]]。
  

• [[models.llms]]（大语言模子） 修改阐明：
  
  
  
  • name = “deepseek-reasoner” 表现推理模子，即DeepSeek-R1。
    
  • name = “deepseek-chat” 表现指令模子，即DeepSeek-V3。
    
  • api_key = “your_deepseek_api_key”，这是必须要改的，要改为自己在DeepSeek官网申请的api_key。
    
  
  
• [[models.embeddings]]（向量模子）修改阐明：
  
  
  
  • name = “BAAI/bge-large-zh-v1.5” 表现向量模子的名称。
    
  • provider = “hf” 表现模子提供者为huggingface。
    
  • path = “models/bge-large-zh-v1.5” 表现向量模子文件的路径。
    
  
  

  好比把向量模子改为text2vec-large-chinese为例，设置文件修改如下：

1. [[models.embeddings]]
2. name = "Jerry0/text2vec-large-chinese"
3. provider = "hf"
4. # If not provided, the model will be downloaded from the Hugging Face model hub
5. # uncomment the following line to specify the model path in the local file system
6. # path = "the-model-path-in-the-local-file-system"
7. path = "models/text2vec-large-chinese"

复制代码

6 运行dbgpt容器并指定设置文件

1. docker run -d \
2.    --restart unless-stopped \
3.    --name dbgpt \
4.    -p 5670:5670 \
5.    -v /opt/dbgpt/configs:/app/configs \
6.    -v /opt/dbgpt/data/models:/app/models \
7.    -e LOCAL_DB_TYPE=sqlite \
8.    -e LOCAL_DB_PATH=data/default_sqlite.db \
9.    -e LANGUAGE=zh \
10.    eosphorosai/dbgpt:latest \
11.    dbgpt start webserver --config /app/configs/dbgpt-proxy-deepseek.toml

复制代码

  参数阐明：
  

• -p 5670:5670 为端口映射，冒号前面为宿主机的端口，冒号反面为docker容器的端口。
  
• -v /opt/dbgpt/configs:/app/configs 为设置文件目次映射。
  
• -v /opt/dbgpt/data/models:/app/models 为向量模子目次映射。
  
• -e LOCAL_DB_TYPE=sqlite 指定环境变量 LOCAL_DB_TYPE 的值，这里表现本地数据库范例为sqlite。
  
• -e LOCAL_DB_PATH=data/default_sqlite.db 指定本地数据库的路径。
  
• -e LANGUAGE=zh 指定语言为中文。
  
• dbgpt start webserver --config 反面跟详细的toml设置文件路径,设置关联的下令，表现容器启动后会这行这条下令。
  

  可以通过以下下令检察运行日志：

1. docker logs dbgpt

复制代码

可以通过以下下令检察容器运行状态

1. docker ps

复制代码

7 访问dbgpt

容器启动假如没有报错，可以在Windows宿主机欣赏器所在栏输入: http://localhost:5679 举行访问，如下图：

点击 Chat Excel 应用，在对话地区就能看到你接纳的大语言模子，如下图：

也可以直接点击左侧菜单的[在线对话]，举行直接对话，如下图：