人工智能-群晖Docker部署DB-GPT

0 情况及阐明

    情况项   阐明         DSM版本   DSM 7.2.1-69057 update 3       Container Manager版本   24.0.2-1535     当前 hub.docker.com 镜像仓库中的 dbgpt 镜像有一些问题，在使用 docker run 时指定的
  

  

• -e DEEPSEEK_MODEL_VERSION  
  
• -e DEEPSEEK_MODEL_VERSION  
  
• -e DEEPSEEK_API_KEY
  

  等参数是无效的，默认容器启动使用的配置文件为dbgpt-proxy-siliconflow.toml，可以通过以下关联下令指定启动容器时使用那个配置文件：

1. dbgpt start webserver --config /app/configs/dbgpt-proxy-deepseek.toml

复制代码

  由于群晖NAS没有单独的GPU算力，因此本文是以代理模型方式进行部署。下面介绍一下部署DB-GPT的关键步调。
  1 获取dbgpt的docker镜像

   由于网络问题，群晖系统中Container Manager的Docker官方镜像仓库是访问不了的，可以添加一个国内代理镜像站，比如 毫秒镜像，如下图：
  

然后选中，使用这个镜像仓库，如下图：

关闭镜像仓库设置，然后在，搜索框中输入dbgpt，就可以看到对应的镜像，如下图：

选中这个镜像下载就可以，下载完毕后，就可以在Container Manager中的映像列表中看到它了，如下图：

   阐明
  由于同步周期的问题，毫秒镜像中的docker镜像不肯定是最新的，这种情况可以考虑现在个人电脑本地docker情况中通过科学上网的方式从docker官方镜像仓库获取最新的dbgpt镜像。
  [code][/code]
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。

继续阅读请点击广告