DB-GPT 保姆级安装教程

王柳  论坛元老 | 2024-9-10 19:15:08 | 显示全部楼层 | 阅读模式
打印 上一主题 下一主题

主题 1021|帖子 1021|积分 3063

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?立即注册

x
环境准备

必须使用能袒露地址的服务云

如果不能就会显示

源码下载

  1. git clone https://github.com/eosphoros-ai/DB-GPT.git
复制代码
Miniconda环境安装

  1. #export http_proxy=http://172.16.254.2:10800 && export
  2. https_proxy=http://172.16.254.2:10800
  3. wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
  4. bash Miniconda3-latest-Linux-x86_64.sh -b -p /home/user/netdisk/MinniConda3
  5. vim ~/.bashrc
  6. export PATH="/home/user/netdisk/data/Minionda3/bin:$PATH"
  7. # 刷新
  8. source ~/.bashrc
  9. conda init
  10. conda create -n dbgpt_env python=3.10
  11. conda activate dbgpt_env
  12. conda install -c conda-forge util-linux
  13. # it will take some minutes
  14. pip install -e ".[default]"
复制代码
  1. cd DB-GPT
  2. cp .env.template  .env
复制代码
当地模型

  1. mkdir models and cd models
  2. #### embedding model
  3. git clone https://huggingface.co/GanymedeNil/text2vec-large-chinese
  4. 或者
  5. git clone https://huggingface.co/moka-ai/m3e-large
  6. #### llm model, if you use openai or Azure or tongyi llm api service, you don't need to download llm model
  7. git clone https://www.modelscope.cn/qwen/Qwen-14B-Chat-Int4.git
  8. git lfs clone --verbose https://www.modelscope.cn/Xorbits/vicuna-13b-v1.5
复制代码
环境变量配置, 配置LLM_MODEL参数在 `.env` 文件中
  1. vim .env
复制代码

LLM_MODEL 参照 这个文件 修改        



如果启动  Qwen-14B-Chat-Int4 模型 还必要在DB-GPT/models/Qwen-14B-Chat-Int4/config.json这配置
  1. disable_exllama:true
复制代码


运行服务

  1. python dbgpt/app/dbgpt_server.py
复制代码
可能会报错 是有包没有安装 安装即可  希望能帮到各人

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

王柳

论坛元老
这个人很懒什么都没写!
快速回复 返回顶部 返回列表