马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。
您需要 登录 才可以下载或查看,没有账号?立即注册
x
环境准备
必须使用能袒露地址的服务云
如果不能就会显示
源码下载
- git clone https://github.com/eosphoros-ai/DB-GPT.git
复制代码 Miniconda环境安装
- #export http_proxy=http://172.16.254.2:10800 && export
- https_proxy=http://172.16.254.2:10800
- wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
- bash Miniconda3-latest-Linux-x86_64.sh -b -p /home/user/netdisk/MinniConda3
- vim ~/.bashrc
- export PATH="/home/user/netdisk/data/Minionda3/bin:$PATH"
- # 刷新
- source ~/.bashrc
- conda init
- conda create -n dbgpt_env python=3.10
- conda activate dbgpt_env
- conda install -c conda-forge util-linux
- # it will take some minutes
- pip install -e ".[default]"
复制代码- cd DB-GPT
- cp .env.template .env
复制代码 当地模型
- mkdir models and cd models
- #### embedding model
- git clone https://huggingface.co/GanymedeNil/text2vec-large-chinese
- 或者
- git clone https://huggingface.co/moka-ai/m3e-large
- #### llm model, if you use openai or Azure or tongyi llm api service, you don't need to download llm model
- git clone https://www.modelscope.cn/qwen/Qwen-14B-Chat-Int4.git
- git lfs clone --verbose https://www.modelscope.cn/Xorbits/vicuna-13b-v1.5
复制代码 环境变量配置, 配置LLM_MODEL参数在 `.env` 文件中
LLM_MODEL 参照 这个文件 修改
如果启动 Qwen-14B-Chat-Int4 模型 还必要在DB-GPT/models/Qwen-14B-Chat-Int4/config.json这配置
运行服务
- python dbgpt/app/dbgpt_server.py
复制代码 可能会报错 是有包没有安装 安装即可 希望能帮到各人
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。 |