DB-GPT 保姆级安装教程
环境准备必须使用能袒露地址的服务云
如果不能就会显示
https://i-blog.csdnimg.cn/blog_migrate/273ef2317679611934c575d3b6690066.png
源码下载
git clone https://github.com/eosphoros-ai/DB-GPT.git Miniconda环境安装
#export http_proxy=http://172.16.254.2:10800 && export
https_proxy=http://172.16.254.2:10800
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
bash Miniconda3-latest-Linux-x86_64.sh -b -p /home/user/netdisk/MinniConda3
vim ~/.bashrc
export PATH="/home/user/netdisk/data/Minionda3/bin:$PATH"
# 刷新
source ~/.bashrc
conda init
conda create -n dbgpt_env python=3.10
conda activate dbgpt_env
conda install -c conda-forge util-linux
# it will take some minutes
pip install -e "." cd DB-GPT
cp .env.template .env 当地模型
mkdir models and cd models
#### embedding model
git clone https://huggingface.co/GanymedeNil/text2vec-large-chinese
或者
git clone https://huggingface.co/moka-ai/m3e-large
#### llm model, if you use openai or Azure or tongyi llm api service, you don't need to download llm model
git clone https://www.modelscope.cn/qwen/Qwen-14B-Chat-Int4.git
git lfs clone --verbose https://www.modelscope.cn/Xorbits/vicuna-13b-v1.5
环境变量配置, 配置LLM_MODEL参数在 `.env` 文件中
vim .env https://i-blog.csdnimg.cn/blog_migrate/3cd1dc671b386160edd4c1c81d8c3cce.png
LLM_MODEL 参照 这个文件 修改
https://i-blog.csdnimg.cn/blog_migrate/4a0e76252524e5d154249ebffc75a530.png
https://i-blog.csdnimg.cn/blog_migrate/8583d706eca86e2cf6a2083776b3f57b.png
如果启动 Qwen-14B-Chat-Int4 模型 还必要在DB-GPT/models/Qwen-14B-Chat-Int4/config.json这配置
disable_exllama:true https://i-blog.csdnimg.cn/blog_migrate/185f661ee1fb6a27ae843930c6e6ebd0.png
运行服务
python dbgpt/app/dbgpt_server.py 可能会报错 是有包没有安装 安装即可 希望能帮到各人
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。
页:
[1]