IT评测·应用市场-qidao123.com

标题: Windows10使用WSL安装DBGpt [打印本页]

作者: 篮之新喜    时间: 2024-7-27 01:51
标题: Windows10使用WSL安装DBGpt
先先容下本人计算机的硬件配置,仅供参考
硬件名称硬件配置巨细CPUI5-13600KF5.1GhzGPURTX 4060Ti16GBMemory32GBDisk1TB   本文主要在Windows10 22H4中使用WSL的Ubuntu22.04版本安装DB-Gpt0.4.0,仅供参考
  一、准备工作

   如果没有安装WSL可以参考WSL安装及遇到的标题解决
  1. 导出已有的Linux发行版

  1. wsl --export Ubuntu22.04 D:\linux\Ubuntu2204.tar
复制代码
2. 导入新的Linux发行版

配置新的Linux发行版名称为DB-Gpt,或者本身起个名字
  1. wsl --import DB-Gpt0.4.0 D:\linux\DB-Gpt D:\linux\Ubuntu2204.tar --version 2
复制代码
3. 配置Windows终端(Optional)

使用快捷键Ctrl + ,或者直接打开终端设置,选择添加新配置文件,复制已有的启动Linux发行版终端的配置文件,然后修改其中的名称和命令行启动项,将Linux发行版改为本身导入的发行版名称

4. 修改WSL主机hostname

(1)打开配置好的Linux发行版,然后输入如下指令编辑wsl.conf
  1. vim /etc/wsl.conf
复制代码
文件末尾追加下面内容
  1. [network]
  2. hostname=DB-Gpt0.4.0
  3. generateHosts=false
复制代码
(2)修改hosts文件
  1. vim /etc/hosts
复制代码

(3)重启DB-Gpt0.4.0发行版
  1. wsl -t DB-Gpt0.4.0
  2. wsl -d DB-Gpt0.4.0
复制代码
二、DB-Gpt安装

DB-Gpt官方提供了源码安装Docker安装Docker Compose安装等方式,其中docker安装提供了默认数据源sqllitemysql两个版本。
本文主要采用源码安装的方式。
1. 相识硬件最低要求

对于硬件好的可以采用私有化摆设大模子的方式,否则可以查阅官网选择对接第三方大模子服务API。
2. 克隆源码

打开我们的WSL主机终端,然后输入下面的命令
  1. cd /home
  2. git clone https://github.com/eosphoros-ai/DB-GPT.git
复制代码
3. 安装miniconda

(1)快速安装miniconda

  1. # 下载安装miniconda脚本并执行
  2. mkdir -p ~/miniconda3
  3. wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh -O ~/miniconda3/miniconda.sh
  4. bash ~/miniconda3/miniconda.sh -b -u -p ~/miniconda3
  5. rm -rf ~/miniconda3/miniconda.sh
  6. # miniconda初始化
  7. ~/miniconda3/bin/conda init bash
  8. ~/miniconda3/bin/conda init zsh
复制代码
(2)配置conda环境变量

编辑/etc/profile
  1. vim /etc/profile
复制代码
在文件末尾追加路径
  1. export PATH=~/miniconda3/bin:$PATH
复制代码
激活profile
  1. source /etc/profile
复制代码
(3)配置国内镜像源

  1. conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
  2. conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
  3. conda config --set show_channel_urls yes
  4. pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple
复制代码
或者直接改~/.condarc配置文件
  1. channels:
  2.   - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
  3.   - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
  4.   - https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/
  5.   - https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/
  6.   - https://mirrors.sjtug.sjtu.edu.cn/anaconda/pkgs/main/
  7.   - https://mirrors.sjtug.sjtu.edu.cn/anaconda/pkgs/free/
  8.   - https://mirrors.sjtug.sjtu.edu.cn/anaconda/cloud/conda-forge/
  9. ssl_verify: true
复制代码
4. 配置DB-GPT虚拟环境

(1)激活conda虚拟环境

  1. source ~/miniconda3/bin/activate
复制代码
(2)配置开机启动base环境(Optional)

配置之后不消每次执行第(4)步
  1. conda config --set auto_activate_base true
复制代码
(3)配置dbgpt python环境

  1. conda create -n dbgpt_env python=3.10
  2. conda activate dbgpt_env
  3. cd /home/DB-GPT
  4. pip install -e ".[default]"
复制代码
5. 下载大模子

   这里需要访问huggingface官网下载模子,且需要下载git-lfs
  (1)git-lfs

下载git-lfs
  1. apt-get install git-lfs
复制代码
初始化git-lfs
  1. git lfs install
复制代码
(2) 下载LLM模子和Embedding模子

  1. cd /home/DB-GPT
  2. mkdir models and cd models
  3. #### embedding model
  4. git clone https://huggingface.co/GanymedeNil/text2vec-large-chinese
  5. or
  6. git clone https://huggingface.co/moka-ai/m3e-large
  7. #### llm model, if you use openai or Azure or tongyi llm api service, you don't need to download llm model
  8. git clone https://huggingface.co/lmsys/vicuna-13b-v1.5
  9. or
  10. git clone https://huggingface.co/THUDM/chatglm2-6b
复制代码
如果你也和我一样无法成功下载模子,可以试试下面ModelScope提供的大模子
  1. git clone https://www.modelscope.cn/thomas/text2vec-large-chinese.git
  2. git clone https://www.modelscope.cn/ZhipuAI/chatglm2-6b.git
复制代码
(3)配置.env文件

  1. cd /home/DB-GPT
  2. cp .env.template .env
复制代码
可以在.env中配置基本参数,比方将LLM_MODEL设置为要使用的模子,LLM_MODEL官方保举使用vicuna-13b-v1.5。这里我使用的是chatglm2-6b。
  1. # 需要windows本地安装vscode
  2. code /home/DB-GPT/.env
  3. or
  4. vim /home/DB-GPT/.env
复制代码
这里由于我下载的是chatglm-6b,默认的配置是vicuna-13b-v1.5,因此这里我进行了修改

还可以修改数据库的配置,这里我没有进行修改,使用默认的SQLite
(4)运行DB-Gpt服务

加载SQLite的数据
  1. cd /home/DB-GPT
  2. bash ./scripts/examples/load_examples.sh
复制代码
运行db-gpt服务
  1. python pilot/server/dbgpt_server.py
复制代码
  确保运行在之前配置好的dbgpt_env虚拟环境中
  之后打开浏览器访问http://localhost:5000即可
三、DB-Gpt简单使用

1. 配置数据源

(1)打开数据库管理

没有加载SQLite数据或配置数据库的可以按照第二章第5节第(4)步中的指令执行配置数据库,这里产生的SQLite数据库位置为/home/DB-GPT/pilot/data/default_sqlite.db

(2)配置SQLite数据源

点击SQLite选项后,点击创建,之后填写本身定义的数据库名称

之后就可以尝试使用DB-Gpt了

   目前我使用0.4.0时经常会出现报错,看交流群里有人说0.3.9没有什么标题,如果你也和我一样可以尝试老的版本

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。




欢迎光临 IT评测·应用市场-qidao123.com (https://dis.qidao123.com/) Powered by Discuz! X3.4