来自云龙湖轮廓分明的月亮 发表于 2024-8-19 08:05:17

text2sql框架-DB-GPT使用总结

1. 说明

DB-GPT 是一个开源的 AI 原生数据应用开发框架
官方地址是:https://www.yuque.com/eosphoros/dbgpt-docs/
2. 项目下载

使用源码安装 DB-GPT,DB-GPT 的 Python 项目下载地址为 https://github.com/eosphoros-ai/DB-GPT
3. 安装 huggingface 客户端

DB-GPT 须要使用 huggingface 中的模型,须要先安装 huggingface 客户端


[*]安装 huggingface-cli
pip install -U huggingface_hub


[*]设置环境变量(Windows)
由于 huggingface 无法直接访问,因此须要设置 huggingface 代理网站
HF_ENDPOINT                https://hf-mirror.com
4. 安装 Python 依靠包

pip install -r requirements/dev-requirements.txt
pip install "dbgpt"
pip install openai
依靠包安装相干内容参考 setup.py 文件
5. 代理模型准备

5.1. 安装 python 依靠包

安装阿里云模型服务灵积 DashScope 的 python 依靠包
pip install dashscope
5.2. 从 huggingface 下载 Embedding 模型

mkdir models

huggingface-cli download --resume-download GanymedeNil/text2vec-large-chinese --local-dir models/text2vec-large-chinese
实行以上命令下载 text2vec-large-chinese 模型,–local-dir 参数指定模型下载后的本地保存路径
6. 代理模型设置

以下使用的是局域网内部署的 qwen2 模型,与 OpenAI 接口格式类似
在项目根目录增长. env 文件,内容如下:
LLM_MODEL=chatgpt_proxyllm
PROXY_API_KEY=...
PROXY_SERVER_URL=...
PROXYLLM_BACKEND=qwen2-72b
各参数说明如下:


[*]LLM_MODEL
使用固定值 chatgpt_proxyllm,代表须要访问 OpenAI 接口,或者通过代理访问 OpenAI 接口,或者访问与 OpenAI 格式类似的其他模型接口


[*]PROXY_API_KEY
使用模型对应的 API Key,比方 “sk-xxx”


[*]PROXY_SERVER_URL
指定访问 OpenAI 接口的地址,或者通过代理访问 OpenAI 接口的地址,或者与 OpenAI 格式类似的其他模型接口的地址
比方 “http://1.2.3.4:8080/chat/completions”


[*]PROXYLLM_BACKEND
实际使用的模型名称,比方 “qwen2-72b”
7. 设置元数据库

默认使用本地的 sqlite,不须要额外设置
8. 启动应用

python dbgpt/app/dbgpt_server.py
9. DB-GPT 使用

10. 网页访问

启动日志中会显示
=========================== WebServerParameters ===========================

host: 0.0.0.0
port: 5670
对应的访问链接为
http://127.0.0.1:5670/
10.1. 验证模型访问

打开网页后,在首页显示的模型名称下方输入题目,点击按钮,验证模型访问
10.2. 添加数据库

在 DB-GPT 网页左侧边栏下方,点击 “Database”
点击须要访问的数据库对应类型的图标,比方 “MySQL”
点击右侧的 “Create” 按钮,输入数据库访问 URL 等信息并保存
10.3. 查询数据库数据——Chat Data

在 DB-GPT 网页左侧边栏上方,点击 “New Chat”
点击 “Chat Data”
在上方可以切换须要使用的模型及数据库
输入天然语言,从指定数据库查询对应的数据
10.4. 查询数据库表的等信息——Chat DB

在 DB-GPT 网页左侧边栏上方,点击 “New Chat”
点击 “Chat DB”
输入天然语言,从指定数据库查询对应的表结构等信息
10.5. 模型管理

在 DB-GPT 网页左侧边栏下方,点击 “Models”
显示当前已设置的模型信息及状态
点击 “Create Model” 可以创建新的模型

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
页: [1]
查看完整版本: text2sql框架-DB-GPT使用总结