text2sql框架-DB-GPT使用总结

打印 上一主题 下一主题

主题 513|帖子 513|积分 1549

1. 说明

DB-GPT 是一个开源的 AI 原生数据应用开发框架
官方地址是:https://www.yuque.com/eosphoros/dbgpt-docs/
2. 项目下载

使用源码安装 DB-GPT,DB-GPT 的 Python 项目下载地址为 https://github.com/eosphoros-ai/DB-GPT
3. 安装 huggingface 客户端

DB-GPT 须要使用 huggingface 中的模型,须要先安装 huggingface 客户端


  • 安装 huggingface-cli
  1. pip install -U huggingface_hub
复制代码


  • 设置环境变量(Windows)
由于 huggingface 无法直接访问,因此须要设置 huggingface 代理网站
  1. HF_ENDPOINT                https://hf-mirror.com
复制代码
4. 安装 Python 依靠包

  1. pip install -r requirements/dev-requirements.txt
  2. pip install "dbgpt[default]"
  3. pip install openai
复制代码
依靠包安装相干内容参考 setup.py 文件
5. 代理模型准备

5.1. 安装 python 依靠包

安装阿里云模型服务灵积 DashScope 的 python 依靠包
  1. pip install dashscope
复制代码
5.2. 从 huggingface 下载 Embedding 模型

  1. mkdir models
  2. huggingface-cli download --resume-download GanymedeNil/text2vec-large-chinese --local-dir models/text2vec-large-chinese
复制代码
实行以上命令下载 text2vec-large-chinese 模型,–local-dir 参数指定模型下载后的本地保存路径
6. 代理模型设置

以下使用的是局域网内部署的 qwen2 模型,与 OpenAI 接口格式类似
在项目根目录增长. env 文件,内容如下:
  1. LLM_MODEL=chatgpt_proxyllm
  2. PROXY_API_KEY=...
  3. PROXY_SERVER_URL=...
  4. PROXYLLM_BACKEND=qwen2-72b
复制代码
各参数说明如下:


  • LLM_MODEL
使用固定值 chatgpt_proxyllm,代表须要访问 OpenAI 接口,或者通过代理访问 OpenAI 接口,或者访问与 OpenAI 格式类似的其他模型接口


  • PROXY_API_KEY
使用模型对应的 API Key,比方 “sk-xxx”


  • PROXY_SERVER_URL
指定访问 OpenAI 接口的地址,或者通过代理访问 OpenAI 接口的地址,或者与 OpenAI 格式类似的其他模型接口的地址
比方 “http://1.2.3.4:8080/chat/completions”


  • PROXYLLM_BACKEND
实际使用的模型名称,比方 “qwen2-72b”
7. 设置元数据库

默认使用本地的 sqlite,不须要额外设置
8. 启动应用

  1. python dbgpt/app/dbgpt_server.py
复制代码
9. DB-GPT 使用

10. 网页访问

启动日志中会显示
  1. =========================== WebServerParameters ===========================
  2. host: 0.0.0.0
  3. port: 5670
复制代码
对应的访问链接为
http://127.0.0.1:5670/
10.1. 验证模型访问

打开网页后,在首页显示的模型名称下方输入题目,点击按钮,验证模型访问
10.2. 添加数据库

在 DB-GPT 网页左侧边栏下方,点击 “Database”
点击须要访问的数据库对应类型的图标,比方 “MySQL”
点击右侧的 “Create” 按钮,输入数据库访问 URL 等信息并保存
10.3. 查询数据库数据——Chat Data

在 DB-GPT 网页左侧边栏上方,点击 “New Chat”
点击 “Chat Data”
在上方可以切换须要使用的模型及数据库
输入天然语言,从指定数据库查询对应的数据
10.4. 查询数据库表的等信息——Chat DB

在 DB-GPT 网页左侧边栏上方,点击 “New Chat”
点击 “Chat DB”
输入天然语言,从指定数据库查询对应的表结构等信息
10.5. 模型管理

在 DB-GPT 网页左侧边栏下方,点击 “Models”
显示当前已设置的模型信息及状态
点击 “Create Model” 可以创建新的模型

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

来自云龙湖轮廓分明的月亮

金牌会员
这个人很懒什么都没写!

标签云

快速回复 返回顶部 返回列表