玩转大模子之四（本地部署DB-GPT）

一、DB-GPT是啥
DB-GPT是一个开源框架，通过集成多种技术如SMMF、Text2SQL优化等，简化大模子在数据库应用中的开辟，支持数据处理、问答、RAG等功能，适用于数据3.0时代的高效应用构建。它强调隐私安全和模子管理，提供多种交互方式如数据库对话和Excel支持。

二、本地部署
1、下载代码并安装依赖

1. git clone https://github.com/eosphoros-ai/DB-GPT.git
2. cd DB-GPT
3. pip install -i https://pypi.tuna.tsinghua.edu.cn/simple -e ".[default]"
4. pip install -i https://pypi.tuna.tsinghua.edu.cn/simple -e ".[openai]"

复制代码

2、预备.env文件

1. LLM_MODEL=ollama_proxyllm
2. MODEL_SERVER=http://10.33.19.16:11434
3. PROXY_SERVER_URL=http://10.33.19.16:11434
4. PROXYLLM_BACKEND=qwen2:7b
5. PROXY_API_KEY=not_used
6. EMBEDDING_MODEL=proxy_ollama
7. proxy_ollama_proxy_server_url=http://10.33.19.16:11434
8. proxy_ollama_proxy_backend=nomic-embed-text:latest

复制代码

3、预备ollama环境
ollama安装过程就省略了。

1. ollama run nomic-embed-text:latest
2. ollama run qwen2:7b

复制代码

4、运行

1. python dbgpt/app/dbgpt_server.py

复制代码

访问地点：http://你的服务器ip:5670/

三、功能测试

1、普通对话

海量模子支持，包罗开源、API署理等几十种大语言模子。如LLaMA/LLaMA2、Baichuan、ChatGLM、文心、通义、智谱、星火等。

2、RAG知识库问答

支持内置、多文件格式上传、插件自抓取等方式自定义构建知识库，对海量结构化，非结构化数据做统一直量存储与检索。

3、数据库问答

支持很多范例的数据库。

除此之外，还支持excel文件分析

还支持工作流配置

四、总结

DB-GPT是一个支持多种对话功能的工具，‌包罗数据对话、‌数据库对话、‌Excel对话、‌知识库对话、‌报表分析和署理对话等。‌它在处理结构化和半结构化数据方面表现出色，‌能够明白用户的自然语言查询并将其正确转换为SQL语句，‌实行查询并返回效果。‌用户可以通过简朴的问答情势获取所需的数据洞察，‌这对于数据分析和业务决议非常有价值。‌

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。