玩转大模子之四（本地部署DB-GPT）
一、DB-GPT是啥DB-GPT是一个开源框架，通过集成多种技术如SMMF、Text2SQL优化等，简化大模子在数据库应用中的开辟，支持数据处理、问答、RAG等功能，适用于数据3.0时代的高效应用构建。它强调隐私安全和模子管理，提供多种交互方式如数据库对话和Excel支持。
https://i-blog.csdnimg.cn/direct/a8321dd4aa164bdc86f6aff7eb7bb927.png
二、本地部署
1、下载代码并安装依赖
git clone https://github.com/eosphoros-ai/DB-GPT.git
cd DB-GPT
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple -e "."
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple -e "." 2、预备.env文件
LLM_MODEL=ollama_proxyllm
MODEL_SERVER=http://10.33.19.16:11434
PROXY_SERVER_URL=http://10.33.19.16:11434
PROXYLLM_BACKEND=qwen2:7b
PROXY_API_KEY=not_used
EMBEDDING_MODEL=proxy_ollama
proxy_ollama_proxy_server_url=http://10.33.19.16:11434
proxy_ollama_proxy_backend=nomic-embed-text:latest 3、预备ollama环境
ollama安装过程就省略了。
ollama run nomic-embed-text:latest
ollama run qwen2:7b 4、运行
python dbgpt/app/dbgpt_server.py https://i-blog.csdnimg.cn/direct/72d53ffb390148f8a3259d71c9d6921f.png
访问地点：http://你的服务器ip:5670/
三、功能测试
1、普通对话
海量模子支持，包罗开源、API署理等几十种大语言模子。如LLaMA/LLaMA2、Baichuan、ChatGLM、文心、通义、智谱、星火等。
https://i-blog.csdnimg.cn/direct/70c14e0bf7f041dfb09764d7b5e6c688.png
2、RAG知识库问答
支持内置、多文件格式上传、插件自抓取等方式自定义构建知识库，对海量结构化，非结构化数据做统一直量存储与检索。
https://i-blog.csdnimg.cn/direct/330d695e12c4497798edc6f084d93563.png
https://i-blog.csdnimg.cn/direct/0cdd831850e24445a3079817eae3167f.png
3、数据库问答
支持很多范例的数据库。
https://i-blog.csdnimg.cn/direct/cd3d5babd5d74a30b76a03cd2bf07001.png
https://i-blog.csdnimg.cn/direct/6e96663712b845c8953de7198aa49632.png
https://i-blog.csdnimg.cn/direct/e89be8ea241d4e058a3cfecf753be85b.png
除此之外，还支持excel文件分析
https://i-blog.csdnimg.cn/direct/c0d6be9c6c7c4f36931183d1b760395d.png
还支持工作流配置
https://i-blog.csdnimg.cn/direct/dca67e7552a34d758574871659b52c7a.png
四、总结
DB-GPT是一个支持多种对话功能的工具，包罗数据对话、数据库对话、Excel对话、知识库对话、报表分析和署理对话等。它在处理结构化和半结构化数据方面表现出色，能够明白用户的自然语言查询并将其正确转换为SQL语句，实行查询并返回效果。用户可以通过简朴的问答情势获取所需的数据洞察，这对于数据分析和业务决议非常有价值。
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。
页:
[1]