openGauss DataVec + Dify,快速搭建你的智能助手平台

打印 上一主题 下一主题

主题 1544|帖子 1544|积分 4632

在当今数字化和智能化的时代,大语言模子(LLM)的应用正以前所未有的速率改变着各个范畴的工作方式和用户体验。Dify 作为一个开源的大语言模子应用开发平台,为开发者们提供了便捷且强盛的工具,助力构建从基础智能体到复杂人工智能工作流程的各类大语言模子应用。其核心上风在于集成了检索加强(RAG)引擎,通过对海量数据的智能检索与分析,能够精准地为大语言模子提供相关信息,极大地提升模子输出的准确性和相关性。 本文着重介绍如何部署Dify,并使用openGauss DataVec向量数据库作为RAG引擎语料库,从而搭建出高效智能的助手平台。
Dify部署

获取Dify源码

要开启Dify的部署之旅,首先必要获取其源码。Dify自1.1.0版本起,对openGauss提供了有力支持。因此,本文以 Dify1.1.0版本作为示例进行解说。你可以通过访问链接https://github.com/langgenius/dify/archive/refs/tags/1.1.0.zip,轻松下载该版本的源码压缩包。
配置参数

在获取源码压缩包后,必要创建特定目录并解压源码。具体操纵如下:
  1. mkdir /usr/local/difyunzip 1.1.0.zip -d /usr/local/dify/cd /usr/local/dify/dify-1.1.0/docker
复制代码
接下来的关键步调是配置环境变量。在此过程中,必要修改.env文件,将VECTOR_STORE设置为opengauss。执行以下命令进行文件复制和编辑:​​​​​​​
  1. cp .env.example .envvim .env
复制代码


启动容器

完成上述配置后,执行以下命令,系统将自动拉取对应的Docker镜像,并启动Dify服务:
  1. docker-compose up -d
复制代码
容器启动完毕后,为了确保各项服务均正常运行,可以执行docker ps命令。若一切顺利,你将看到类似下图所示的运行状态:


AI服务集成

创建用户并登陆

当Dify服务成功启动后,在浏览器中访问本地部署的Dify web服务页面:
  1. http://your_server_ip
复制代码
在该页面,你可以创建管理员用户。只需输入有效的邮箱及自界说密码即可完成创建并登录:


接入大模子

在主界面点击右上角用户名,然后点击“设置”进入设置页面,单击“模子供应商”,选择“Ollama”单击“安装”按钮。(ollama服务及大模子部署参考:
openGauss-RAG实践)


安装完成后,在添加模子页面,“模子范例”选择“LLM”,配置如下:


接着选择“Text Embeding”,配置如下:


导入语料

本文以openGauss语料知识为例,为你展示如何导入语料。在页面中单击 “知识库” 标签,选择 “导入已有文本” 选项,即可将本地预备好的语料导入到系统中:


导入时,“Embeding 模子” 需选择之前配置好的模子,然后单击 “保存并处理” 按钮:


此时,系统将自动处理语料,并将其存入 openGauss 向量数据库。你只需耐心等候处理完成,当看到类似下图的提示时,就表明语料已经成功存储:


对话

完成上述全部设置后,就可以开启聊天窗口进行对话测试了。在聊天窗口中输入题目,然后等候系统回答:


从首次回答效果可以看出,回答质量较低,形貌并禁绝确。接下来,我们引入之前导入的openGauss语料库作为上下文,再次进行问答:


可以清晰地看到,借助于openGauss语料库,系统给出了更为准确的答案。至此,基于openGauss向量数据库的Dify RAG引擎搭建圆满完成。

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

冬雨财经

论坛元老
这个人很懒什么都没写!
快速回复 返回顶部 返回列表