用户国营 发表于 2025-3-2 10:40:18

mac下dify+deepseek摆设,实现私人知识库

现在deepseek 十分火爆,本地摆设实现私有知识库,资助本身日常工作,上一篇使用工具cherry studio可以做到私人知识库。本日学习了一下,使用Dify链接deepseek,实现私人知识库,也非常不错,这里分享下我的学习过程吧。
一、克隆 Dify 源代码至本地情况。
git clone https://github.com/langgenius/dify.git 当然你也可以直接登录网址 https://github.com/langgenius/dify   点击Dnowload ZIP。
二、启动Dify(条件是先安装docker for mac)
1、进入 Dify 源代码的 Docker 目次
cd dify/docker 2、复制情况配置文件
cp .env.example .env 3、启动 Docker 容器
docker-compose up -d 安装好后,可以通过docker ps 检察所有容器是否都已正常运行。
4、访问dify
# 初始化访问,设置管理员账户
http://localhost/install 三、Dify配置deepseek大模型
首先从账户中心-设置中,点开。然后可以点击 ”模型供应商“。这时间可以看到很多大模型的供应商。我们可以选择添加本身已经注册大概本地摆设过得大模型。
https://i-blog.csdnimg.cn/direct/18dae5cf10f84dd8b9791c21795344e8.png
可以直接选择deepseek的大模型,通过填写本身的api-key,添加后,可以看到已经添加的模型。
https://i-blog.csdnimg.cn/direct/3428bdffc1014d90905115cc1fac82e8.png
当然你也可以通过siliconflow来实现你的知识库,注册账户后,将api-key填入即可。
这里介绍下如何绑定本身本地情况通过ollma摆设的deepseek的模型,如下:
首先在模型供应商中找到ollma,然后点击添加大模型,填写本地摆设的模型名称,
留意:这里的底子URL填写http://host.docker.internal:11434,localhost是无法连接的。这里可以参考Dify官网检察
https://i-blog.csdnimg.cn/direct/a6858ffb8a7541d88596b44501fd00fb.png
添加好后,在按照同样的方法,继续添加Text Embedding。这是为知识库添加bge-large模型
https://i-blog.csdnimg.cn/direct/b156cba44cf54dc0af4285730cf89b7b.png
当然这里的模型名称是本身本地摆设的模型名称。
四、搭建知识库
1、来到Dify的主界面,点击知识库。创建新的知识库
https://i-blog.csdnimg.cn/direct/bb62f78a8ce5407da42e793a1aa76bad.png
2、上传文档
https://i-blog.csdnimg.cn/direct/858137a5640044d38f8fe377600f4f9f.png
文档上传成功后,会自动嵌入,然后向量化。
https://i-blog.csdnimg.cn/direct/39b5c6e5005b48d5a62a61bb7ac3987a.png
文档也已经被分段处理
https://i-blog.csdnimg.cn/direct/9b10ae0bb03647a8a5b60375075d87f3.png
3、引用知识库
创建空白应用-创建谈天助手
https://i-blog.csdnimg.cn/direct/9e0f6a786d10490aa7611f861ba6ff06.png
然后在谈天界面中点击添加上下文,也就是你刚才创建的知识库。
https://i-blog.csdnimg.cn/direct/1fce062a20fc4bd4ae2dfb11ffc19adf.png
此时在右边的对话框中就可以输入,大模型会根据知识库举行查询。在最后的界面中能看到引用自刚才创建的知识库文件。
知识库创建好后,你可以本地使用,如果想外部访问这个知识库,可以添加外部知识库API。配置好API Endpoint后就可以。
https://i-blog.csdnimg.cn/direct/9f1c27fbe08246968755e336d5add541.png
当然,想要让外部访问到,你本身的机器网络也需要在公网上。
五、Dify的亮点
在最后,照旧想说一下Dify非常棒的功能,
https://i-blog.csdnimg.cn/direct/92b76b7ab7d248c7a5420678f4ae9570.png
Dify和cherry- studio、chatbox都可以随时切换谈天对话的大模型,像知识库这种,它还可以直接将谈天对话功能嵌入到本身的网站中去,这一点和阿里云的知识库很像。
https://i-blog.csdnimg.cn/direct/b0843957a62c4b48a8ca22b5cc1d2e12.png
它还有一个亮点让我以为很惊喜的是,它有本身的API接口,可以直接对接,实现文件上传啊,文本创建啊等,更加灵活的实现本身的知识库功能,将Dify用于一个可视化的知识库管理页面来使用,实在是太棒了。

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
页: [1]
查看完整版本: mac下dify+deepseek摆设,实现私人知识库