农民 发表于 昨天 21:32

2025年本地摆设deepseek和智能体神器:Dify开源LLM应用开辟平台本地化摆设全流程指南

一、Dify先容

在天生式AI技能快速迭代的配景下,怎样高效构建并管理大语言模子(LLM)应用成为开辟者关注的核心标题。Dify作为一款开源LLM应用开辟平台,依附其融合后端即服务(BaaS)与LLMOps的操持理念,为开辟者提供从原型操持到生产摆设的全流程支持。本日我来体系解说Dify的本地化摆设方法、模子集成及远程访问方案,助力开辟者打造私有化AI开辟环境。
Dify官网 https://dify.ai/zh
https://i-blog.csdnimg.cn/direct/e441b485b6364da59e8f8e3a9b76c2dc.png#pic_center
二、Dify的核心功能与上风



[*]全栈开辟支持
Dify内置Prompt编排、RAG引擎、Agent框架等工具链,支持多模态模子接入(如GPT-4、Claude系列、Llama等),并可通过API与现有业务体系无缝集成。
[*]开源与可扩展性
支持自摆设至本地服务器,开辟者可基于Docker快速搭建环境,并通过插件机制扩展功能(如自界说工具链、知识库管理)。
[*]企业级羁系与协作
提供多租户管理、用量监控及资源分析功能,实用于金融、医疗等需高合规性场景。
三、基于Docker的Dify本地化摆设全流程

1. 下载安装Dify



[*]下载dify的官方安装包,dify是开源工具,因此通过github下载:dify - github
# 克隆官方仓库
git clone https://github.com/langgenius/dify.git
cd dify/docker


[*]设置环境变量
# 配置环境变量
cp .env.example .env


[*]修改docker目次下的 .env文件,使其能本地摆设
# The backend URL of the console API,
# used to concatenate the authorization callback.
# If empty,it is the same domain.
# Example: https://api.console.dify.ai
CONSOLE API URL=http://localhost


[*]安装并启动容器
# 启动容器
docker compose up -d


[*]验证服务状态
# 验证服务状态
docker compose ps# 确保api、worker、nginx等容器正常运行
2. Dify本地访问与初始化



[*]管理员注册
初次访问时间,会先访问到欣赏器访问http://localhost/install,创建管理员邮箱、昵称、暗码并完成初始化设置。


[*]管理界面登录
完成管理员注册设置后会跳转至http://localhost/signin用刚才设置的邮箱和暗码举行登录。
https://i-blog.csdnimg.cn/direct/859db2ce51bf47d29f8eb53722206f9f.png
初次登录需设置模子供应商(如OpenAI、Ollama)及API密钥,下文以ollama为例子。
3. Ollama本地集成



[*] 摆设Ollama框架
本地摆设ollama框架可以参考这篇文章,这里不再赘述。
[*] 在Dify中接入Ollama

[*]1.进入Dify设置界面
https://i-blog.csdnimg.cn/direct/53d5c7fc90ea41918994c161fbd5722a.png
   

[*]2.进入模子供应商并添加Ollama,举行安装
https://i-blog.csdnimg.cn/direct/3bf8667326f541659d63014a0e884766.png
   

[*]3.安装完成后,在模子列表中出现Ollama,点击添加模子
https://i-blog.csdnimg.cn/direct/73e16fc1128f4c3fbb6e6df6eeccd3ab.png
   

[*] 4.为了确保本地的ollama可以被其他应用访问,ollamahost必要设置为0.0.0.0。设置电脑环境变量,增长变量名OLLAMA_HOST,变量值为0.0.0.0
[*] 设置环境如下:
https://i-blog.csdnimg.cn/direct/c690f79a946a44d5beb133de7f326b5d.png
   

[*] 5.添加一个8B的模子
[*] 模子名称必须是ollama本地库里存在的模子名称deepseek-r1:8b
[*] 根本URL设置默以为http://host.docker.internal:11434
https://i-blog.csdnimg.cn/direct/9e1ebe6a7da24c80bcc1fddc1b8cf2a1.png
[*] 6.点击生存,本地环境就摆设好了。

4. Dify大模子运行



[*]进入工作室界面,选择创建空缺应用
https://i-blog.csdnimg.cn/direct/9c2ee552c6734d5ba721ac201539ffa9.png


[*]这里方便演示,选择创建谈天助手,就可以快速创建大模子应用。固然你也可以天生其他的Agent、文本天生等应用。点击创建
https://i-blog.csdnimg.cn/direct/3eb06310613f4fd3915aef3cafde6b0f.png


[*]创建完成后,就可以在探索里使用我们发布的大模子。
https://i-blog.csdnimg.cn/direct/cf48f94a96e64a80b44e5071965e3150.png


[*]除此之外,Dify还支持将你的大模子以iframe或API情势嵌入到其他应用中。得当举行二次开辟。
结语

Dify的本地化摆设不但为开辟者提供了高度可控的AI应用开辟环境,还通过开源生态与机动扩展性低沉了技能门槛。随着LLM技能的演进,Dify将一连赋能企业及个人开辟者,推动天生式AI应用的普惠化与产业化。

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
页: [1]
查看完整版本: 2025年本地摆设deepseek和智能体神器:Dify开源LLM应用开辟平台本地化摆设全流程指南