DeepSeek本地摆设 (Windows+Ollama+Docker Desktop+ RAGFlow)
https://i-blog.csdnimg.cn/direct/fa1683f206ed4aa3970f47319ae55977.jpeg#pic_center实用场景:
1、商城的小机器人主动根据现实情况回复
2、需要7*24小时运行在线回复,如:在线购物、在线咨询、在线招生等
3、无人值守情况
2025年1月,DeepSeek 正式发布 DeepSeek-R1 推理大模型,DeepSeek-R1 成本代价低廉,性能卓越。
最近,DeepSeek的访问出现了不稳固的问题,一个有效的解决方案是进行本地化摆设。本地化摆设不光可以制止网络波动带来的影响,还能提供更高的隐私保护和数据安全性。通过本地化摆设,用户可以在自己的设备上运行DeepSeek模型,无需依靠外部网络连接,从而实现更稳固、更可靠的利用体验。
DeepSeek 提供了多种利用方式,满意差别用户的需求和场景。本地摆设在数据安全、性能、定制化、成本、离线可用性和技术自主性方面具有明显优势。
接下来我详细讲解下基于Windows+Ollama+Docker Desktop+ RAGFlow 的本地化摆设流程,并通过实例代码演示。
一、软硬件需求
1、 硬件需求
DeepSeek R1 本地摆设的硬件需求如下:
(1)基本保举设置:CPU: 8核或以上,内存: 32GB或以上,存储: 100GB SSD或以上。
(2)GPU: NVIDIA GTX2080或同等性能
(3)DeepSeek-7B 保举设置:RTX3060 以上显卡 + 16G以上 内存 + 50G SSD 存储空间
(4)DeepSeek-70B 保举设置:RTX4060 以上显卡 + 32G以上 内存 + 200G SSD 存储空间
(5)本教程利用的硬件设置为:
CPU: Intel xeon E5 2683 v3
内存: 24GB
存储: 500GB 7个机器Raid5的虚拟化ESXi底层
GPU: NVIDIA GTX 3060。
2、软件依靠
(1)DeepSeek R1 本地摆设的软件依靠包罗操纵系统、容器化工具、编程语言、深度学习框架、数据库、消息队列、Web 服务器、GPU 加快工具、版本控制、包管理工具、监控与日记工具以及安全工具。
(2)本教程采用 Windows10 19045版本、Ollama 0.5.12、docker 4.38.0、 RAGFlow。
二、安装ollama、git、docker desktop过程
(一)Ollama 下载与安装
1、 Ollama 的下载
Ollama 是一个开源的本地模型运行工具,可以方便地下载和运行各种开源模型,如 Llama、Qwen、DeepSeek 等。
Ollama 提供高效、灵活的大模型摆设和管明白决方案,可以简化模型的摆设流程。支持macOS、Linux、Windows 操纵系统。
官网地点:https://ollama.com/
下载地点:https://ollama.com/download
本教程选择 Ollama Windows 版本下载。
2、 Ollama 的安装
(1)下载完成后直接点击 OllamaSetup.exe 进行安装。
https://i-blog.csdnimg.cn/direct/2a51bf0d795940e7bdf9cefcc34822f7.png
https://i-blog.csdnimg.cn/direct/1b16d30ecd494e69a8ad08818a5cfd77.png
https://i-blog.csdnimg.cn/direct/3450c69abcf7493d8313b162c9157723.png
(2)安装完成后,cmd 打开命令行窗口,输入 “ollama -v” 测试,显示 ollama 的版本为 “0.5.12”,表明安装乐成。
https://i-blog.csdnimg.cn/direct/727c2fce12844e228b4cde06cea81d6f.png
3、设置情况变量:
(1)新建用户的情况变量后,注意大写与名称,重启,如下图:
https://i-blog.csdnimg.cn/direct/95b2406f15f3400c8cd9aa806192bc53.png
设置OLLAMA_HOST情况变量的作用是让虚拟机里的RAGFlow可以或许访问到本机上的Ollama,因为这里RAGFlow要通过Docker摆设,默认情况下ollama只能允许本机访问的。默认情况下Ollama监听的是localhost:11434。通过设置成0.0.0.0,这样Ollama就可以监听到本机所有的ip,这样虚拟机就可以访问到本机上的Ollama了。
(2)重启系统后,利用set命令查看设置的情况变量是否生效:
https://i-blog.csdnimg.cn/direct/3d19d89b04114016a3f46868a1527e44.png
4、 Ollama 的运行
Ollama 没有效户界面,在背景会主动运行,重启电脑也会主动启动。
打开浏览器,输入 :
“http://localhost:11434/”,
显示 “Ollama is running”。
https://i-blog.csdnimg.cn/direct/c219186f6733412cb0abac3ea136ad50.png
(二) deepseek-r1 模型安装
1、Ollama 安装 deepseek-r1 模型
(1)从 ollama 官网 查找 deepseek-r1 模型。
下载地点:https://ollama.com/download
https://i-blog.csdnimg.cn/direct/c5524dc2108e47409996d7e1e500a5c7.png
(2)点击进入 deepseek-r1 模型,可以选择差别版本的模型(1.5b/7b/14b/32b/70b/671b)。
2、deepseek-r1 提供多个版本,参数目越大,模型的性能越强盛,但也需要更多的存储和计算资源。
(1)1.5b 模型参数为15亿/1.1GB,
(2)7b 模型参数约为 70亿/4.7GB,
(3)14b 模型参数约为 140亿/9GB。
3、deepseek-r1 差别版本模型的实行命令差别:
(1)1.5b 的命令为:“ollama run deepseek-r1:1.5b”
(2)7b 的命令为:“ollama run deepseek-r1:7b”
(3)14b 的命令为:“ollama run deepseek-r1:14b”
保举大家先下载较小的 1.5b 模型,把本教程的安装程序跑通,再根据自己的硬件设置和需求安装适当的版本。
(4)本教程选择选择 1.5b 模型,在命令行窗口运行安装命令 “ollama run deepseek-r1:1.5b”,程序会主动下载和安装运行,如下图:
https://i-blog.csdnimg.cn/direct/f23368bd5d1c4772bbab32e8f4bd3422.png
4、ollama默认安装地点是 “C:\Users%username%.ollama\models”。如果要修改模型的保存地点,可以新建一个文件夹如 “C:\Model”,然后在系统情况变量添加系统变量:
(1)“变量名:OLLAMA_MODELS,
(2)变量值:C:\Model”。
https://i-blog.csdnimg.cn/direct/db2357077ced4569a9debc2b8a1d56b4.png
(4)安装完成后显示 “success”,表明安装乐成。
https://i-blog.csdnimg.cn/direct/a7832773a9f34f4cbe24ceda255ef949.png
(三)利用 deepseek-r1 模型
1、在命令行窗口运行命令 “ollama run deepseek-r1:1.5b”,就可以在提示行输入,与 deepseek-r1 进行聊天。
https://i-blog.csdnimg.cn/direct/96530e5e61b54f01beca95ccea799af3.png
https://i-blog.csdnimg.cn/direct/6877986fe90e46ecac69263153c260fb.png
2、输入 “/?”,可以获得帮助。
https://i-blog.csdnimg.cn/direct/a208c5f139fa45a5998c3f6499c67b97.png
通过本地命令行窗口可以利用 deepseek-r1,但这让人回到了 DOS 年代,交互体验很差。接下来我们安装Docker 和 RAGFlow。
(四)通过git工具下载RAGFlow源代码
1、发起通过git克隆仓库的方式下载RAGflow, windows系统默认没有git工具,以是先下载git工具
git工具下载地点:
https://git-scm.com/downloads/win
2、在win10中安装git工具
https://i-blog.csdnimg.cn/direct/19fb884109c44abab4afce4180a763d0.png
(1)实行Gitinstaller.exe,进入安装领导,如下图:
https://i-blog.csdnimg.cn/direct/e6f41562535645a5b9833c08c64380eb.png
(2)指定安装的路径,如下图:
https://i-blog.csdnimg.cn/direct/0a63ebb86b684874907b805c55555d5d.png
(3)勾选on the desktop,安装完成后,在图标显示git图标,如下图:
https://i-blog.csdnimg.cn/direct/c8e6bdf38ba54daeaa79ec01cae53763.png
(4)添加到开始菜单的程序组名称,默认利用Git,如下图:
https://i-blog.csdnimg.cn/direct/618fc3183b4444d689919d9bcc437256.png
(5)选择Git的编辑器,默认选择,也可选择自己常用的编辑器,如下图:
https://i-blog.csdnimg.cn/direct/7c297ff2e3464259b4bfb405a37a7c69.png
(6)调整新存储库中初始分支的名称您希望Git在“Git init”之后为初始分支定名什么?
默认是让git决定,也可选择覆盖新存储库的默认分支名称;新定名:常见的选择是“main”、“trunk”和“development”,指定初始分支应利用的名称“git init”:
https://i-blog.csdnimg.cn/direct/da111102c84241f6968eaee1b7e9e43a.png
(7)调整PATH情况,您希望如何从命令行利用Git?
仅利用Git Bash中的Git,这是最审慎的选择,因为您的PATH根本不会被修改,您只能利用Git Bash中的Git命令行工具。
默认第三方软件(保举)此选项仅向PATH添加一些最小的Git包装器,以制止利用可选的Unix工具来占用您的情况。您将可以或许利用Git Bash、命令提示符和WindowsPowerShell,以及在PATH中查找Git的任何第三方软件。
我们利用Prompt命令中的Git和可选Unix工具Git和可选Unix工具都将添加到您的PATH中。告诫:这将覆盖Windows工具,如“fnd”和“sort”。只有当你明白其含义时,才利用此选项。
https://i-blog.csdnimg.cn/direct/c9311504f68941a894109601f0fb793e.png
(8)选择利用哪个版本的ssh,利用git 自带的开放SSH,或利用外部的SSH,默认选择自带的SSH,如下图:
https://i-blog.csdnimg.cn/direct/0874a06f9c15442092f9641e899e8817.png
(9)选择HTTP传输后端,您希望Git利用哪个SSL/LLS库进行HTTPs连接?默认即可,如下图:
https://i-blog.csdnimg.cn/direct/9849995f3d9e4661a898246f001b7772.png
(10)设置行尾转换Git应该如那边理文本中的行尾?选择默认,如下图:
https://i-blog.csdnimg.cn/direct/4abd173c3bcd42a4bfbae2bd25454c55.png
(11)设置终端模拟器以与Git Bash一起利用您想与Git Bash一起利用哪个终端模拟器?选择default缺省,如下图:
https://i-blog.csdnimg.cn/direct/770f6f8076a54cfaa4462984d1666fab.png
(12)选择git pull的缺省行为,默认情况下应该做什么?选择默认,如图:
https://i-blog.csdnimg.cn/direct/b4996bc4c49e4ca6a5d4a3fe4b379745.png
(13)选择凭证助手,应该设置哪个根据助手?如下图:
https://i-blog.csdnimg.cn/direct/69c1a24d7568463fa7f2ffd71ea76dcc.png
(14)打开系统缓存,如下图:
https://i-blog.csdnimg.cn/direct/eb201d6312db42c6a3a887fa7c4f0794.png
(15)设置实验选项,这些功能正在积极开发中,您想实验一下吗?默认不勾选,如下图:
https://i-blog.csdnimg.cn/direct/8e7c684cce2f45b28ae16f2b6ff3c1aa.png
(16)开始安装,等待进度完成,如下图:
https://i-blog.csdnimg.cn/direct/a085f63f8b924b1198348f541cf153d0.png
(17)点击finish完成安装,如下图:
https://i-blog.csdnimg.cn/direct/9fe3b4c44a7e48109163bdf56d869c2e.png
2、打开CMD命令容器,实行命令完成git克隆仓库,命令如下:
git clone https://github.com/infiniflow/ragflow.git
https://i-blog.csdnimg.cn/direct/6930cb9493e04b7c9d91938c4369c04f.png
图中完成done到100%时,说明克隆下载完成
3、找到下载的RAGflow压缩包,放到D盘根目录下,解压RAGflow压缩包后,解压后文件夹的大小如图:
说明:若直接从官网下载的zip文件解压,解压后的文件夹大概69MB,是最小的运行情况。本例未采用。
https://i-blog.csdnimg.cn/direct/f4c0a434845b4b309dfa9fdc9c750bd9.png
(五)下载与安装docker
1、下载docker
Docker是一种虚拟化容器技术。Docker基于镜像,可以秒级启动各种容器。每一种容器都是一个完整的运行情况,容器之间相互隔离。
下载地点:https://www.docker.com/
https://i-blog.csdnimg.cn/direct/daf3371b3a4a4d9f998a1625a6cac35c.png
2、 查抄安装情况
(1)在 Windows 任务管理器中,查抄系统是否开启虚拟化。
打开任务管理器(Ctrl+Alt+Delete),选择:性能 - CPU - 虚拟化,确认“虚拟化”已启用。
https://i-blog.csdnimg.cn/direct/c86edd1d1ac04ffbb1faabadc00106ab.png
(2)如果windows 10是物理机,未开启虚拟化,则要开机重启按并按(F1/F2/DEL键,电脑品牌差别按键有差异)进入BIOS 进行设置:在 BIOS 选择:Advanced(高级)-- CPU Configuration – Secure Virtual Machine,设置为:Enabled(启用)。
(3)如果运行的windows 10是虚拟化情况,开启虚拟化如下图:
https://i-blog.csdnimg.cn/direct/a68472ee697e49c4886bc27b3dcab14c.png
(4)在 “控制面板” 打开 “程序”,然后点击 “启用或关闭 Windows 功能”,勾选 “Hyper-V 管理工具” 和 “Hyper-V 平台”。
https://i-blog.csdnimg.cn/direct/5da5432955b54f328adad357fae3c140.png
https://i-blog.csdnimg.cn/direct/eac33ca9dc45490fad9568350d2f8669.png
(5)以管理员身份打开命令行窗口,输入 “wsl --set-default-version 2”,将默认设置为 WSL 2。如果此处报错,进入第(7)步
https://i-blog.csdnimg.cn/direct/f51f1a4efa814c04ba173099ffe98ad5.png
通过实用于 Linux 的 Windows 子系统 (WSL),开发人员可以安装 Linux 发行版,并直接在 Windows 上利用 Linux 应用程序、实用程序和 Bash 命令行工具,不用进行任何修改。
(6)命令行窗口,输入 “wsl --update --web-download”,更新安装 wsl。
https://i-blog.csdnimg.cn/direct/678c277d57cf4bd08ff6c344697aedb9.png
(7)通过deepseek查看安装的条件要求,docker的要求如下:
https://i-blog.csdnimg.cn/direct/f2270f05ea674baab000bbeb17418b4b.png
(8)查看本机现运行的win10版本, 16299版本低于19041版本,如下图:
https://i-blog.csdnimg.cn/direct/8b5c9092bdb446cb8cf8f40b92229d3e.png
(9)此时需要对windows 10系统进行更新,如下图:
https://i-blog.csdnimg.cn/direct/63f2a5de95414f72840d846d5747f1a0.png
(10)更新完成后实行命令systeminfo查看系统的版本,如下图
https://i-blog.csdnimg.cn/direct/9d79200b42804df896231f6575dba3d0.png
(11)若不对windows进行系统补丁的更新,安装时会提示安装失败,win10专业版需要19044以上的版本,如下图:
https://i-blog.csdnimg.cn/direct/7ffd77c04ee44102b9e6fec435c93f27.png
3、开始安装 Docker Desktop,注:在更新完成win10系统的补丁后
Docker Desktop 是 Docker 官方提供的桌面应用程序,旨在让开发者可以或许在 Windows 和 macOS 系统上轻松地构建、运行和共享容器化应用程序。Docker Desktop 提供了一个方便的工具集,利用户可以或许快速摆设容器化应用程序,同时还包罗了一些强盛的功能和工具,如 Docker Engine、Docker CLI、Docker Compose 等。
(1)预备好下载的docker desktop安装程序docker Desktop installer.exe、安装实行的批处理文件a.bat、安装的空目录布局,如下图:
https://i-blog.csdnimg.cn/direct/5fbedba222e44d829c691202f94a5508.png
(2)上图中,安装docker desktop的批处理文件a.bat的内容如下(多行是1条命令):
start /w “” “Docker_Desktop_Installer.exe” install -accept-license --installation-dir=“D:\SoftWare\Docker\install” --wsl-default-data-root=“D:\SoftWare\Docker\install\Data” --windows-containers-default-data-root=“D:\SoftWare\Docker\install”
https://i-blog.csdnimg.cn/direct/3281b424da39438fa11037ef5078947c.png
(3)Docker在运行的过程中,需要较大的磁盘空间,对容器、卷、镜像包等进行存放,运行的镜像包还会涉及到deepseek模型,以是我们安装的过程中,将路径指定到非系统盘中,详细需要创建的空文件夹布局如下图(对照a.bat中的目录布局即可):
https://i-blog.csdnimg.cn/direct/e3e148309fc040bd9bfc4409bd6119eb.png
(4)预备好上面的3步后,双击a.bat实行安装docker desktop的过程,本例的docker desktop版本是4.38.0,如下图:
https://i-blog.csdnimg.cn/direct/6d1d4c6a97d748fb96dded7f718f38c7.png
(5)当出现对话框时,勾选以下2个选项,利用WSL 2代替Hyper-v,添加快捷方式到桌面,如下图:
https://i-blog.csdnimg.cn/direct/70fc3c9d22934870b2dd71278f18caab.png
(6)解压安装包,注意此时利用的是虚拟安卓情况,以是在电脑上实行pak的安装程序包,如下图:
https://i-blog.csdnimg.cn/direct/894bb05872ab4826a8bb8887c189ca10.png
(7)当安装完成后,命令窗口会出现succeeded乐成,如下图:
https://i-blog.csdnimg.cn/direct/8fdc18c4d0e9496d8a6e506a4bd8022b.png
(8)安装完成后,出现窗口,点close and restart重启系统,如下图:
https://i-blog.csdnimg.cn/direct/8a5cdd515a2a4d66be808ac84820930e.png
4、查抄验证docker desktop的版本及docker帐号初始化
(1)重启后,出现下图所示的画面,点击accept担当,如下图:
https://i-blog.csdnimg.cn/direct/160f51f6b31e46adbe6bd624e069f6be.png
(2)此时通过cmd窗口实行docker version查看docker的版本信息时,版本为27.5.1,表明安装乐成。如下图:
https://i-blog.csdnimg.cn/direct/13232617950f448cb83323b1b2110b67.png
(3)选择use recommended settings(requires administrator password)利用保举的设置(需要管理员密码),finish完成
https://i-blog.csdnimg.cn/direct/b9d929eab6ed4b139c942bc9047ff64e.png
(4)根据提示登录账号,如利用 GitHub 账号登录。
https://i-blog.csdnimg.cn/direct/70cdb48dc73c4a32bbdbe040e5d4134f.png
(5)进入欢迎界面,选择行业
https://i-blog.csdnimg.cn/direct/67f1e81f966d4f39ac810efcb5b6a485.png
(6)选择利用docker的应用方向
https://i-blog.csdnimg.cn/direct/dfd736daf1cb436cb4879da25333ca2e.png
(7)进入到docker desktop的主界面,如下图:
https://i-blog.csdnimg.cn/direct/2a20cffc326e4099b57672c22e369803.png
三、设置docker desktop、加载RAGflow镜像
(一)设置docker desktop
1、当设置docker setting设置报错时,如下图:
https://i-blog.csdnimg.cn/direct/fa749f475313404cbe265db0373f2183.png
2、上图中报错的处理方式,以cmd管理员模式运行以下命令,如下图:
bcdedit /set hypervisorlaunchtype auto
https://i-blog.csdnimg.cn/direct/c33c060ccf0c4290b65743448e5ff619.png
重启电脑后,以管理员身份运行Docker Desktop再点击设置就不会报错了。
3、ragflow默认下载的是瘦身版本,没有embedding模型,以是利用命令docker compose -f docker/docker-compose.yml up -d,加载模型,在加载过程中报错,如下图:
https://i-blog.csdnimg.cn/direct/0b07ca7dac274ac2a69c4eb6cffb60ba.png
4、镜像下载不了,解决方法是在docker desktop中设置国内镜像源:
(1)Docker中国区官方镜像
https://registry.docker-cn.com
(2)中科大
https://docker.mirrors.ustc.edu.cn/
(3)网易
http://hub-mirror.c.163.com/
(4)腾讯
https://mirror.ccs.tencentyun.com
(5)毫秒镜像:
https:// docker.1ms.run
(6)开源社镜像站点
https://mirror.azure.cn/
5、本例在docker Desktop中settings项docker Engine中,添加了2项国内的镜像站点,修改内容如下(注意符号用半角,括号有2种):
{
“builder”: {
“gc”: {
“defaultKeepStorage”: “20GB”,
“enabled”: true
}
},
“experimental”: false,
“registry-mirrors”: [
“https://docker.1ms.run”,
“https://mirror.azure.cn”
]
}
6、设置docker Engine详细修改内容后,如下图所示:
https://i-blog.csdnimg.cn/direct/1370455d21414ca59a6815d32a75c584.png
7、将默认为 v0.17.0-slim 版本,即未嵌入模型的 RAGFlow Docker 镜像,改成嵌入模型镜像,修改.env文件,详细修改如下图:
https://i-blog.csdnimg.cn/direct/bdb841f817024dbe92030a4389b8ca10.png
.env文件的路径在d:\ragflow\docker下
(二)加载ragflow镜像:
1、之前实行命令时,镜像下载不了,修改.env文件及设置后,再次实行命令docker compose –f docker/docker-compose.yml up –d 下载ragflow,实行cmd命令前,注意当前目录,如下图:
https://i-blog.csdnimg.cn/direct/eea868bde7b9464d833815ea64d51e6f.png
2、实行命令的过程中,如下图:
https://i-blog.csdnimg.cn/direct/d811a49bbadc4bd9b802608b3df99a78.png
3、实行命令结束后,提示mysql不健康,临时不处理,如下图:
https://i-blog.csdnimg.cn/direct/2e1f3fc7405347fcbf45f57bd4c50047.png
(1)Minio:Minio 是高性能分布式对象存储存储系统,属于开源软件,文件上传到此文件服务器。
(2)Redis:是一个开源的、高性能的键值存储数据库,文件解析的时候需要利用redis消息队列进行暂存,方便异步实行。
(3)Elastic search:可以或许处理大量的数据并提供实时的搜索和分析能力,存储向量数据、任务信息。
(4)MySql:存储用户信息、系统设置信息(好比设置知识库名称)、任务定义、实行状态、结果等。
(三)启动RAGflow
1、启动前,我们先查抄各已经安装的软件工具版本
(1)ollama版本号
https://i-blog.csdnimg.cn/direct/d3c9409842a54a73952eb546201f7a15.png
(2)docker desktop版本号
https://i-blog.csdnimg.cn/direct/24f986d76bb244cfa0ee97664f8da772.png
(3)wsl的版本号
https://i-blog.csdnimg.cn/direct/e0bafa32414548b3b986c31c6fad105f.png
2、启动ragflow(注:本例第2次安装时,把ragflow的目录,调整到了d:\)
(1)打开cmd窗口后,依次利用命令:
d:
cd \ragflow\docker
docker compose up -d
https://i-blog.csdnimg.cn/direct/3ed0360a0ce94294af554e46629814f7.png
(2)注意看到有Running时,说明正在运行,如下图:
https://i-blog.csdnimg.cn/direct/cd7e76cc8fbd4f27a88939d5717e49e6.png
(3)当所有中央件(mysql、minio、redis、Elastic search)显示状态为Running时,说明都运行正常
https://i-blog.csdnimg.cn/direct/68721cdcf3774599973a18c88254f2a5.png
3、当启动结束后,出现cmd命令提示符,此时实行命令查抄服务器状态,命令如下,实行如图:
docker logs -f ragflow-server
https://i-blog.csdnimg.cn/direct/5ba4821e8dd94305b89f41a83550765e.png
4、当cmd窗口中出现有RAGFlow的图形标识时,说明启动乐成了,如下图:
https://i-blog.csdnimg.cn/direct/67cbe00c009a43b2976e494b4170d48e.png
5、在启动信息的最后,有RAGFlow服务器运行的ip地点与端口号:
https://i-blog.csdnimg.cn/direct/d1323a0fe77449098fdfe2ca3da90f25.png
(四)注册登录到RAGflow
1、查看当前的ragflow端口号80是否开启,打开cmd窗口后,实行命令telnet <docker主机ip> 80 ,如下图:
https://i-blog.csdnimg.cn/direct/202fc7cc5793464688f5f1d5e5c83ded.png
2、当窗口左上角出现闪烁的光标,说明对应ip地点的80端口已开启,如下图:
https://i-blog.csdnimg.cn/direct/ff2204aa365747c08b223af08428e1a8.png
3、从浏览器地点栏输入http://192.168.0.63回车后可打开fagflow窗口
(1)登录界面,如下图:
https://i-blog.csdnimg.cn/direct/ead92a3bfb384d4db98daddc116b673b.png
(2)创建账户界面,如下图:
https://i-blog.csdnimg.cn/direct/67c9f3147d3c48f0924ad879d71f6375.png
(3)注册乐成界面,创建账户时,输入Email地点,密码,点Sign in,注册乐成后,屏幕中央出现Rigistered,即注册乐成,如下图:
https://i-blog.csdnimg.cn/direct/9782411f48c6474da8339f9787a85a3b.png
4、登录到RAGFlow服务器:
至此deepseek的本地安装摆设结束,后面开始创建知识库,让deepseek开始学习。
https://i-blog.csdnimg.cn/direct/ae82df3f8db74cb9a0eb9c74cfbd596d.png
四、deepseek创建知识库完成训练
1、点击个人中央-》模型提供商-》在此设置模型参数
https://i-blog.csdnimg.cn/direct/11a49ce740a04c51bb06807645503d87.png
https://i-blog.csdnimg.cn/direct/03675cbfcb18457b9f29fbbe163bebb3.png
2、添加系统模型,我们安装的是ollama,找到ollama图标后,点添加模型,如下图:
https://i-blog.csdnimg.cn/direct/310b99f309874241a5fe71ff124bb33e.png
3、添加好系统模型后,会显示在添加了的模型地区中,然后这个模型就可以利用了,如下图:
https://i-blog.csdnimg.cn/direct/1047c712ee6c4f1a93dc929e387f3b73.png
4、在上方点聊天,新建助理,如下图:
https://i-blog.csdnimg.cn/direct/4d0235071c53428db3bacc214a31a067.png
5、再点聊天,+,输入想提问的问题,此时提示知识库中没有相关内容,因为我们尚未建立知识库,以是接下来需要建立知识库给deepseek,让知识库解析成块,就可以回答相关的问题了。
https://i-blog.csdnimg.cn/direct/3c94d8082c5342808054800e9529c3d3.png
说明:几种差别模型的差异:嵌入模型提供数据体现,Img2txt和Sequence2txt模型生成文本,Rerank模型优化结果,聊天模型生成最终回复,TTS模型将文本转为语音。
6、新建知识库,如下图:
https://i-blog.csdnimg.cn/direct/59327742bf7b4154b424a2249b193bdd.png
7、设置知识库模型
(1)知识库的名称、语言、权限、嵌入模型、解析方法
https://i-blog.csdnimg.cn/direct/7a4a585a202b492cb6f83ac74c178319.png
(2)设置创建好的知识库模型,下拉到保存,如下图:
https://i-blog.csdnimg.cn/direct/89dd1bc0057549f6a919ed8a88493437.png
8、上传文件如下图:
https://i-blog.csdnimg.cn/direct/988cd600094944c885fbd64f4e23bebd.png
8、解析知识库的内容
https://i-blog.csdnimg.cn/direct/5a6157391cf8451997c9be70258eab32.png
9、解析时,对硬件的资源要求高:
(1)解析时对磁盘的利用率百分比,以是需要用速率高的磁盘,好比:SSD
https://i-blog.csdnimg.cn/direct/f8eb35c9985944559e1979672d95f8ec.png
(2)解析时,对CPU的要求高
https://i-blog.csdnimg.cn/direct/1a1b114c135c44b8b5473da06057de23.png
(3)解析需要肯定的时长,如下图:
https://i-blog.csdnimg.cn/direct/e7995bc480f24460bf5840af16f6580d.png
11、检索回答,需要先将文件解析成块后才能问答,
https://i-blog.csdnimg.cn/direct/2374a7a5ba214c7e9562683b10eb5c36.png
12、聊天助手知识问题,添加聊天助手做知识问答。
https://i-blog.csdnimg.cn/direct/8099aac0b5db4f50be9fbeafcfec907e.png
13、检索对磁盘的运行速度要求高,如下图:
https://i-blog.csdnimg.cn/direct/d9908cc3f5b04321a38ae638a2b32628.png
五、验证结果:
1、从搜索框中搜索,与知识库匹配,如下图:
https://i-blog.csdnimg.cn/direct/e5c982333c54463a956d818b57b2cf13.png
2、通过聊天框,可以搜索到知识库中相关的内容,如下图:
https://i-blog.csdnimg.cn/direct/d5e04cec5ae742739a6896dbed555703.png
乐成搜索到知识库的内容,也是基于创建知识库的应答,本文至此结束。通过利用Windows+Ollama+Docker Desktop+ RAGFlow,完成了deepseek_r1 1:1.5b模型的安装、运行测试。
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
页:
[1]