DeepSeek R1本地化摆设——企业数据零泄露+Web访问+AnythingLLM 个人知识库
https://i-blog.csdnimg.cn/img_convert/0861e08032565e749df9c2adb47e1084.jpeg择要
本文择要
/ www.yxclass.net
https://i-blog.csdnimg.cn/img_convert/9fc18e37ff7b0178e271ceef56510dd0.png
01
Ollama PC本地化摆设
/ www.yxclass.net
下载Ollama
Ollama 是开源大模子应用，能本地快速运行各类模子，支持多模子切换，操纵轻便，为用户提供高效本地化 AI 体验。
网址：https://ollama.com/download
https://i-blog.csdnimg.cn/img_convert/3ee8afcd795a873847fb95e18c89d259.png
Linux系统必要执行下面命令：
curl -fsSL https://ollama.com/install.sh | sh
网盘下载Ollama
Githup有时必要邪术才气访问，而且国外网速超等慢，因此我为大家提供了便捷的下载方式。关注我公众号后，发送“ollama”就可以获取下载链接。
https://i-blog.csdnimg.cn/img_convert/8245ea28eb6f9547b1ec0be4b6ff13ad.png
安装Ollama
https://i-blog.csdnimg.cn/img_convert/bb9f75fe10c9c631424425878f8eaecf.png
双击下载好的安装文件，点击「Install」开始安装。如今的Ollama会默认安装到C盘，路径如下：
C:\Users%username%\AppData\Local\Programs\Ollama
https://i-blog.csdnimg.cn/img_convert/a39b65e37d88dddcb14203ba00e91545.png
配置Ollama的环境变量
Ollama 服务器默认只答应来自127.0.0.1的跨域哀求，如果你计划在其它前端面板中调用 Ollama API，比如Chatbox和AnythingLLM，必要放开跨域限制。
放开跨域限制要配置下面两个环境变量：
OLLAMA_HOST：0.0.0.0
OLLAMA_ORIGINS：*
配置Ollama的环境变量前肯定要退出Ollama，否则下边的环境配置无法见效！
右键图标，会出现退出的按钮「Quit Ollama」。
https://i-blog.csdnimg.cn/img_convert/b5d2c7888004bee7c2be97b819c98fc0.png
1、在电脑的搜索框输入“编辑系统环境变量”，然后点击搜索出的链接。
2、新建用户环境变量。
https://i-blog.csdnimg.cn/img_convert/0e8cfa41416188a6c8f759c5998df2e9.png
https://i-blog.csdnimg.cn/img_convert/ac6e82569b64a1d9c95202db814faf3c.png
环境变量新建生存成功后，再次进入看到下面两个变量就是环境配置好了。
https://i-blog.csdnimg.cn/img_convert/200104ef3a83de63b58c0856b2a3e909.png
关闭开机自启动
Ollama 默认会随 Windows 主动启动，可以在「文件资源管理器」的所在栏中访问以下路径，删除其中的Ollama.lnk快捷方式文件，阻止它主动启动。
复制下面的路径粘贴到文件搜索栏：
%APPDATA%\Microsoft\Windows\Start Menu\Programs\Startup
https://i-blog.csdnimg.cn/img_convert/f8cda1e1294dd024e36c5c38756ea9d9.png
启动Ollama
将上述更改的环境变量生存后，在「开始」菜单中找到 Ollama，点击图标就可以重新启动，在cmd窗口执行ollama命令。
https://i-blog.csdnimg.cn/img_convert/368557e43fdef5780d019fbf3aa5b3b6.png
02
deepseek-r1模子
/ www.yxclass.net
模子查找
Ollama安装好后就可以去选择deepseek-r1模子了。
查找网址：
https://ollama.com/search
https://i-blog.csdnimg.cn/img_convert/60ad1a25715fa37ced186821945e6008.png
deepseek-r1各规模模子对本机PC的硬件要求：
https://i-blog.csdnimg.cn/img_convert/89dfc41bbf2508874e6633d4e74315a7.jpeg
选择模子
平常个人电脑选择1.5b的模子就可以了，我16核24G的笔记本一开始选择8b的模子答复很慢，厥后改为1.5b的模子问答就快许多了。
在Ollama上选择对应的模子参数，然后复制安装命令到cmd窗口中。
ollama run deepseek-r1:1.5b
https://i-blog.csdnimg.cn/img_convert/8fb4b24d8447a92288772bfc4f20e317.png
运行命令
https://i-blog.csdnimg.cn/img_convert/bd483f0b02aa5a9b60493219f5e7e52d.png
Ollama启动deepseek
没有取消开机自启，只需打开cmd窗口，然后执行指令ollama run <模子名称>。
例如：
ollama run deepseek-r1:1.5b
取消开机自启，电脑开机后必要进入到安装的ollama.exe目录，然后执行指令ollama run <模子名称>。
例如：
ollama run deepseek-r1:8b
https://i-blog.csdnimg.cn/img_convert/c50f6b1383bd38f69731b2293fab6f81.png
03
Chatbox
/ www.yxclass.net
DeepSeek+Chatbox
本地cmd窗口命令行使用不太直观，可以安装Chatbox，通过UI页面与模子举行提问，提高可交互性。
Chatbox AI 是一款 AI 客户端应用和智能助手，支持众多先辈的 AI 模子和 API，可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用。
下载网址
https://chatboxai.app/zh/install?download
https://i-blog.csdnimg.cn/img_convert/5878b2128d0d412cc3225d082a7ecd3b.png
本地使用Ollama摆设完成后，就可以使用Chatbox举行调用。
根据官方文档给出的步调举行配置
https://chatboxai.app/zh/help-center/connect-chatbox-remote-ollama-service-guide
安装Chatbox
https://i-blog.csdnimg.cn/img_convert/65d6a02a33069d7fce44832c4cab77ef.png
安装成功后，打开APP，选择Use My Own API Key / Local Model。
然后打开的对话框根据提示选择对应的模子。
模子提供方选择【Ollama API】。
模子选择自己的安装的模子。
https://i-blog.csdnimg.cn/img_convert/40a679a388d0958efc77457a1b2db20a.png
问答测试
https://i-blog.csdnimg.cn/img_convert/0825f95dd36086dab1b81f87fe75f69d.png
04
DeepSeek知识库搭建
/ www.yxclass.net
知识库应用场景
在日常的学习与工作中，你大概经常深陷如许的困境：手头堆积着如山的 PDF 文件，急需从中找出特定信息，于是习惯性地依赖 Ctrl+F 快捷键，在繁杂的文档海洋里反复探索，耗费大量时间，却依旧一无所获，挫败感扑面而来。
尤其是遇到那些格式怪异的文档时，常规的搜索功能完全失效，简直让人无从动手。其实，我们都渴望着一种更便捷、高效的解决方案。假想一下，倘若存在一款工具，只需将文档轻松 “投喂” 给 AI，随后便能如同与老友交谈一般，通过智能对话精准、迅速地获取关键内容，彻底告别繁琐的手动搜索，这该多美好。而 AnythingLLM 正是如许一款契合需求的得力工具，有它助力，信息检索之路将畅行无阻。
AnythingLLM
AnythingLLM 由 mintplexlabs 推出，是一款开源全栈应用。它能将多种格式的文档转化为大语言模子的谈天配景知识，支持多用户管理，可自选模子与向量数据库，上手简单。其具备自定义 AI 署理、多模态等特性，创建工作区可有序管理文档，实用于学术、办公、客服等场景，有用助力信息获取，提升服从。
下载网址：
https://anythingllm.com/desktop
点击.exe文件即可安装，如果发现以管理员身份安装没有反应，就选中安装包，右键选择“属性”查看安装文件是否已经被锁定。
https://i-blog.csdnimg.cn/img_convert/a72ff3079d6419706e822a7f4d9a928f.png
配置模子的毗连信息
安装成功后，打开APP就根据提示一直下一步就行了，安装好开始配置 这里选Ollama 所在按它默认的填就行。
打开后可以点击【open setting】查看配置内容，自己的AI模子是使用Ollama安装的，那么LLM的首选项就是Ollama。
https://i-blog.csdnimg.cn/img_convert/00a27a90c710bd2c880b8ed22652e79b.jpeg
https://i-blog.csdnimg.cn/img_convert/2ffe86d098ef3fbee5aac48f242537ca.png
https://i-blog.csdnimg.cn/img_convert/5d983c01946368c838741bdde96fe0a1.png
https://i-blog.csdnimg.cn/img_convert/e50558c6662532a48a35ee2b61142493.png
新建工作区
页面打开后点击新建工作区，谈天设置的工作区LLM提供者选择Ollama。
https://i-blog.csdnimg.cn/img_convert/2983573afa62cdb973520cf30c6dc720.png
当未向 DeepSeek 上传个人文档以丰富其知识储备时，向它提出一些基于特定个人资料、小众范畴专业文档或私有项目细节等方面的题目，你会明显察觉到它无法给出精准且针对性的答复，因为它缺乏相应的专属信息输入。
https://i-blog.csdnimg.cn/img_convert/cdd116936db2aeb5186467c2826255d8.png
给本地AI投喂私密文档
按照以下步调给AI投喂个人文档。
https://i-blog.csdnimg.cn/img_convert/762a6141200e4c8d3de6b93c7e37b773.png
https://i-blog.csdnimg.cn/img_convert/defd4f3963d90b46ac824f11d102f4f1.png
https://i-blog.csdnimg.cn/img_convert/ea68bd3b70c642acca2cbdbba333d097.png
https://i-blog.csdnimg.cn/img_convert/cce8f94e89b99a19593d1d1fb864d9df.png
https://i-blog.csdnimg.cn/img_convert/05a79aa36e5a14b8e96e3f56ad81d576.png
根据上传文档的内容举行提问
将个人文档、商务报告、学术论文等各类文档上传后，在对话框输入与之相关的清晰题目，如 “《三体全集》多少钱”。点击发送，DeepSeek 会快速分析文档，给出精准答复。
https://i-blog.csdnimg.cn/img_convert/089e086f7dbccb86edefc35e678f2d25.png
https://i-blog.csdnimg.cn/img_convert/00f45f3b60e278d9ffeb8b5c869983f3.png
https://i-blog.csdnimg.cn/img_convert/9e49f76d2150a63179b341fd2a26b906.png
数据迁徙
AnythingLLM数据迁徙：
1、查看数据存储位置：AnythingLLM 一般会将数据存储在其默认的向量数据库中，可在软件设置的 “向量数据库” 选项中查看详细存储路径。
2、使用数据库工具导出：如果向量数据库是常见的类型，如 LanceDB 等，可以实验使用相应的数据库管理工具毗连到该数据库，然后执行导出操纵，将数据导出为 CSV、JSON 等常见格式。
3、查看工作区文档列表：在 AnythingLLM 的工作区中，通常会有已上传文档的列表，可通过点击工作区界面中的相关按钮或菜单选项，查找是否有导出文档的功能，大概会提供将单个或多个文档批量导出的操纵。
AI大模子学习路线
如果你对AI大模子入门感兴趣，那么你必要的话可以点击这里大模子重磅福利：入门进阶全套104G学习资源包免费分享！
扫描下方csdn官方合作二维码获取哦！
https://i-blog.csdnimg.cn/direct/02d70556d9d74b2b8d1d37b0dd9c6781.jpeg#pic_center
这是一份大模子从零基础到进阶的学习路线大纲全览，小伙伴们记得点个收藏！
https://i-blog.csdnimg.cn/direct/20a5c416f8354cfc835c7fafdd83cf6e.png
第一阶段： 从大模子系统设计入手，讲解大模子的主要方法；
第二阶段： 在通过大模子提示词工程从Prompts角度入手更好发挥模子的作用；
第三阶段： 大模子平台应用开发借助阿里云PAI平台构建电商范畴虚拟试衣系统；
第四阶段： 大模子知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；
第五阶段： 大模子微调开发借助以大康健、新零售、新媒体范畴构建适合当前范畴大模子；
第六阶段： 以SD多模态大模子为主，搭建了文生图小程序案例；
第七阶段： 以大模子平台应用与开发为主，通过星火大模子，文心大模子等成熟大模子构建大模子行业应用。
100套AI大模子商业化落地方案
https://i-blog.csdnimg.cn/direct/0a21a46572f94418a43e458d9f50bfa4.jpeg
大模子全套视频教程
https://i-blog.csdnimg.cn/direct/225c3be3861143ceb8df78a880e51d9c.jpeg
200本大模子PDF书籍
https://i-blog.csdnimg.cn/direct/2f5af12d843f442980f6b4f033a0c259.jpeg
页:
[1]