DeepSeek R1本地化摆设——企业数据零泄露+Web访问+AnythingLLM 个人知识库 ...

择要
本文择要
/ www.yxclass.net

01
Ollama PC本地化摆设
/ www.yxclass.net
下载Ollama
Ollama 是开源大模子应用，能本地快速运行各类模子，支持多模子切换，操纵轻便，为用户提供高效本地化 AI 体验。
网址：https://ollama.com/download

Linux系统必要执行下面命令：
curl -fsSL https://ollama.com/install.sh | sh
网盘下载Ollama
Githup有时必要邪术才气访问，而且国外网速超等慢，因此我为大家提供了便捷的下载方式。关注我公众号后，发送“ollama”就可以获取下载链接。

安装Ollama

双击下载好的安装文件，点击「Install」开始安装。如今的Ollama会默认安装到C盘，路径如下：
C:\Users%username%\AppData\Local\Programs\Ollama

配置Ollama的环境变量
Ollama 服务器默认只答应来自127.0.0.1的跨域哀求，如果你计划在其它前端面板中调用 Ollama API，比如Chatbox和AnythingLLM，必要放开跨域限制。
放开跨域限制要配置下面两个环境变量：
OLLAMA_HOST：0.0.0.0
OLLAMA_ORIGINS：*
配置Ollama的环境变量前肯定要退出Ollama，否则下边的环境配置无法见效！
右键图标，会出现退出的按钮「Quit Ollama」。

1、在电脑的搜索框输入“编辑系统环境变量”，然后点击搜索出的链接。
2、新建用户环境变量。

环境变量新建生存成功后，再次进入看到下面两个变量就是环境配置好了。

关闭开机自启动
Ollama 默认会随 Windows 主动启动，可以在「文件资源管理器」的所在栏中访问以下路径，删除其中的Ollama.lnk快捷方式文件，阻止它主动启动。
复制下面的路径粘贴到文件搜索栏：
%APPDATA%\Microsoft\Windows\Start Menu\Programs\Startup

启动Ollama
将上述更改的环境变量生存后，在「开始」菜单中找到 Ollama，点击图标就可以重新启动，在cmd窗口执行ollama命令。

02
deepseek-r1模子
/ www.yxclass.net
模子查找
Ollama安装好后就可以去选择deepseek-r1模子了。
查找网址：
https://ollama.com/search

deepseek-r1各规模模子对本机PC的硬件要求：

选择模子
平常个人电脑选择1.5b的模子就可以了，我16核24G的笔记本一开始选择8b的模子答复很慢，厥后改为1.5b的模子问答就快许多了。
在Ollama上选择对应的模子参数，然后复制安装命令到cmd窗口中。
ollama run deepseek-r1:1.5b

运行命令

Ollama启动deepseek
没有取消开机自启，只需打开cmd窗口，然后执行指令ollama run <模子名称>。
例如：
ollama run deepseek-r1:1.5b
取消开机自启，电脑开机后必要进入到安装的ollama.exe目录，然后执行指令ollama run <模子名称>。
例如：
ollama run deepseek-r1:8b

03
Chatbox
/ www.yxclass.net
DeepSeek+Chatbox
本地cmd窗口命令行使用不太直观，可以安装Chatbox，通过UI页面与模子举行提问，提高可交互性。
Chatbox AI 是一款 AI 客户端应用和智能助手，支持众多先辈的 AI 模子和 API，可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用。
下载网址
https://chatboxai.app/zh/install?download

本地使用Ollama摆设完成后，就可以使用Chatbox举行调用。
根据官方文档给出的步调举行配置
https://chatboxai.app/zh/help-center/connect-chatbox-remote-ollama-service-guide
安装Chatbox

安装成功后，打开APP，选择Use My Own API Key / Local Model。
然后打开的对话框根据提示选择对应的模子。
模子提供方选择【Ollama API】。
模子选择自己的安装的模子。

问答测试

04
DeepSeek知识库搭建
/ www.yxclass.net
知识库应用场景
在日常的学习与工作中，你大概经常深陷如许的困境：手头堆积着如山的 PDF 文件，急需从中找出特定信息，于是习惯性地依赖 Ctrl+F 快捷键，在繁杂的文档海洋里反复探索，耗费大量时间，却依旧一无所获，挫败感扑面而来。
尤其是遇到那些格式怪异的文档时，常规的搜索功能完全失效，简直让人无从动手。其实，我们都渴望着一种更便捷、高效的解决方案。假想一下，倘若存在一款工具，只需将文档轻松 “投喂” 给 AI，随后便能如同与老友交谈一般，通过智能对话精准、迅速地获取关键内容，彻底告别繁琐的手动搜索，这该多美好。而 AnythingLLM 正是如许一款契合需求的得力工具，有它助力，信息检索之路将畅行无阻。
AnythingLLM
AnythingLLM 由 mintplexlabs 推出，是一款开源全栈应用。它能将多种格式的文档转化为大语言模子的谈天配景知识，支持多用户管理，可自选模子与向量数据库，上手简单。其具备自定义 AI 署理、多模态等特性，创建工作区可有序管理文档，实用于学术、办公、客服等场景，有用助力信息获取，提升服从。
下载网址：
https://anythingllm.com/desktop
点击.exe文件即可安装，如果发现以管理员身份安装没有反应，就选中安装包，右键选择“属性”查看安装文件是否已经被锁定。

配置模子的毗连信息
安装成功后，打开APP就根据提示一直下一步就行了，安装好开始配置 这里选Ollama 所在按它默认的填就行。
打开后可以点击【open setting】查看配置内容，自己的AI模子是使用Ollama安装的，那么LLM的首选项就是Ollama。

新建工作区
页面打开后点击新建工作区，谈天设置的工作区LLM提供者选择Ollama。

当未向 DeepSeek 上传个人文档以丰富其知识储备时，向它提出一些基于特定个人资料、小众范畴专业文档或私有项目细节等方面的题目，你会明显察觉到它无法给出精准且针对性的答复，因为它缺乏相应的专属信息输入。

给本地AI投喂私密文档
按照以下步调给AI投喂个人文档。

根据上传文档的内容举行提问
将个人文档、商务报告、学术论文等各类文档上传后，在对话框输入与之相关的清晰题目，如 “《三体全集》多少钱”。点击发送，DeepSeek 会快速分析文档，给出精准答复。

数据迁徙
AnythingLLM数据迁徙：
1、查看数据存储位置：AnythingLLM 一般会将数据存储在其默认的向量数据库中，可在软件设置的 “向量数据库” 选项中查看详细存储路径。
2、使用数据库工具导出：如果向量数据库是常见的类型，如 LanceDB 等，可以实验使用相应的数据库管理工具毗连到该数据库，然后执行导出操纵，将数据导出为 CSV、JSON 等常见格式。
3、查看工作区文档列表：在 AnythingLLM 的工作区中，通常会有已上传文档的列表，可通过点击工作区界面中的相关按钮或菜单选项，查找是否有导出文档的功能，大概会提供将单个或多个文档批量导出的操纵。
AI大模子学习路线

如果你对AI大模子入门感兴趣，那么你必要的话可以点击这里大模子重磅福利：入门进阶全套104G学习资源包免费分享！
扫描下方csdn官方合作二维码获取哦！

这是一份大模子从零基础到进阶的学习路线大纲全览，小伙伴们记得点个收藏！

第一阶段： 从大模子系统设计入手，讲解大模子的主要方法；
第二阶段： 在通过大模子提示词工程从Prompts角度入手更好发挥模子的作用；
第三阶段： 大模子平台应用开发借助阿里云PAI平台构建电商范畴虚拟试衣系统；
第四阶段： 大模子知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；
第五阶段： 大模子微调开发借助以大康健、新零售、新媒体范畴构建适合当前范畴大模子；
第六阶段： 以SD多模态大模子为主，搭建了文生图小程序案例；
第七阶段： 以大模子平台应用与开发为主，通过星火大模子，文心大模子等成熟大模子构建大模子行业应用。
100套AI大模子商业化落地方案

大模子全套视频教程

200本大模子PDF书籍