DeepSeek R1本地化摆设——企业数据零泄露+Web访问+AnythingLLM 个人知识库 ...

打印 上一主题 下一主题

主题 1000|帖子 1000|积分 3000


摘要
本文摘要
/ www.yxclass.net

01
Ollama PC本地化摆设
/ www.yxclass.net
下载Ollama
Ollama 是开源大模子应用,能本地快速运行各类模子,支持多模子切换,操作简便,为用户提供高效本地化 AI 体验。
网址:https://ollama.com/download

Linux体系须要执行下面下令:
curl -fsSL https://ollama.com/install.sh | sh
安装Ollama

双击下载好的安装文件,点击「Install」开始安装。如今的Ollama会默认安装到C盘,路径如下:
C:\Users%username%\AppData\Local\Programs\Ollama

配置Ollama的情况变量
Ollama 服务器默认只允许来自127.0.0.1的跨域哀求,如果你计划在别的前端面板中调用 Ollama API,比如Chatbox和AnythingLLM,须要放开跨域限定。
放开跨域限定要配置下面两个情况变量:
OLLAMA_HOST:0.0.0.0
OLLAMA_ORIGINS:*
配置Ollama的情况变量前一定要退出Ollama,否则下边的情况配置无法见效!
右键图标,会出现退出的按钮「Quit Ollama」。

1、在电脑的搜索框输入“编辑体系情况变量”,然后点击搜索出的链接。
2、新建用户情况变量。


情况变量新建保存成功后,再次进入看到下面两个变量就是情况配置好了。

关闭开机自启动
Ollama 默认会随 Windows 主动启动,可以在「文件资源管理器」的地址栏中访问以下路径,删除其中的Ollama.lnk快捷方式文件,制止它主动启动。
复制下面的路径粘贴到文件搜索栏:
%APPDATA%\Microsoft\Windows\Start Menu\Programs\Startup

启动Ollama
将上述更改的情况变量保存后,在「开始」菜单中找到 Ollama,点击图标就可以重新启动,在cmd窗口执行ollama下令。

02
deepseek-r1模子
/ www.yxclass.net
模子查找
Ollama安装好后就可以去选择deepseek-r1模子了。
查找网址:
https://ollama.com/search

deepseek-r1各规模模子对本机PC的硬件要求:

选择模子
普通个人电脑选择1.5b的模子就可以了,我16核24G的笔记本一开始选择8b的模子回答很慢,后来改为1.5b的模子问答就快很多了。
在Ollama上选择对应的模子参数,然后复制安装下令到cmd窗口中。
ollama run deepseek-r1:1.5b

运行下令

Ollama启动deepseek
没有取消开机自启,只需打开cmd窗口,然后执行指令ollama run <模子名称>。
例如:
ollama run deepseek-r1:1.5b
取消开机自启,电脑开机后须要进入到安装的ollama.exe目次,然后执行指令ollama run <模子名称>。
例如:
ollama run deepseek-r1:8b

03
Chatbox
/ www.yxclass.net
DeepSeek+Chatbox
本地cmd窗口下令行使用不太直观,可以安装Chatbox,通过UI页面与模子进行提问,提高可交互性。
Chatbox AI 是一款 AI 客户端应用和智能助手,支持浩繁先辈的 AI 模子和 API,可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用。
下载网址
https://chatboxai.app/zh/install?download

本地使用Ollama摆设完成后,就可以使用Chatbox进行调用。
根据官方文档给出的步骤进行配置
https://chatboxai.app/zh/help-center/connect-chatbox-remote-ollama-service-guide
安装Chatbox

安装成功后,打开APP,选择Use My Own API Key / Local Model。
然后打开的对话框根据提示选择对应的模子。
模子提供方选择【Ollama API】。
模子选择自己的安装的模子。

问答测试

04
DeepSeek知识库搭建
/ www.yxclass.net
知识库应用场景
在日常的学习与工作中,你或许常常深陷这样的逆境:手头堆积着如山的 PDF 文件,急需从中找出特定信息,于是习惯性地依靠 Ctrl+F 快捷键,在繁杂的文档海洋里反复探索,花费大量时间,却依旧一无所获,挫败感劈面而来。
尤其是遇到那些格式怪异的文档时,通例的搜索功能完全失效,简直让人无从下手。实在,我们都渴望着一种更便捷、高效的解决方案。设想一下,倘若存在一款工具,只需将文档轻松 “投喂” 给 AI,随后便能如同与老友交谈一样平常,通过智能对话精准、迅速地获取关键内容,彻底告别繁琐的手动搜索,这该多美好。而 AnythingLLM 正是这样一款契合需求的得力工具,有它助力,信息检索之路将畅行无阻。
AnythingLLM
AnythingLLM 由 mintplexlabs 推出,是一款开源全栈应用。它能将多种格式的文档转化为大语言模子的谈天配景知识,支持多用户管理,可自选模子与向量数据库,上手简单。其具备自定义 AI 署理、多模态等特性,创建工作区可有序管理文档,适用于学术、办公、客服等场景,有效助力信息获取,提升效率。
下载网址:
https://anythingllm.com/desktop
点击.exe文件即可安装,如果发现以管理员身份安装没有反应,就选中安装包,右键选择“属性”检察安装文件是否已经被锁定。

配置模子的连接信息
安装成功后,打开APP就根据提示一直下一步就行了,安装好开始配置 这里选Ollama 地址按它默认的填就行。
打开后可以点击【open setting】检察配置内容,自己的AI模子是使用Ollama安装的,那么LLM的首选项就是Ollama。




新建工作区
页面打开后点击新建工作区,谈天设置的工作区LLM提供者选择Ollama。

当未向 DeepSeek 上传个人文档以丰富其知识储备时,向它提出一些基于特定个人资料、小众领域专业文档或私有项目细节等方面的问题,你会显着察觉到它无法给出精准且针对性的回答,因为它缺乏相应的专属信息输入。

给本地AI投喂私密文档
按照以下步骤给AI投喂个人文档。





根据上传文档的内容进行提问
将个人文档、商务报告、学术论文等各类文档上传后,在对话框输入与之相关的清晰问题,如 “《三体全集》多少钱”。点击发送,DeepSeek 会快速分析文档,给出精准回答。



数据迁移
AnythingLLM数据迁移:
1、检察数据存储位置:AnythingLLM 一样平常会将数据存储在其默认的向量数据库中,可在软件设置的 “向量数据库” 选项中检察详细存储路径。
2、使用数据库工具导出:如果向量数据库是常见的范例,如 LanceDB 等,可以尝试使用相应的数据库管理工具连接到该数据库,然后执行导出操作,将数据导出为 CSV、JSON 等常见格式。
3、检察工作区文档列表:在 AnythingLLM 的工作区中,通常会有已上传文档的列表,可通过点击工作区界面中的相关按钮或菜单选项,查找是否有导出文档的功能,可能会提供将单个或多个文档批量导出的操作。
末了的末了

感谢你们的阅读和喜好,作为一位在一线互联网行业奋斗多年的老兵,我深知在这个瞬息万变的技术领域中,一连学习和进步的紧张性。
为了帮助更多热爱技术、渴望发展的朋友,我特别整理了一份涵盖大模子领域的宝贵资料集。
这些资料不仅是我多年积累的心血结晶,也是我在行业一线实战经验的总结。
这些学习资料不仅深入浅出,而且非常实用,让大家体系而高效地把握AI大模子的各个知识点。如果你愿意花时间沉下心来学习,相信它们一定能为你提供实质性的帮助。
这份完整版的大模子 AI 学习资料已经上传CSDN,朋友们如果须要可以微信扫描下方CSDN官方认证二维码免费领取【包管100%免费】
DeepSeek全套安装摆设资料


大模子知识脑图

为了成为更好的 AI大模子 开发者,这里为大家提供了总的路线图。它的用处就在于,你可以按照上面的知识点去找对应的学习资源,包管自己学得较为全面。

经典册本阅读

阅读AI大模子经典册本可以帮助读者提高技术水平,开辟视野,把握核心技术,提高解决问题的本领,同时也可以借鉴他人的经验。对于想要深入学习AI大模子开发的读者来说,阅读经典册本是非常有须要的。

实战案例

光学理论是没用的,要学会跟着一起敲,要动手实操,才华将自己的所学运用到现实当中去,这时候可以搞点实战案例来学习。

面试资料

我们学习AI大模子必然是想找到高薪的工作,下面这些面试题都是总结当前最新、最热、最高频的面试题,而且每道题都有详细的答案,面试前刷完这套面试题资料,小小offer,不在话下

640套AI大模子报告合集

这套包罗640份报告的合集,涵盖了AI大模子的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模子感爱好的爱好者,这套报告合集都将为您提供宝贵的信息和启示。

这份完整版的大模子 AI 学习资料已经上传CSDN,朋友们如果须要可以微信扫描下方CSDN官方认证二维码免费领取【包管100%免费】

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

杀鸡焉用牛刀

论坛元老
这个人很懒什么都没写!
快速回复 返回顶部 返回列表