AIGC(生成式AI)试用 20 -- deepseek 初识
>> 基本概念[*]Ollama -- 运行大模型,管理运行AI大模型的工具,用来安装部署DeepSeek
Ollama , Get up and running with large language models. https://i-blog.csdnimg.cn/direct/57bdfa4b90474484968f98d4b55fcff3.png
[*]AnythingLLM -- 大模型加强应用,GUI大模型交互步伐
Download AnythingLLM for Desktop, Run local LLMs fast with powerful built-in tools and features. No complex setup required. -- 下载安装
AnythingLLM is the easiest to use, all-in-one AI application that can do RAG, AI Agents, and much more with no code or infrastructure headaches.
Home ~ AnythingLLM -- 资助文档 https://i-blog.csdnimg.cn/direct/96357c1869a14679a168974555555683.png
[*]DeepSeek
DeepSeek | 深度求索
deepseek-r1,DeepSeek's first-generation of reasoning models with comparable performance to OpenAI-o1, including six dense models distilled from DeepSeek-R1 based on Llama and Qwen. DeepSeek第一代推理模型性能可与OpenAI-o1相媲美,包括基于Llama和Qwen的DeepSeek-R1所提炼出的六个麋集模型。
DeepSeek -- 网页版初次调用 API | DeepSeek API Docs https://i-blog.csdnimg.cn/direct/46c80b7e1a7645dcbed808cdad34b440.png
[*]AI RAG,即检索加强生成(Retrieval-Augmented Generation)模型,是一种联合了传统信息检索体系优势与生成式大语言模型功能的AI技术;通过从外部知识库检索相关信息,辅助大语言模型生成更准确、更丰富的文本内容的AI技术
[*]AI Agent,以大语言模型为大脑驱动的体系,具备自主理解、感知、规划、记忆和使用工具的能力,能够自动化执行完成复杂任务的体系
Agents are basically an LLM that has access to some simple tools. 能够访问一些简单工具的大语言模型。
>> 环境安装
下载并安装 Ollama
--> 确认/选择 deepseek 版本(参数越多体量越大,下载时间越长,回复的越准确?)
--> CMD,执行命令 ollama run deepseek-r1
--> 在 >>> 提示符下举行提问
https://i-blog.csdnimg.cn/direct/46b854c83df34b1f8f66fae1e15c4302.png
--> 使用GUI图形界面 AnythingLLM --> 获取KEY:https://platform.deepseek.com
https://i-blog.csdnimg.cn/direct/5f4bd242e0e047119cf24893d0ee8561.png
------ 近期 deepseek遭受网络攻击的变乱。。。。。。
https://i-blog.csdnimg.cn/direct/129fb554d6644891a67c870ce191d0ba.png
-- 恢复正常录入API Key,选择Chat Model
https://i-blog.csdnimg.cn/direct/a1a589a8eb2e4735b7aa454d17a7064a.png
>> 创建个人知识库
--> 嵌入引擎,个人知识库引用https://i-blog.csdnimg.cn/direct/9c6f7cd725e54334b38fe9d69da98de6.png
--> 个人知识库前后引入对比https://i-blog.csdnimg.cn/direct/094016e31de74312a3bee7deae7ced09.png
>> 遗留问题
[*]LLM参数据差别?
[*]deepseek的优势这样的个人机器是否能够表现?
[*]python / vscode引入
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
页:
[1]