Deepseek 【大模型】之 Ollama 与 Ollama Web UI Lite 本地部署 Deepseek
Deepseek 【大模型】之 Ollama 与 Ollama Web UI Lite 本地部署 Deepseek 可视化UI 访问模型的简单整理目次
Deepseek 【大模型】之 Ollama 与 Ollama Web UI Lite 本地部署 Deepseek 可视化UI 访问模型部署简单整理
一、简单介绍
二、 Ollama 下载安装
三、Ollama 下载 LLM 模型,并运行
四、Ollama Web UI Lite 访问 Deepseek
附录:
一、运行 npm run dev 报错 “vite” 不是内部或者外部命令
一、简单介绍
https://i-blog.csdnimg.cn/direct/a20274e380ce49869d667088ec67dd9e.jpeg
DeepSeek作为一家年轻而富有活力的AI公司,通过开源计谋、创新能力与富足的资源支持,在短短时间内成长为全球瞩目的新锐力量。其焦点成员兼具深厚的学术功底与实践履历,所攻关的大模型在数学、代码、生物盘算以及语言明白等多方面已展示出强大的竞争力。
自创建以来,DeepSeek不断地突破研究瓶颈,先后推出了DeepSeek LLM、DeepSeek V-2和DeepSeek V-3等版本,以极高的性能与本钱效益比为业界带来了颠覆性的惊喜。与此同时,DeepSeek在多头延长注意力(MLA)、混合专家模型(MoE)以及FP8混合精度练习等关键技能上取得的希望,也为后续技能迭代铺平了门路。
在未来的规划中,DeepSeek将在技能创新、行业应用、人才培养和市场互助等方面连续发力,发愤以开源共享的方式,为AI技能的遍及与应用赋予更加深远的影响。随着团队即将投入更多算力与人才,DeepSeek有望继续誊写AI界的新篇章,成为全球新一轮技能创新的引领者。
https://i-blog.csdnimg.cn/direct/86c68b93916b4de2b1bb26a170591f80.png
Ollama 是一个开源的本地大型语言模型(LLM)运行框架,它旨在简化在本地运行大型语言模型的过程。Ollama 提供了一个简洁易用的命令行界面和服务器,让你可以大概轻松下载、运行和管理各种开源大型语言模型,如 Llama 3、Mistral、Qwen2 等。
Ollama 的一些主要特点包括:
[*]开源免费:Ollama 及其支持的模型完全开源免费,任何人都可以自由使用、修改和分发。
[*]简单易用:无需复杂的设置和安装过程,只需几条命令即可启动和运行 Ollama。
[*]模型丰富:Ollama 支持多种热门开源大型语言模型,并提供一键下载和切换功能。
[*]资源占用低:相比于贸易大型语言模型,Ollama 对硬件要求更低,纵然在普通条记本电脑上也能流通运行。
[*]社区活跃:Ollama 拥有庞大且活跃的社区,用户可以轻松获取帮助、分享履历和加入模型开发。
其中还涉及到:Node.js 、Git 等工具的下载与使用
二、 Ollama 下载安装
Ollama 官网:https://ollama.com/
1、到官网下载 Ollama ,根据自己的平台选择必要下载的安装包
Ollama 下载地点:https://ollama.com/download
https://i-blog.csdnimg.cn/direct/7a44f9881cda41eaa18a12bf8f238fec.png
2、下载完之后,双击运行安装即可
https://i-blog.csdnimg.cn/direct/8e10ef09540e4cc1ae654eef71e70453.png
3、安装完后,打开 cmd ,输入 ollama 下面表示 Ollama 已经安装号
https://i-blog.csdnimg.cn/direct/5232f7a7dc4c48daba3b3066a91ded64.png
4、启动了 Ollama ,在 浏览器中输入 指定网址表现 Ollama 正在运行中
网址:http://localhost:11434
https://i-blog.csdnimg.cn/direct/ea2bb457d92f489694537466fd4f6e73.png
三、Ollama 下载 LLM 模型,并运行
1、在 Ollama Models 搜索必要 LLM 模型
这里是搜索 Deepseek
https://i-blog.csdnimg.cn/direct/a63b9a53deb3494e9b8bf17302f370a4.png
https://i-blog.csdnimg.cn/direct/573f77d207d14aab843e8644114473ec.png
2、这里选择 deepseek-r1 的 7b 的模型,同时旁边也有 运行的命令
(你可以根据自已的必要和设备可支持运行的版本进行选择下载)
https://i-blog.csdnimg.cn/direct/519187bb64344cbfbcbc801742a826af.png
3、在 cmd 中输入上面的命令下载模型并运行,下载成功后,就会可以输入题目进行提问了
命令:ollama run deepseek-r1:7b
https://i-blog.csdnimg.cn/direct/7dd648af8f2e4ba98dad5f13b6d74d05.png
四、Ollama Web UI Lite 访问 Deepseek
1、可能必要 安装 Node.js 编程语言工具包(已有可忽略)
安装Node.js编程语言工具包和安装其他软件包一样,下载安装即可:https://nodejs.org
https://i-blog.csdnimg.cn/direct/88e235dc47444189ad2358dc18d080b1.png
2、安装好后
https://i-blog.csdnimg.cn/direct/0b5ed422f95a400ab88a5c6ade945875.png
3、git 下载安装(已有可忽略)
https://i-blog.csdnimg.cn/direct/d777b1535f7044df87b4313323ef5301.png
4、git 下载代码 ollama-webui-lite 代码
命令:git clone https://github.com/ollama-webui/ollama-webui-lite
5、下载完后进行代码文件夹中
https://i-blog.csdnimg.cn/direct/d76e668793754532b5c7d9bc97d3dee3.png
6、设置 Node.js 工具包镜像源(已有可忽略)
下载 Node.js 的依靠包更加快速:npm config set registry http://mirrors.cloud.tencent.com/npm/
安装 Node.js 依靠的工具包:npm install
7、启动 Web 可视化界面
命令 :npm run dev
https://i-blog.csdnimg.cn/direct/5c673a0e00fd4f5d9c49e794a143e892.png
8、在浏览器上 输入上面的网址,进入访问
这里使用:localhost:3000
https://i-blog.csdnimg.cn/direct/79a61524af6a4c18b58ba14e37a7098c.png
9、选择之前下载的 deepseek 相关模型,进行访问
https://i-blog.csdnimg.cn/direct/5b37cb2fbc5f4c22b76464a1aadd85f8.png
https://i-blog.csdnimg.cn/direct/e623b2341fe6486e82690b67c2091907.png
附录:
一、运行 npm run dev 报错 “vite” 不是内部或者外部命令
这里安装 npm install vite 即可
https://i-blog.csdnimg.cn/direct/79de08b364e34a38964b68c023d48e94.png
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
页:
[1]