Deepseek 【大模型】之 Ollama 与 Ollama Web UI Lite 本地部署 Deepseek 可视化UI 访问模型的简单整理
目次
Deepseek 【大模型】之 Ollama 与 Ollama Web UI Lite 本地部署 Deepseek 可视化UI 访问模型部署简单整理
一、简单介绍
二、 Ollama 下载安装
三、Ollama 下载 LLM 模型,并运行
四、Ollama Web UI Lite 访问 Deepseek
附录:
一、运行 npm run dev 报错 “vite” 不是内部或者外部命令
一、简单介绍
DeepSeek作为一家年轻而富有活力的AI公司,通过开源计谋、创新能力与富足的资源支持,在短短时间内成长为全球瞩目的新锐力量。其焦点成员兼具深厚的学术功底与实践履历,所攻关的大模型在数学、代码、生物盘算以及语言明白等多方面已展示出强大的竞争力。
自创建以来,DeepSeek不断地突破研究瓶颈,先后推出了DeepSeek LLM、DeepSeek V-2和DeepSeek V-3等版本,以极高的性能与本钱效益比为业界带来了颠覆性的惊喜。与此同时,DeepSeek在多头延长注意力(MLA)、混合专家模型(MoE)以及FP8混合精度练习等关键技能上取得的希望,也为后续技能迭代铺平了门路。
在未来的规划中,DeepSeek将在技能创新、行业应用、人才培养和市场互助等方面连续发力,发愤以开源共享的方式,为AI技能的遍及与应用赋予更加深远的影响。随着团队即将投入更多算力与人才,DeepSeek有望继续誊写AI界的新篇章,成为全球新一轮技能创新的引领者。
Ollama 是一个开源的本地大型语言模型(LLM)运行框架,它旨在简化在本地运行大型语言模型的过程。Ollama 提供了一个简洁易用的命令行界面和服务器,让你可以大概轻松下载、运行和管理各种开源大型语言模型,如 Llama 3、Mistral、Qwen2 等。
Ollama 的一些主要特点包括:
- 开源免费:Ollama 及其支持的模型完全开源免费,任何人都可以自由使用、修改和分发。
- 简单易用:无需复杂的设置和安装过程,只需几条命令即可启动和运行 Ollama。
- 模型丰富:Ollama 支持多种热门开源大型语言模型,并提供一键下载和切换功能。
- 资源占用低:相比于贸易大型语言模型,Ollama 对硬件要求更低,纵然在普通条记本电脑上也能流通运行。
- 社区活跃:Ollama 拥有庞大且活跃的社区,用户可以轻松获取帮助、分享履历和加入模型开发。
其中还涉及到:Node.js 、Git 等工具的下载与使用
二、 Ollama 下载安装
Ollama 官网:https://ollama.com/
1、到官网下载 Ollama ,根据自己的平台选择必要下载的安装包
Ollama 下载地点:https://ollama.com/download
2、下载完之后,双击运行安装即可
3、安装完后,打开 cmd ,输入 ollama 下面表示 Ollama 已经安装号
4、启动了 Ollama ,在 浏览器中输入 指定网址表现 Ollama 正在运行中
网址:http://localhost:11434
三、Ollama 下载 LLM 模型,并运行
1、在 Ollama Models 搜索必要 LLM 模型
这里是搜索 Deepseek
2、这里选择 deepseek-r1 的 7b 的模型,同时旁边也有 运行的命令
(你可以根据自已的必要和设备可支持运行的版本进行选择下载)
3、在 cmd 中输入上面的命令下载模型并运行,下载成功后,就会可以输入题目进行提问了
命令:ollama run deepseek-r1:7b
四、Ollama Web UI Lite 访问 Deepseek
1、可能必要 安装 Node.js 编程语言工具包(已有可忽略)
安装Node.js编程语言工具包和安装其他软件包一样,下载安装即可:https://nodejs.org
2、安装好后
3、git 下载安装(已有可忽略)
4、git 下载代码 ollama-webui-lite 代码
命令:git clone https://github.com/ollama-webui/ollama-webui-lite
5、下载完后进行代码文件夹中
6、设置 Node.js 工具包镜像源(已有可忽略)
下载 Node.js 的依靠包更加快速:npm config set registry http://mirrors.cloud.tencent.com/npm/
安装 Node.js 依靠的工具包:npm install
7、启动 Web 可视化界面
命令 :npm run dev
8、在浏览器上 输入上面的网址,进入访问
这里使用:localhost:3000
9、选择之前下载的 deepseek 相关模型,进行访问
附录:
一、运行 npm run dev 报错 “vite” 不是内部或者外部命令
这里安装 npm install vite 即可
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。 |