论坛
潜水/灌水快乐,沉淀知识,认识更多同行。
ToB圈子
加入IT圈,遇到更多同好之人。
朋友圈
看朋友圈动态,了解ToB世界。
ToB门户
了解全球最新的ToB事件
博客
Blog
排行榜
Ranklist
文库
业界最专业的IT文库,上传资料也可以赚钱
下载
分享
Share
导读
Guide
相册
Album
记录
Doing
应用中心
搜索
本版
文章
帖子
ToB圈子
用户
免费入驻
产品入驻
解决方案入驻
公司入驻
案例入驻
登录
·
注册
账号登录
立即注册
找回密码
用户名
Email
自动登录
找回密码
密码
登录
立即注册
首页
找靠谱产品
找解决方案
找靠谱公司
找案例
找对的人
专家智库
悬赏任务
圈子
SAAS
qidao123.com技术社区-IT企服评测·应用市场
»
论坛
›
软件与程序人生
›
前端开发
›
Deepseek 【大模型】之 Ollama 与 Ollama Web UI Lite ...
Deepseek 【大模型】之 Ollama 与 Ollama Web UI Lite 本地部署 Deepseek ...
农妇山泉一亩田
论坛元老
|
2025-2-21 08:40:46
|
显示全部楼层
|
阅读模式
楼主
主题
1703
|
帖子
1703
|
积分
5109
马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。
您需要
登录
才可以下载或查看,没有账号?
立即注册
x
Deepseek 【大模型】之 Ollama 与 Ollama Web UI Lite 本地部署 Deepseek 可视化UI 访问模型的简单整理
目次
Deepseek 【大模型】之 Ollama 与 Ollama Web UI Lite 本地部署 Deepseek 可视化UI 访问模型部署简单整理
一、简单介绍
二、 Ollama 下载安装
三、Ollama 下载 LLM 模型,并运行
四、Ollama Web UI Lite 访问 Deepseek
附录:
一、运行 npm run dev 报错 “vite” 不是内部或者外部命令
一、简单介绍
DeepSeek作为一家年轻而富有活力的AI公司,通过开源计谋、创新能力与富足的资源支持,在短短时间内成长为全球瞩目的新锐力量。其焦点成员兼具深厚的学术功底与实践履历,所攻关的大模型在数学、代码、生物盘算以及语言明白等多方面已展示出强大的竞争力。
自创建以来,DeepSeek不断地突破研究瓶颈,先后推出了DeepSeek LLM、DeepSeek V-2和DeepSeek V-3等版本,以极高的性能与本钱效益比为业界带来了颠覆性的惊喜。与此同时,DeepSeek在多头延长注意力(MLA)、混合专家模型(MoE)以及FP8混合精度练习等关键技能上取得的希望,也为后续技能迭代铺平了门路。
在未来的规划中,DeepSeek将在技能创新、行业应用、人才培养和市场互助等方面连续发力,发愤以开源共享的方式,为AI技能的遍及与应用赋予更加深远的影响。随着团队即将投入更多算力与人才,DeepSeek有望继续誊写AI界的新篇章,成为全球新一轮技能创新的引领者。
Ollama
是一个开源的本地大型语言模型(LLM)运行框架,它旨在简化在本地运行大型语言模型的过程。Ollama 提供了一个简洁易用的命令行界面和服务器,让你可以大概轻松下载、运行和管理各种开源大型语言模型,如 Llama 3、Mistral、Qwen2 等。
Ollama 的一些主要特点包括:
开源免费
:Ollama 及其支持的模型完全开源免费,任何人都可以自由使用、修改和分发。
简单易用
:无需复杂的设置和安装过程,只需几条命令即可启动和运行 Ollama。
模型丰富
:Ollama 支持多种热门开源大型语言模型,并提供一键下载和切换功能。
资源占用低
:相比于贸易大型语言模型,Ollama 对硬件要求更低,纵然在普通条记本电脑上也能流通运行。
社区活跃
:Ollama 拥有庞大且活跃的社区,用户可以轻松获取帮助、分享履历和加入模型开发。
其中还涉及到:Node.js 、Git 等工具的下载与使用
二、 Ollama 下载安装
Ollama 官网:https://ollama.com/
1、到官网下载 Ollama ,根据自己的平台选择必要下载的安装包
Ollama 下载地点:https://ollama.com/download
2、下载完之后,双击运行安装即可
3、安装完后,打开 cmd ,输入 ollama 下面表示 Ollama 已经安装号
4、启动了 Ollama ,在 浏览器中输入 指定网址表现 Ollama 正在运行中
网址:http://localhost:11434
三、Ollama 下载 LLM 模型,并运行
1、在 Ollama Models 搜索必要 LLM 模型
这里是搜索 Deepseek
2、这里选择 deepseek-r1 的 7b 的模型,同时旁边也有 运行的命令
(你可以根据自已的必要和设备可支持运行的版本进行选择下载)
3、在 cmd 中输入上面的命令下载模型并运行,下载成功后,就会可以输入题目进行提问了
命令:ollama run deepseek-r1:7b
四、Ollama Web UI Lite 访问 Deepseek
1、可能必要 安装 Node.js 编程语言工具包(已有可忽略)
安装Node.js编程语言工具包和安装其他软件包一样,下载安装即可:https://nodejs.org
2、安装好后
3、git 下载安装(已有可忽略)
4、git 下载代码 ollama-webui-lite 代码
命令:git clone https://github.com/ollama-webui/ollama-webui-lite
5、下载完后进行代码文件夹中
6、设置 Node.js 工具包镜像源(已有可忽略)
下载 Node.js 的依靠包更加快速:npm config set registry http://mirrors.cloud.tencent.com/npm/
安装 Node.js 依靠的工具包:npm install
7、启动 Web 可视化界面
命令 :npm run dev
8、在浏览器上 输入上面的网址,进入访问
这里使用:localhost:3000
9、选择之前下载的 deepseek 相关模型,进行访问
附录:
一、运行 npm run dev 报错 “vite” 不是内部或者外部命令
这里安装 npm install vite 即可
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
回复
使用道具
举报
0 个回复
倒序浏览
返回列表
快速回复
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
or
立即注册
本版积分规则
发表回复
回帖并转播
回帖后跳转到最后一页
发新帖
回复
农妇山泉一亩田
论坛元老
这个人很懒什么都没写!
楼主热帖
厉害了,腾讯云云巢荣获信通院“云原生 ...
2022 春节抖音视频红包系统设计与实现 ...
数据库概述
【Redis高手修炼之路】②Redis的五大数 ...
原型设计工具比较及实践--滴爱音乐 ...
体系集成商已死,有事烧纸:浙江着名集 ...
ABP Framework 5.3.0 版本新增功能和变 ...
OpenHarmony和HarmonyOS有什么区别?这 ...
LoRa模块无线收发通信技术详解 ...
多线程(一)-两种创建线程的方式 ...
标签云
渠道
国产数据库
集成商
AI
运维
CIO
存储
服务器
快速回复
返回顶部
返回列表