论坛
潜水/灌水快乐,沉淀知识,认识更多同行。
ToB圈子
加入IT圈,遇到更多同好之人。
朋友圈
看朋友圈动态,了解ToB世界。
ToB门户
了解全球最新的ToB事件
博客
Blog
排行榜
Ranklist
文库
业界最专业的IT文库,上传资料也可以赚钱
下载
分享
Share
导读
Guide
相册
Album
记录
Doing
搜索
本版
文章
帖子
ToB圈子
用户
免费入驻
产品入驻
解决方案入驻
公司入驻
案例入驻
登录
·
注册
只需一步,快速开始
账号登录
立即注册
找回密码
用户名
Email
自动登录
找回密码
密码
登录
立即注册
首页
找靠谱产品
找解决方案
找靠谱公司
找案例
找对的人
专家智库
悬赏任务
圈子
SAAS
IT评测·应用市场-qidao123.com
»
论坛
›
数据库
›
分布式数据库
›
mac当地部署Qwq-32b记载
mac当地部署Qwq-32b记载
耶耶耶耶耶
金牌会员
|
2025-3-14 13:37:40
|
显示全部楼层
|
阅读模式
楼主
主题
947
|
帖子
947
|
积分
2841
导语
昨天看到阿里开源了Qwq-32b,号称性能可以媲美Deepseek-R1。今天晚上有空就在Mac上折腾了一下,使用ollma举行了部署,效果感觉还不错,特此记载。
环境
硬件
型号:Macbook M1 Pro 14寸
内存:32G
环境配置
首先须要安装ollama,直接前往Ollama官网下载对应系统版本安装包并举行安装即可。
之后,打开下令行(mac是zsh),输入
jiexing@MacBook-M1-Pro ~ % ollama run qwq
pulling manifest
pulling c62ccde5630c... 100% ▕█████████████████████████████████████████████████████████████████████████████████████████████████████▏ 19 GB
pulling 41190096a061... 100% ▕█████████████████████████████████████████████████████████████████████████████████████████████████████▏ 1.2 KB
pulling d18a5cc71b84... 100% ▕█████████████████████████████████████████████████████████████████████████████████████████████████████▏ 11 KB
pulling 4afe5edfdb51... 100% ▕█████████████████████████████████████████████████████████████████████████████████████████████████████▏ 77 B
pulling 6a8faa2fb8b0... 100% ▕█████████████████████████████████████████████████████████████████████████████████████████████████████▏ 488 B
verifying sha256 digest
writing manifest
success
>>> 请介绍一下你自己
<think>
</think>
你好!我是通义千问,阿里巴巴集团旗下的超大规模语言模型。我可以帮助你回答问题、创作文字,比如写故事、写公文、写邮件、写剧本,进行逻辑推理、编程等。我熟练掌握多种语言,包括但不限于中文、英文、德语、法语、西班牙语等。
如果你有任何问题或需要帮助,欢迎随时告诉我!
复制代码
WebUI搭建
完成部署后,看着大略的下令行配景,感觉照旧不如chatgpt、Deepseek那些网页版体验好,于是找了一下怎样部署一个Web UI。主要参考ollama-webui-lite项目,尝试如下:
首先须要clone项目:
git clone https://github.com/ollama-webui/ollama-webui-lite.git
cd ollama-webui-lite
复制代码
然后运行
yarn
复制代码
效果我这里报错
zsh command not found yarn
复制代码
于是我使用brew来安装yarn
,直接brew install yarn
是无法成功的,经过搜索发现须要更新brew update,然后顺利安装yarn
。
在运行之前,还须要确保本机的node>=16,可以直接使用
brew install node来安装。
启动界面
在项目目录下,运行yarn
dev,即可成功设置WebUI,点击 http://localhost:3000/ 即可打开当地的WebUI。
jiexing@MacBook-M1-Pro ollama-webui-lite % yarn
devyarn
run v1.22.22$ vite dev --host --port 3000Forced re-optimization of dependencies VITE v4.5.9 ready in 499 ms ➜ Local: http://localhost:3000/ ➜ Network: http://192.168.71.174:3000/ ➜ Network: http://10.50.50.18:3000/ ➜ press h to show help
复制代码
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
本帖子中包含更多资源
您需要
登录
才可以下载或查看,没有账号?
立即注册
x
回复
使用道具
举报
0 个回复
倒序浏览
返回列表
快速回复
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
or
立即注册
本版积分规则
发表回复
回帖并转播
回帖后跳转到最后一页
发新帖
回复
耶耶耶耶耶
金牌会员
这个人很懒什么都没写!
楼主热帖
为什么你应该停止依赖Jenkins的插件? ...
蜻蜓优化算法(Matlab完整代码实现) ...
集合论第6-8章
axios&spring前后端分离传参规范总结 ...
SQL 教程之 10 个 SQL 操作用于 80% 的 ...
Python知识点(史上最全)
腾讯云多媒体文件处理总结
关于Maven的使用
JVM常用调优配置参数
20220319编译OpenHarmony-v3.1-beta出 ...
标签云
运维
CIO
存储
服务器
浏览过的版块
鸿蒙
Mysql
DevOps与敏捷开发
Postrge-SQL技术社区
向量数据库
IOS
Nosql
图数据库
SQL-Server
快速回复
返回顶部
返回列表