有手就行，轻松当地部署 Llama、Qwen 大模型，无需 GPU
用 CPU 也能部署私有化大模型？对，没错，只要你的电脑有个 8G 内存，你就可以轻松部署 Llama、Gemma、Qwen 等多种开源大模型。
非技术职员，安装 Docker、Docker-compose 很费劲？
不消，这些都不必要安装，就一个要求：有手就行～
本日主要为大家分享保姆级教程：如何利用普通个人电脑，当地私有化部署 Qwen 大模型。
一、Ollama 与 Qwen7B 安装和利用
（一）下载
进入下载地点，目前支持 Mac、Windows、Linux 以及 docker 部署，本次演示，主要针对 Mac。
下载地点：https://github.com/ollama/ollama
我已经为大家提前下载好了 Mac、Windows 的安装包，公众号回复 ollama 领取。
https://img-blog.csdnimg.cn/img_convert/47a65ebbd0e0d8f06beea3453badb99e.jpeg
（二）安装 Ollama
1、下载到当地，并解压后，双击 Ollama 图标。
https://img-blog.csdnimg.cn/img_convert/23f888dfef07860eb8fee3210f1faaae.jpeg
2、点击 Move to Applications ，按照建议，将其移动到应用步伐文件夹下。
https://img-blog.csdnimg.cn/img_convert/f39422b24b237adbc8a16bbffed30159.jpeg
3、按照从左到右的顺序执行这三步。到这 Ollama 安装完成了。
https://img-blog.csdnimg.cn/img_convert/87ed40c327bf83b302c37986eb3217a2.jpeg
（三）安装模型
作为国内的优质大模型，Qwen 对于中文的支持力度照旧很强的，终极选择用它来试手。
大家也可以尝试选择自己喜欢的模型，比如 Llama3、Gemma 等等。
1、进入模型堆栈
地点：https://ollama.com/library
https://img-blog.csdnimg.cn/direct/fba88bb3b167451893faacc08a9aeecc.png
2、搜刮对应模型。发现目前有 Qwen 0.5B ～ 110B 可供利用。
由于内存不够用，终极选择下载 Qwen:7b，大家可以按照自身硬件情况下载模型。
可以利用图中对应型号的命令，举行下载。7b 下载命令为：ollama run qwen:7b
官方建议： 至少有 8 GB 可用内存来运行 7 B 型号，16 GB 来运行 13 B 型号，32 GB 来运行 33 B 型号。
https://img-blog.csdnimg.cn/direct/a2fbfa93199a45b6af0282c9c8597c8d.png
3、下载完成，开始对话，中文本领简直可以～
但是命令行对话总不是事儿啊，我们必要一个网页应用，这就得请出下一位主角：ChatGPT-Next-Web。
https://img-blog.csdnimg.cn/img_convert/117832bcca530d8464af7a85d4897d11.jpeg
二、ChatGPT-Next-Web 安装和利用
（一）安装
进入 ChatGPT-Next-Web 堆栈地点，选择对应版本下载。
地点：https://github.com/ChatGPTNextWeb/ChatGPT-Next-Web/releases/tag/v2.12.4
我选择了 NextChat_2.12.4_universal.dmg
我已经为大家提前下载好了 Mac、Windows 安装包，公众号回复 ollama 领取。
https://img-blog.csdnimg.cn/img_convert/4f8f1d3b2e493949f0bd4acc839c2ce9.jpeg
下载完成后，可以直接安装，无需额外下载其他软件。
https://img-blog.csdnimg.cn/img_convert/1b439041e8f1b66877ba29fc76cb00dd.jpeg
（二）设置语言（可选）
按需选择语言偏好。
https://img-blog.csdnimg.cn/img_convert/2c4f67a08d3a4f8c35a8124aed5038ce.jpeg
（三）配置
1、点击图标，举行配置页面。
2、输入接口地点：http://localhost:11434
3、自定义模型名：qwen:7b
4、模型（model）：qwen:7b() ，注意该选项在最下方。
https://img-blog.csdnimg.cn/direct/e67452f6f2a240e2a6d11d8acccd6a5c.png
四）对话测试
1、普通对话
效果还不错。
https://img-blog.csdnimg.cn/img_convert/bd9f57839d505ea7c1218d1b52087487.jpeg
2、面具对话
利用面具对话功能时，必要注意，软件模型忽略了自定义的 qwen:7b，每次利用面具对话时，必要重新选择模型。
2.1、没有选择模型时，则会堕落。
https://img-blog.csdnimg.cn/img_convert/1a040576c8c98f3f13d5661aeb44bb3d.jpeg
2.2、点击图标，并选择精确的模型。
https://img-blog.csdnimg.cn/img_convert/cec3721be1e134d12fde07f1f1265291.jpeg
https://img-blog.csdnimg.cn/img_convert/72f2561637bab85d44c62b2da6a0db5d.jpeg
2.3、对话显示成功。
https://img-blog.csdnimg.cn/img_convert/d5cb49587a1a253c20982a19b4b2e480.jpeg
三、总结
没有消费级的 GPU，竟然都可以拥有自己的当地大模型。
部署过程基本上没有卡点，一台普通的 Mac 就能搞定，太香了~
想学习什么，欢迎留言告诉我。
如何学习大模型
现在社会上大模型越来越普及了，已经有许多人都想往这内里扎，但是却找不到恰当的方法去学习。
作为一名资深码农，初入大模型时也吃了许多亏，踩了无数坑。现在我想把我的经验和知识分享给你们，资助你们学习AI大模型，能够办理你们学习中的困难。
我已将紧张的AI大模型资料包括市面上AI大模型各大白皮书、AGI大模型体系学习门路、AI大模型视频教程、实战学习，等录播视频免费分享出来，必要的小伙伴可以扫取。
https://img-blog.csdnimg.cn/img_convert/8dbb4a4c9179f990a195ac92b98d7e18.png 一、AGI大模型体系学习门路
许多人学习大模型的时候没有方向，东学一点西学一点，像只无头苍蝇乱撞，我下面分享的这个学习门路希望能够资助到你们学习AI大模型。
https://img-blog.csdnimg.cn/direct/a8136a7d40614dff8a585c17e63c0d3e.png
二、AI大模型视频教程
https://img-blog.csdnimg.cn/direct/4710d75c5e794fe5acd76c9dc3c9b568.png
三、AI大模型各大学习书籍
https://img-blog.csdnimg.cn/direct/8e88cca417324c0a8e714f01e64376f9.png
四、AI大模型各大场景实战案例
https://img-blog.csdnimg.cn/direct/59b4a9db64e44ea781bfdc2774f1c0ba.png
五、竣事语
学习AI大模型是当前科技发展的趋势，它不仅能够为我们提供更多的机会和挑战，还能够让我们更好地理解和应用人工智能技术。通过学习AI大模型，我们可以深入了解深度学习、神经网络等核心概念，并将其应用于自然语言处理、计算机视觉、语音辨认等范畴。同时，掌握AI大模型还能够为我们的职业发展增添竞争力，成为将来技术范畴的向导者。
再者，学习AI大模型也能为我们自己创造更多的价值，提供更多的岗位以及副业创收，让自己的生活更上一层楼。
因此，学习AI大模型是一项有前景且值得投入的时间和精力的紧张选择。
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。
页:
[1]