知者何南 发表于 2025-3-28 06:50:21

Llama 3.1部署教程(非常详细)从零基础入门到精通,看完这一篇就够了

近来,Meta公司发布了人工智能模子——Llama 3.1。
那么Llama 3.1 405B的效果怎么样?我们来对比一张图,横向对比一下GPT-4。
https://i-blog.csdnimg.cn/direct/b6e238693b464f47bfbedb5362f857b1.png
可以看出,Llama 3.1 405B在各类使命中的体现可以与GPT-4等顶级的模子相差无几。
那么,我们怎样才能用到这款强大的Llama 3.1 405B模子呢?最直接的方式是通过Meta.ai平台,但目前这一途径仅对漂亮国的用户开放。
https://i-blog.csdnimg.cn/direct/c8d8382a97bb4d1cbb254ad08ee99972.png
那有无得当布衣用的大模子嘞。
接下来我们将在本地部署Llama 3.1 8B(环境所迫)
1.环境预备
(1)Windows10系统及以上的计算机
(2)内存要求:8GB内存可运行7B模子,16GB可运行13B模子,32GB运行可33B模子
(3)网络环境:不需要科学上网(翻墙)
(4)小谢此次搭建的电脑环境如图,又无GPU,这配置只能搭个入门级别的大模子。若有GPU,响应速度则更快。
https://i-blog.csdnimg.cn/direct/96bae01f3c2d40c6b376794fcae7bedf.png
​我给大家预备了一份全套的《AI大模子零基础入门+进阶学习资源包》,包括AI大模子入门学习思维导图、精品AI大模子学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
页: [1]
查看完整版本: Llama 3.1部署教程(非常详细)从零基础入门到精通,看完这一篇就够了