震撼发布 - 当地运行最强开源大模型Llama 3整合包，创作无穷大概！
4月19日，环球科技、社交巨头Meta在官网，正式发布了开源大模型——Llama-3。为了让各人能更好地享受开源大模型带来的便利，本日Glen特地给各人制作并分享一个Llama-3-8B大模型整合包。Llama 3简介
Meta本次开源了8B和70B两款不同规模的模型。与Llama-2相比，Llama-3使用了15T tokens的训练数据，在推理、数学、代码生成、指令跟踪等本领获得大幅度提拔。
https://img-blog.csdnimg.cn/img_convert/1008576cb51f574b196af02df801b4f5.jpeg
[*] Llama-3-8B：与之前一个版本的Llama 2 70B一样强大，在参数目小了接近10倍的环境下，性能竟然根本一致，而且可以在消耗级显卡上舒畅地玩耍。
[*] Llama-3-70B: 媲美Gemini 1.5 Pro，全面逾越Claude大杯。
还不止是以上，Meta还将在将来几个月，陆续推出一系列具备多模态、多语言对话、更长上下文窗口等本领的新模型。据官方公布，超400B的重量级选手更是有望与逾越目前闭源的两个大模型GPT-4和Claude 3超大杯！
离线懒人包来了
该懒人包基于之前介绍过的Text generation web UI制作，老例子，还是无套路直接分享给各人。各人下载到当地解压即用，请留意不要放置在含中文的文件路径中。
①双击“一键启动”。
②双击一键启动程序后，会打开一个命令提示窗口，项目会自动运行。加载成功后，请自行复制以下网址在欣赏器打开“ http://127.0.0.1:7860/”，记得点点关注不迷路哦，后续还有更多酷炫的AI项目分享~
https://img-blog.csdnimg.cn/img_convert/648656ef73016910dc8285b3341f0d89.png
③打开页面后，首选选择“Model”选项卡，在Model中，选择“Meta-Llama-3-8B-Instruct.Q8_0.gguf”模型文件，继续点击“Load”，期待模型加载。
https://img-blog.csdnimg.cn/img_convert/edf0f332a2cb25ac700bfe1d33039a9d.png
加载完模型后，就可以在当地快速使用啦~使用很简单:
[*] 输入提示词：跟使用ChatGPT一样，输入提示词即可。
[*] 点击提交：可以跟Llama-3-8B大模型在当地无穷免费聊天了。
我亲测了一下，可以使用中文跟Llama-3-8B进行聊天哦~
https://img-blog.csdnimg.cn/img_convert/fec2aabf11052c13093ee749ccbc741b.png
留意事项：
①该项目建议使用英伟达显卡运行，建议8G显存以上
②请确保安装路径不包罗中文，不然大概会引起奇怪的适配问题
③系统要求：支持Windows 10和Windows 11
本日就聊到这了，我是Glen，感谢你看我的文章，欢迎各人继续支持我，请点赞、收藏、分享三连走一波吧~
关注公众号Glen，复兴【Llama-3-8B】，免费获得本文资源~
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。
页:
[1]