微调大语言模子——LLaMa-Factory平台搭建（非常详细）零底子入门到醒目，
我们采用 LLaMA-Factory平台举行微调语言模子，详细信息可以访问github主页（https://github.com/hiyouga/LLaMA-Factory）浏览。租赁显卡
采用AutoDL作为云平台举行微调训练。Win系统采用终端下令行操纵的过程差不多。
https://img-blog.csdnimg.cn/img_convert/d44d477b385c620d72c4e8e27df07a64.png
选择合适的显卡，点击租赁
LLaMa-Factory 所必要的装备软硬件环境要求如下：
MandatoryMinimumRecommendpython3.83.10torch1.13.12.2.1transformers4.37.24.38.2datasets2.14.32.17.1accelerate0.27.20.27.2peft0.9.00.9.0trl0.7.110.7.11 OptionalMinimumRecommendCUDA11.612.2deepspeed0.10.00.13.4bitsandbytes0.39.00.41.3flash-attn2.3.02.5.5 训练各类模子所需的显存巨细：
MethodBits7B13B30B65B8x7BFull16160GB320GB600GB1200GB900GBFreeze1620GB40GB120GB240GB200GBLoRA1616GB32GB80GB160GB120GBQLoRA810GB16GB40GB80GB80GBQLoRA46GB12GB24GB48GB32GB 在弹出页面内镜像一栏选择底子镜像，下拉菜单内依据以上要求选择合适的pytorch框架版本、Python版本和Cuda版本。之后点击立即创建。
https://img-blog.csdnimg.cn/img_convert/f0049edbbbf8ce0baaa985a07ec848e7.png
选择配置
本地平台配置
克隆项目
创建乐成后，点击JupyterLab进入终端页面。
https://img-blog.csdnimg.cn/img_convert/add361893a6ea83868b5fce477876e45.png
进入终端
终端页面如下，点击终端进入下令行页面。
https://img-blog.csdnimg.cn/img_convert/ebc4ba958d30a554598720ade400952c.png
点击终端
再下令行输入以下代码-回车，举行学术资源加快：
source /etc/network_turbo
再输入以下代码回车，克隆LLaMA-Factory项目：
git clone https://github.com/hiyouga/LLaMA-Factory.git
稍等一段时间，克隆完成结束后出现以下界面：
https://img-blog.csdnimg.cn/img_convert/92da2a3241ed28bee9fad904296c3253.png
完成界面
新建假造环境
输入以下代码，创建新环境：
conda create -n llama_factory python=3.10
中心有过程必要输入y举行确认。
输入以下代码初始化conda：
source /root/miniconda3/etc/profile.d/conda.sh
输入以下代码激该死环境：
conda activate llama_factory
如图所示，已经乐成激活：https://img-blog.csdnimg.cn/img_convert/2cf0eb68017ceb0f49ce9170115525db.png
❝
「假造环境」
假造环境为项目提供了一个隔离的空间，可以避免不同项目依赖的包版本冲突。每个假造环境都有自己的依赖包副本，不会影响到其他环境。
之后每次运行都必要激活假造环境。
❞
安装依赖库
输入以下代码，进入平台目录：
cd LLaMA-Factory
输入以下代码，安装所需的库文件
pip install -r requirements.txt
再安装modelscope库
pip install modelscope -U
启动前端页面
首先下载访问以下链接，下载并解压压缩包：AutoDL-SSH-Tools.zip
https://autodl-public.ks3-cn-beijing.ksyuncs.com/tool/AutoDL-SSH-Tools.zip
在下令行输入以下代码：
CUDA_VISIBLE_DEVICES=0 python src/train_web.py
出现如下页面即启动乐成，注意端标语为7860https://img-blog.csdnimg.cn/img_convert/51976d7081666743a83ef672941c1253.png
回到解压后的压缩包，打开第一个文件：https://img-blog.csdnimg.cn/img_convert/ea7da217f45bc53a04f81723339bb26a.png
回到AutoDL控制台页面，按照下图填入相关信息后，点击开始署理：https://img-blog.csdnimg.cn/img_convert/991a758513994e7a49c173ba2503279c.png
点击此网址，即可进入训练平台的前端页面：https://img-blog.csdnimg.cn/img_convert/ff7d6b0a3b1bb86232b7bc74f2402de6.png
https://img-blog.csdnimg.cn/img_convert/a037b122f9d5ed92f101dc3a61323258.png
前端页面
下载大模子
其他方法见往期推送，现增补一个新的方法：
新建py文件，定名为download.py，代码如下：
from modelscope import snapshot_download
model_path="qwen/Qwen1.5-7B-Chat"
cache_path="/root/autodl-tmp"#云平台建议下载到这个目录，是数据盘，可以扩增
snapshot_download(model_path, cache_dir=cache_path)
model_path可以更换为huggingface或者modelscope上的模子目录，运行该py文件即可下载
终端运行py文件方法，下令行该文件目录下输入：
python download.py
https://img-blog.csdnimg.cn/img_convert/a7096b3feb2c02fdac8c1cbb61887268.png
模子目录位置
模子下载网站：ModelScope
https://modelscope.cn/
Huggingface
https://huggingface.co/
GitHub
https://github.com/
Gittee
https://gitee.com/
AI大模子学习福利
作为一名热心肠的互联网老兵，我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和本领了 。我已将紧张的AI大模子资料包括AI大模子入门学习思维导图、佳构AI大模子学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
因篇幅有限，仅展示部分资料，必要点击下方链接即可前去获取
2024最新版CSDN大礼包：《AGI大模子学习资源包》免费分享
一、全套AGI大模子学习路线
AI大模子时代的学习之旅：从底子到前沿，掌握人工智能的核心技能！
https://img-blog.csdnimg.cn/direct/73960f44794245eb988e286620c38b59.png
因篇幅有限，仅展示部分资料，必要点击下方链接即可前去获取
2024最新版CSDN大礼包：《AGI大模子学习资源包》免费分享
二、640套AI大模子陈诉合集
这套包含640份陈诉的合集，涵盖了AI大模子的理论研究、技能实现、行业应用等多个方面。无论您是科研人员、工程师，照旧对AI大模子感爱好的爱好者，这套陈诉合集都将为您提供宝贵的信息和启示。
https://img-blog.csdnimg.cn/direct/ecbe365405e6442986e91b29da53efbd.png
因篇幅有限，仅展示部分资料，必要点击下方链接即可前去获取
2024最新版CSDN大礼包：《AGI大模子学习资源包》免费分享
三、AI大模子经典PDF籍
随着人工智能技能的飞速发展，AI大模子已经成为了当今科技领域的一大热点。这些大型预训练模子，如GPT-3、BERT、XLNet等，以其强大的语言理解和天生本领，正在改变我们对人工智能的熟悉。 那以下这些PDF籍就是非常不错的学习资源。
https://img-blog.csdnimg.cn/direct/f3f83643ea7e4954ad51c4b3099dddc6.png
因篇幅有限，仅展示部分资料，必要点击下方链接即可前去获取
2024最新版CSDN大礼包：《AGI大模子学习资源包》免费分享
四、AI大模子商业化落地方案
https://img-blog.csdnimg.cn/direct/de6bd4e8e37c4e61a79c37b2551d466e.png
因篇幅有限，仅展示部分资料，必要点击下方链接即可前去获取
2024最新版CSDN大礼包：《AGI大模子学习资源包》免费分享
作为平凡人，入局大模子时代必要一连学习和实践，不断进步自己的技能和认知水平，同时也必要有责任感和伦理意识，为人工智能的康健发展贡献力量。
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。
页:
[1]