LLaMA-Factory：大语言模型微调框架（附开源教程）
简介： LLaMA-Factory 是一个国内北航开源的低代码大模型训练框架，专为大型语言模型（LLMs）的微调而设计LLaMA-Factory：大语言模型微调框架
https://i-blog.csdnimg.cn/direct/63ecb64cd29f4e77a74a6a340dff25f7.png
一、功能特点
LLaMA-Factory 是一个国内北航开源的低代码大模型训练框架，专为大型语言模型（LLMs）的微调而设计。其主要功能特点包括：
[*]高效且低本钱：可以或许高效且低成当地支持对100多个模型进行微调，简化了模型微调的过程。
[*]易于访问和使用：提供了友好的用户界面，用户无需编写代码即可轻松定制和微调LLMs。
[*]丰富的数据集选项：支持多个数据集选项，用户可以选择自带的数据集或本身天生数据集进行微调。
[*]多样化的算法支持：集成了业界最广泛使用的微调方法和优化技术，如LoRA、GaLore、DoRA等。
[*]实时监控和评估：支持集成TensorBoard、VanDB和MLflow等监控工具，便于实时监控训练过程和评估模型性能。
[*]极速推理：提供了基于vLLM的OpenAI风格API、欣赏器界面和命令行接口，实现快速推理。
二、安装
LLaMA-Factory 的安装相对简朴，以下是一样平常的安装步调（以conda环境为例）：
[*] 创建Python环境：
使用conda创建一个新的Python环境，并安装须要的依赖库，如PyTorch等。
[*] 克隆LLaMA-Factory项目：
通过Git克隆LLaMA-Factory的源代码到当地。
git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git
[*] 安装依赖：
进入项目目录，安装须要的Python依赖库。
cd LLaMA-Factory
pip install -e "."
[*] 启动服务：
在项目目录中运行python src/train_web.py启动服务，然后在欣赏器中访问相应的端口（默认大概是7860）以访问训练界面。
https://i-blog.csdnimg.cn/direct/d87915477c054b22ac23db8b61788fd0.png
三、支持的算法
LLaMA-Factory 支持多种先进的微调算法和模型，包括但不限于：
[*]多种模型：LLaMA、LLaVA、Mistral、Mixtral-MoE、Qwen、Yi、Gemma、Baichuan、ChatGLM、Phi 等等。
[*]集成方法：（增量）预训练、（多模态）指令监督微调、奖励模型训练、PPO 训练、DPO 训练、KTO 训练、ORPO 训练等等。
[*]多种精度：16 比特全参数微调、冻结微调、LoRA 微调和基于 AQLM/AWQ/GPTQ/LLM.int8/HQQ/EETQ 的 2/3/4/5/6/8 比特 QLoRA 微调。
[*]先进算法：GaLore、BAdam、DoRA、LongLoRA、LLaMA Pro、Mixture-of-Depths、LoRA+、LoftQ、PiSSA 和 Agent 微调。
[*]实用技巧：FlashAttention-2、Unsloth、RoPE scaling、NEFTune 和 rsLoRA。
[*]实行监控：LlamaBoard、TensorBoard、Wandb、MLflow 等等。
[*]极速推理：基于 vLLM 的 OpenAI 风格 API、欣赏器界面和命令行接口。
四、性能指标
与 ChatGLM 官方的 P-Tuning 微调相比，LLaMA Factory 的 LoRA 微调提供了 3.7 倍的加快比，同时在广告文案天生任务上取得了更高的 Rouge 分数。结合 4 比特量化技术，LLaMA Factory 的 QLoRA 微调进一步降低了 GPU 显存消耗。
https://i-blog.csdnimg.cn/direct/ab677d6149664f0d80c265831472150e.png
GPU现存消耗：
https://i-blog.csdnimg.cn/direct/4488c04f8bb246e188f7efb4c0f5e082.png
五、微调例子
以下是一个使用LLaMA-Factory对Yuan2.0模型进行LoRA微调的例子：
[*]预备数据集：
预备自定义的数据集，可以是JSON格式，包含指令、输入和输出等信息。
[*]注册数据集：
在LLaMA-Factory的数据集管理文件中注册自定义的数据集。
[*]启动Web UI服务：
运行python src/train_web.py启动Web UI服务，并在欣赏器中打开相应的地址。
[*]配置微调参数：
在Web界面上配置模型路径、微调方法（选择LoRA）、数据集等参数。
[*]开始微调：
点击“开始”按钮开始微调过程，可以在界面中检察训练进度和损失函数等信息。
[*]评估模型：
微调完成后，使用LLaMA-Factory提供的评估工具对模型进行评估，检查模型性能是否有所提升。
通过以上步调，用户可以利用LLaMA-Factory轻松实现LLMs的微调，提升模型在特定任务上的性能。
怎样体系的去学习大模型LLM ？
大模型期间，火爆出圈的LLM大模型让程序员们开始重新评估本身的本事。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等题目热议不断。
事实上，抢你饭碗的不是AI，而是会利用AI的人。
继科大讯飞、阿里、华为等巨头公司发布AI产品后，许多中小企业也连续进场！超高年薪，发掘AI大模型人才！ 如今大厂老板们，也更倾向于会AI的人，平凡程序员，另有应对的时机吗？
与其焦虑……
不如成为「把握AI工具的技术人」，究竟AI期间，谁先尝试，谁就能占得先机！
但是LLM相关的内容许多，如今网上的老课程老教材关于LLM又太少。以是如今小白入门就只能靠自学，学习本钱和门槛很高。
基于此，我用做产品的心态来打磨这份大模型教程，深挖痛点并持续修改了近70次后，终于把整个AI大模型的学习门槛，降到了最低！
在这个版本当中：
第一您不需要具备任何算法和数学的基础
第二不要求预备高配置的电脑
第三不必懂Python等任何编程语言
您只需要听我讲，跟着我做即可，为了让学习的门路变得更简朴，这份大模型教程已经给各人整理并打包，如今将这份 LLM大模型资料 分享出来：包括LLM大模型册本、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等,
页:
[1]