LLaMA-Factory：大语言模型微调框架（附开源教程）

简介： LLaMA-Factory 是一个国内北航开源的低代码大模型训练框架，专为大型语言模型（LLMs）的微调而设计
LLaMA-Factory：大语言模型微调框架

一、功能特点

LLaMA-Factory 是一个国内北航开源的低代码大模型训练框架，专为大型语言模型（LLMs）的微调而设计。其主要功能特点包括：

• 高效且低本钱：可以或许高效且低成当地支持对100多个模型进行微调，简化了模型微调的过程。
  
• 易于访问和使用：提供了友好的用户界面，用户无需编写代码即可轻松定制和微调LLMs。
  
• 丰富的数据集选项：支持多个数据集选项，用户可以选择自带的数据集或本身天生数据集进行微调。
  
• 多样化的算法支持：集成了业界最广泛使用的微调方法和优化技术，如LoRA、GaLore、DoRA等。
  
• 实时监控和评估：支持集成TensorBoard、VanDB和MLflow等监控工具，便于实时监控训练过程和评估模型性能。
  
• 极速推理：提供了基于vLLM的OpenAI风格API、欣赏器界面和命令行接口，实现快速推理。
  

二、安装

LLaMA-Factory 的安装相对简朴，以下是一样平常的安装步调（以conda环境为例）：

• 创建Python环境：
  使用conda创建一个新的Python环境，并安装须要的依赖库，如PyTorch等。
  
• 克隆LLaMA-Factory项目：
  通过Git克隆LLaMA-Factory的源代码到当地。
  
  1. git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git

  复制代码
• 安装依赖：
  进入项目目录，安装须要的Python依赖库。
  
  2. cd LLaMA-Factory
  3. pip install -e ".[torch,metrics]"

  复制代码
• 启动服务：
  在项目目录中运行python src/train_web.py启动服务，然后在欣赏器中访问相应的端口（默认大概是7860）以访问训练界面。
  

三、支持的算法

LLaMA-Factory 支持多种先进的微调算法和模型，包括但不限于：

• 多种模型：LLaMA、LLaVA、Mistral、Mixtral-MoE、Qwen、Yi、Gemma、Baichuan、ChatGLM、Phi 等等。
  
• 集成方法：（增量）预训练、（多模态）指令监督微调、奖励模型训练、PPO 训练、DPO 训练、KTO 训练、ORPO 训练等等。
  
• 多种精度：16 比特全参数微调、冻结微调、LoRA 微调和基于 AQLM/AWQ/GPTQ/LLM.int8/HQQ/EETQ 的 2/3/4/5/6/8 比特 QLoRA 微调。
  
• 先进算法：GaLore、BAdam、DoRA、LongLoRA、LLaMA Pro、Mixture-of-Depths、LoRA+、LoftQ、PiSSA 和 Agent 微调。
  
• 实用技巧：FlashAttention-2、Unsloth、RoPE scaling、NEFTune 和 rsLoRA。
  
• 实行监控：LlamaBoard、TensorBoard、Wandb、MLflow 等等。
  
• 极速推理：基于 vLLM 的 OpenAI 风格 API、欣赏器界面和命令行接口。
  

四、性能指标

与 ChatGLM 官方的 P-Tuning 微调相比，LLaMA Factory 的 LoRA 微调提供了 3.7 倍的加快比，同时在广告文案天生任务上取得了更高的 Rouge 分数。结合 4 比特量化技术，LLaMA Factory 的 QLoRA 微调进一步降低了 GPU 显存消耗。

GPU现存消耗：

五、微调例子

以下是一个使用LLaMA-Factory对Yuan2.0模型进行LoRA微调的例子：

• 预备数据集：
  预备自定义的数据集，可以是JSON格式，包含指令、输入和输出等信息。
  
• 注册数据集：
  在LLaMA-Factory的数据集管理文件中注册自定义的数据集。
  
• 启动Web UI服务：
  运行python src/train_web.py启动Web UI服务，并在欣赏器中打开相应的地址。
  
• 配置微调参数：
  在Web界面上配置模型路径、微调方法（选择LoRA）、数据集等参数。
  
• 开始微调：
  点击“开始”按钮开始微调过程，可以在界面中检察训练进度和损失函数等信息。
  
• 评估模型：
  微调完成后，使用LLaMA-Factory提供的评估工具对模型进行评估，检查模型性能是否有所提升。
  

通过以上步调，用户可以利用LLaMA-Factory轻松实现LLMs的微调，提升模型在特定任务上的性能。
怎样体系的去学习大模型LLM ？

大模型期间，火爆出圈的LLM大模型让程序员们开始重新评估本身的本事。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等题目热议不断。
事实上，抢你饭碗的不是AI，而是会利用AI的人。
继科大讯飞、阿里、华为等巨头公司发布AI产品后，许多中小企业也连续进场！超高年薪，发掘AI大模型人才！ 如今大厂老板们，也更倾向于会AI的人，平凡程序员，另有应对的时机吗？
与其焦虑……

不如成为「把握AI工具的技术人」，究竟AI期间，谁先尝试，谁就能占得先机！
但是LLM相关的内容许多，如今网上的老课程老教材关于LLM又太少。以是如今小白入门就只能靠自学，学习本钱和门槛很高。
基于此，我用做产品的心态来打磨这份大模型教程，深挖痛点并持续修改了近70次后，终于把整个AI大模型的学习门槛，降到了最低！
在这个版本当中：

第一您不需要具备任何算法和数学的基础
第二不要求预备高配置的电脑
第三不必懂Python等任何编程语言
您只需要听我讲，跟着我做即可，为了让学习的门路变得更简朴，这份大模型教程已经给各人整理并打包，如今将这份 LLM大模型资料 分享出来：包括LLM大模型册本、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等,