LLaMA-Factory：大语言模子微调框架（大模子）

简介： LLaMA-Factory 是一个国内北航开源的低代码大模子训练框架，专为大型语言模子（LLMs）的微调而计划
LLaMA-Factory：大语言模子微调框架

一、功能特点

LLaMA-Factory 是一个国内北航开源的低代码大模子训练框架，专为大型语言模子（LLMs）的微调而计划。其主要功能特点包括：

• 高效且低本钱：能够高效且低本钱地支持对100多个模子举行微调，简化了模子微调的过程。
  
• 易于访问和使用：提供了友爱的用户界面，用户无需编写代码即可轻松定制和微调LLMs。
  
• 丰富的数据集选项：支持多个数据集选项，用户可以选择自带的数据集或自己生成数据集举行微调。
  
• 多样化的算法支持：集成了业界最广泛使用的微调方法和优化技能，如LoRA、GaLore、DoRA等。
  
• 实时监控和评估：支持集成TensorBoard、VanDB和MLflow等监控工具，便于实时监控训练过程和评估模子性能。
  
• 极速推理：提供了基于vLLM的OpenAI风格API、欣赏器界面和命令行接口，实现快速推理。
  

二、安装

LLaMA-Factory 的安装相对简单，以下是一般的安装步调（以conda环境为例）：

• 创建Python环境：
  使用conda创建一个新的Python环境，并安装必要的依靠库，如PyTorch等。
  
• 克隆LLaMA-Factory项目：
  通过Git克隆LLaMA-Factory的源代码到本地。
  
  1. git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git

  复制代码
• 安装依靠：
  进入项目目录，安装必要的Python依靠库。
  
  2. cd LLaMA-Factory
  3. pip install -e ".[torch,metrics]"

  复制代码
• 启动服务：
  在项目目录中运行python src/train_web.py启动服务，然后在欣赏器中访问相应的端口（默认可能是7860）以访问训练界面。
  

三、支持的算法

LLaMA-Factory 支持多种先进的微调算法和模子，包括但不限于：

• 多种模子：LLaMA、LLaVA、Mistral、Mixtral-MoE、Qwen、Yi、Gemma、Baichuan、ChatGLM、Phi 等等。
  
• 集成方法：（增量）预训练、（多模态）指令监督微调、嘉奖模子训练、PPO 训练、DPO 训练、KTO 训练、ORPO 训练等等。
  
• 多种精度：16 比特全参数微调、冻结微调、LoRA 微调和基于 AQLM/AWQ/GPTQ/LLM.int8/HQQ/EETQ 的 2/3/4/5/6/8 比特 QLoRA 微调。
  
• 先进算法：GaLore、BAdam、DoRA、LongLoRA、LLaMA Pro、Mixture-of-Depths、LoRA+、LoftQ、PiSSA 和 Agent 微调。
  
• 实用本领：FlashAttention-2、Unsloth、RoPE scaling、NEFTune 和 rsLoRA。
  
• 实验监控：LlamaBoard、TensorBoard、Wandb、MLflow 等等。
  
• 极速推理：基于 vLLM 的 OpenAI 风格 API、欣赏器界面和命令行接口。
  

四、性能指标

与 ChatGLM 官方的 P-Tuning 微调相比，LLaMA Factory 的 LoRA 微调提供了 3.7 倍的加速比，同时在广告文案生成使命上取得了更高的 Rouge 分数。结合 4 比特量化技能，LLaMA Factory 的 QLoRA 微调进一步低沉了 GPU 显存消耗。

GPU现存消耗：

五、微调例子

以下是一个使用LLaMA-Factory对Yuan2.0模子举行LoRA微调的例子：

• 准备数据集：
  准备自定义的数据集，可以是JSON格式，包含指令、输入和输出等信息。
  
• 注册数据集：
  在LLaMA-Factory的数据集管理文件中注册自定义的数据集。
  
• 启动Web UI服务：
  运行python src/train_web.py启动Web UI服务，并在欣赏器中打开相应的地点。
  
• 配置微调参数：
  在Web界面上配置模子路径、微调方法（选择LoRA）、数据集等参数。
  
• 开始微调：
  点击“开始”按钮开始微调过程，可以在界面中检察训练进度和损失函数等信息。
  
• 评估模子：
  微调完成后，使用LLaMA-Factory提供的评估工具对模子举行评估，查抄模子性能是否有所提拔。
  

通过以上步调，用户可以使用LLaMA-Factory轻松实现LLMs的微调，提拔模子在特定使命上的性能。
如何体系的去学习大模子LLM ？

作为一名热心肠的互联网老兵，我意识到有许多经验和知识值得分享给各人，也可以通过我们的能力和经验解答各人在人工智能学习中的许多困惑，以是在工作繁忙的环境下照旧对峙各种整理和分享。
但苦于知识流传途径有限，许多互联网行业朋侪无法得到正确的资料得到学习提拔，故此将并将重要的 AI大模子资料 包括AI大模子入门学习头脑导图、精品AI大模子学习册本手册、视频教程、实战学习等录播视频免费分享出来。
所有资料 ⚡️ ，朋侪们如果有必要全套 《LLM大模子入门+进阶学习资源包》，扫码获取~