微调框架Llama-factory和Unsloth：应该选择哪个？

大模子（如GPT系列和Meta-Llama系列）在自然语言处置惩罚方面表现出色，但要实现最佳效果，仍需通过精细化处置惩罚。提示词工程、微调和RAG增强检索是三种关键技术，帮助提拔大模子的应用性能。
提示词工程，通过设计精准的输入提示，引导模子天生符合预期的输出。就像教孩子识别苹果一样，单一描述每每不够，须要通过多样化的例子提供上下文，让孩子更好理解。同样，提示词工程通过上下文示例让模子理解并天生更准确的回应。
RAG增强检索，则用于弥补大模子知识局限的问题，将模子与外部知识库连接，使其在天生回答时可以检索到相关信息，确保在未知领域也能提供准确答案。微调则是对模子的定制训练，使其在特定领域的使命中表现更优，类似于演员为特定角色做排演训练。
微调，将大模子比作一位多才多艺的演员，他可以饰演各种角色。但是，要想让演员完美诠释一个特定角色，须要举行针对性的训练和排演。微调的过程类似于演员的排演过程。它利用特定领域的数据对大模子举行进一步训练，使其更擅长处置惩罚该领域的任務。例如，将大模子用于医学诊断，就须要使用医疗文本数据举行微调，使其能够理解医学术语并做出准确的诊断。
本日我们重点来先容一下微调框架的选择：

• 微调的重要性：解锁模子潜能
  
• 如何选择大模子微调框架
  

微调的重要性：解锁模子潜能


微调是将预训练模子适应特定鄙俚使命的过程。它类似于一个已经担当过良好教育的学生学习新技能，比如演奏乐器或学习一门外语。 
预训练模子就像谁人已经担当过良好教育的学生，他们已经把握了大量的知识和能力，例如理解语言、识别图像等。但是，要想在特定的使命上表现出色，还须要针对性的训练。
举个例子，假设有一个预训练的语言模子，它能够理解文本并天生笔墨。假如我们想用这个模子来举行情绪分析，就须要对它举行微调。具体来说，我们须要提供大量的带标签数据，例如批评文本和它们的情绪标签（正面、负面或中性）。通过在这些数据上训练，模子就能学习到识别不怜悯绪的特征，从而提高情绪分析的准确率。
微调的好处在于：

• 节流时间和资源:与重新开始训练模子相比，微调只须要较少的训练数据和计算资源，能够明显缩短模子开发周期。
  
• 提拔性能: 微调可以帮助模子更好地适应特定使命，从而提高模子的性能和准确率。
  

因此，微调是将预训练模子应用于现实场景的重要手段，它能够有用地提高模子的性能，并降低模子开发成本。
如何选择大模子微调框架

LLaMA-Factory 

支持多种先进的微调算法和模子，包罗但不限于：多种模子：LLaMA、LLaVA、Mistral、Mixtral-MoE、Qwen、Yi、Gemma、Baichuan、ChatGLM、Phi 等等。
在应用领域有广泛的社区支持，从任何搜刮引擎都可以找到大把的入门和学习资料。
可以基于图形的WEBUI界面或通过下令行两种方式来举行大模子的微调，非常方便，我们所要关注的就是对参数举行不断探索和调整。如下图所示，是一个典范的操纵界面：

Unsloth:

UNSLOTH 这个易用微调框架让任何即使没有算法履历的人，在简单了解大模子底子之后，也能轻松微调主流大模子，开启你的 AI 应用之旅。
官方网站提供丰富示例: 你可以参考各种模子的使用案例，只需稍微调整参数即可完成微调过程。https://github.com/unslothai/unsloth，如下图所示：

同样支持绝大多数主流大模子:在 HUGGING FACE 上搜刮 UNSLOTH，即可找到对 Llama、mistral、国内大模子等主流大模子的全面支持，如下图所示：

也有大量的主流社区提供支持。
LLAMA-FACTORY vs. UNSLOTH: 微调速度的对比

近来，我分别使用了LLAMA-FACTORY和UNSLOTH对一个大型语言模子举行了微调。在微调过程中，UNSLOTH的微调速度给我留下了深刻的印象。本文将简要先容这两个框架，并重点对比它们在微调速度上的差异，以帮助大家更好地理解和选择符合的工具。
微调业务背景及数听说明：

为了提拔模子将当代汉语翻译为古文的能力，我使用了一份包含中国古代所有古文与当代文对照的数据集。经过数据预处置惩罚，最终的数据集包含约1140万条对照记录，示例如下：

1. [  {    "instruction": "请把现代汉语翻译成古文",    "input": "世界及其所产生的一切现象，都是来源于物质。",    "output": "天地与其所产焉，物也。"  },  {    "instruction": "请把现代汉语翻译成古文",    "input": "以概念来称谓事物而不超过事物的实际范围，只是概念的外延。",    "output": "物以物其所物而不过焉，实也。"  }  ]

复制代码

实测结果对比：

由于4090计算资源有限，针对两种不同的微调工具举行了现实测试。具体环境如下：

• 微调设置
  
  
  
  • Llama - factory：
    
    
    
    • 数据量：约2万条
      
    • 微调步长：2940    
      
    
    
  • unsloth：
    
    
    
    • 数据量：约45万条（考虑其对GPU加速的支持）
      
    • 微调步长：3000
      
    
    
  
  

• 耗时对比
  
  
  
  • llama-factory:
    
    
    
    • 猜测时间：3.5小时
      
      
      
      
      
    • 现实时间：5小时
      
    
    
  
  

• 
  
  
  
  • unsloth：
    
    
    
    • 猜测时间：约1小时59
      
    • 现实时间：1小时59
      
    • 
      
      
    
    
  
  

从对比的结果来看，Unsloth 在数据量增编辑器22倍的环境下，现实耗时与猜测险些同等，耗时仅为一小时59分钟，且相较于Llama - factory的速度快了约2.5倍。这意味着，Unsloth 对GPU的加速效果明显，能大幅提拔微调速度。
总结 
测试表明，UNSLOTH和LLAMA-FACTORY在社区支持、模子种类和易用性上相近，但UNSLOTH在微调速度上表现突出。尽管处置惩罚的数据量是LLAMA-FACTORY的20倍，UNSLOTH的速度仍快约2.5倍，极大优化了时间成本，尤其在大规模数据处置惩罚中的效率上风明显。


免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。