微调大语言模子——LLaMa-Factory平台搭建（非常详细）零底子入门到醒目， ...

我们采用 LLaMA-Factory平台举行微调语言模子，详细信息可以访问github主页（https://github.com/hiyouga/LLaMA-Factory）浏览。
租赁显卡

采用AutoDL作为云平台举行微调训练。Win系统采用终端下令行操纵的过程差不多。

选择合适的显卡，点击租赁
LLaMa-Factory 所必要的装备软硬件环境要求如下：
MandatoryMinimumRecommendpython3.83.10torch1.13.12.2.1transformers4.37.24.38.2datasets2.14.32.17.1accelerate0.27.20.27.2peft0.9.00.9.0trl0.7.110.7.11 OptionalMinimumRecommendCUDA11.612.2deepspeed0.10.00.13.4bitsandbytes0.39.00.41.3flash-attn2.3.02.5.5 训练各类模子所需的显存巨细：
MethodBits7B13B30B65B8x7BFull16160GB320GB600GB1200GB900GBFreeze1620GB40GB120GB240GB200GBLoRA1616GB32GB80GB160GB120GBQLoRA810GB16GB40GB80GB80GBQLoRA46GB12GB24GB48GB32GB 在弹出页面内镜像一栏选择底子镜像，下拉菜单内依据以上要求选择合适的pytorch框架版本、Python版本和Cuda版本。之后点击立即创建。

选择配置
本地平台配置

克隆项目

创建乐成后，点击JupyterLab进入终端页面。

进入终端
终端页面如下，点击终端进入下令行页面。

点击终端
再下令行输入以下代码-回车，举行学术资源加快：

1. source /etc/network_turbo  

复制代码

再输入以下代码回车，克隆LLaMA-Factory项目：

1. git clone https://github.com/hiyouga/LLaMA-Factory.git  

复制代码

稍等一段时间，克隆完成结束后出现以下界面：

完成界面
新建假造环境

输入以下代码，创建新环境：

1. conda create -n llama_factory python=3.10  

复制代码

中心有过程必要输入y举行确认。
输入以下代码初始化conda：

1. source /root/miniconda3/etc/profile.d/conda.sh  

复制代码

输入以下代码激该死环境：

1. conda activate llama_factory  

复制代码

如图所示，已经乐成激活：

   ❝
  「假造环境」
  假造环境为项目提供了一个隔离的空间，可以避免不同项目依赖的包版本冲突。每个假造环境都有自己的依赖包副本，不会影响到其他环境。
  之后每次运行都必要激活假造环境。
  ❞
  安装依赖库

输入以下代码，进入平台目录：

1. cd LLaMA-Factory  

复制代码

输入以下代码，安装所需的库文件

1. pip install -r requirements.txt  

复制代码

再安装modelscope库

1. pip install modelscope -U  

复制代码

启动前端页面

首先下载访问以下链接，下载并解压压缩包：AutoDL-SSH-Tools.zip

1. https://autodl-public.ks3-cn-beijing.ksyuncs.com/tool/AutoDL-SSH-Tools.zip  

复制代码

在下令行输入以下代码：

1. CUDA_VISIBLE_DEVICES=0 python src/train_web.py  

复制代码

出现如下页面即启动乐成，注意端标语为7860

回到解压后的压缩包，打开第一个文件：

回到AutoDL控制台页面，按照下图填入相关信息后，点击开始署理：

点击此网址，即可进入训练平台的前端页面：

前端页面
下载大模子

其他方法见往期推送，现增补一个新的方法：
新建py文件，定名为download.py，代码如下：

1. from modelscope import snapshot_download  
2. model_path="qwen/Qwen1.5-7B-Chat"  
3. cache_path="/root/autodl-tmp"#云平台建议下载到这个目录，是数据盘，可以扩增  
4. snapshot_download(model_path, cache_dir=cache_path)  

复制代码

model_path可以更换为huggingface或者modelscope上的模子目录，运行该py文件即可下载
终端运行py文件方法，下令行该文件目录下输入：

1. python download.py  

复制代码

模子目录位置
模子下载网站：ModelScope

1. https://modelscope.cn/  

复制代码

Huggingface

1. https://huggingface.co/  

复制代码

GitHub

1. https://github.com/  

复制代码

Gittee

1. https://gitee.com/  

复制代码

AI大模子学习福利

作为一名热心肠的互联网老兵，我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和本领了 。我已将紧张的AI大模子资料包括AI大模子入门学习思维导图、佳构AI大模子学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
因篇幅有限，仅展示部分资料，必要点击下方链接即可前去获取
2024最新版CSDN大礼包：《AGI大模子学习资源包》免费分享
一、全套AGI大模子学习路线

AI大模子时代的学习之旅：从底子到前沿，掌握人工智能的核心技能！

因篇幅有限，仅展示部分资料，必要点击下方链接即可前去获取
2024最新版CSDN大礼包：《AGI大模子学习资源包》免费分享
二、640套AI大模子陈诉合集

这套包含640份陈诉的合集，涵盖了AI大模子的理论研究、技能实现、行业应用等多个方面。无论您是科研人员、工程师，照旧对AI大模子感爱好的爱好者，这套陈诉合集都将为您提供宝贵的信息和启示。

因篇幅有限，仅展示部分资料，必要点击下方链接即可前去获取
2024最新版CSDN大礼包：《AGI大模子学习资源包》免费分享
三、AI大模子经典PDF籍

随着人工智能技能的飞速发展，AI大模子已经成为了当今科技领域的一大热点。这些大型预训练模子，如GPT-3、BERT、XLNet等，以其强大的语言理解和天生本领，正在改变我们对人工智能的熟悉。 那以下这些PDF籍就是非常不错的学习资源。

因篇幅有限，仅展示部分资料，必要点击下方链接即可前去获取
2024最新版CSDN大礼包：《AGI大模子学习资源包》免费分享
四、AI大模子商业化落地方案

因篇幅有限，仅展示部分资料，必要点击下方链接即可前去获取
2024最新版CSDN大礼包：《AGI大模子学习资源包》免费分享
作为平凡人，入局大模子时代必要一连学习和实践，不断进步自己的技能和认知水平，同时也必要有责任感和伦理意识，为人工智能的康健发展贡献力量。

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。