LLaMaFactory的windows本地搭建教程，免费，附带安装包，亲测可以使用
前言:这段时间都在研究LLaMaFactory的本地搭建，由于网上如今广告着实是太多了，而且也不利于真正必要的人，所以这在这里写一下搭建步调，有必要的朋友可以参考，也可以转载，附上原文链接就行，那么如今开始。
https://i-blog.csdnimg.cn/direct/a4bd9f2e46654604ac264b36e2435645.png
上面是效果图，那么我从如今开始从搭建。
全部必要的链接我都给出来：
Anaconda3 https://pan.quark.cn/s/4317e4e69d8d
LLaMA-Factory https://pan.quark.cn/s/7ffe855e920c
deepseek-aiDeepSeek-R1-Distill-Qwen-1.5B https://pan.quark.cn/s/49e6ff26d13a
deepseek-aiDeepSeek-R1-Distill-Qwen-7B https://pan.quark.cn/s/e64070eeb93c
deepseek-aiDeepSeek-R1-Distill-Llama-8B https://pan.quark.cn/s/1f893ea91f4c
总共必要三步调：
1.安装python情况，我这里只推荐3.10（别的ollama也是必要这个情况）
2.安装Anaconda3情况，我这里会附带安装包（发起2024版本的，比较稳定）
3.安装LLaMaFactory情况，并且附带一个deepseek 1.5B的模子测试一下（链接附带在后面）
开始正文：起首是python情况
分享一个链接，还不错
python解释器安装教程（3.10版本）-CSDN博客
安装完之后是这个效果就行（版本不比和我一样）
win+r cmd之后输入python有情况就可以了
https://i-blog.csdnimg.cn/direct/9990226261ac480dbf770b9a9e7502ea.png
第二步安装Anaconda3情况
有一位大哥写的链接也很不错，而且有清华源的镜像。
Anaconda3安装_anaconda3安装教程-CSDN博客
这是清华源
Index of /anaconda/archive/ | 清华大学开源软件镜像站 | Tsinghua Open Source Mirror
假如着实不方便，我分享一个夸克链接：
我用夸克网盘分享了「Anaconda3-2024.06-1-Windows-x86_64.exe」，点击链接即可生存。打开「夸克APP」，无需下载在线播放视频，畅享原画5倍速，支持电视投屏。
链接：https://pan.quark.cn/s/4317e4e69d8d
安装完之后，输入 conda --version
看得到版本号就可以了。
https://i-blog.csdnimg.cn/direct/ec260d60705b48ca9d7902be78f55622.png
在做完了上述步调，开始我们的重点LLaMaFactory
LLaMaFactory的配置与情况
我先分享一个安装包，可以解压直接用
我用夸克网盘分享了「LLaMA-Factory-main.zip」，点击链接即可生存。打开「夸克APP」，无需下载在线播放视频，畅享原画5倍速，支持电视投屏。
链接：https://pan.quark.cn/s/7ffe855e920c
解压完之后是这样的，放在本身电脑硬盘里面就可以了
https://i-blog.csdnimg.cn/direct/6b5825c17a83478e852baad430342d85.png
安装完之后，我们进入这个文件夹：
选择这个Anaconda Prompt进入
https://i-blog.csdnimg.cn/direct/3ec11e3ea81c4c3290d705ba31245389.png
打开是这样的：
https://i-blog.csdnimg.cn/direct/6c58107fda284859af862f3493e5ba79.png
然后我们进入llamafac所在的文件夹（我是放在d盘）
cd进入这个文件夹
https://i-blog.csdnimg.cn/direct/85cf32e18fc64836a1bc3887e90e977f.png
下面我们要创建一个conda情况
conda create -n ceshi python=3.10
1. 命令功能
[*]创建新情况：在 Conda 中新建一个名为 ceshi 的独立情况，用于隔离不同项目标依赖。
[*]指定 Python 版本：在新情况中安装 Python 3.10，避免与其他情况或全局 Python 版本冲突。
2. 参数分析
[*]conda create：Conda 的基础命令，用于创建新情况。
[*]-n ceshi：-n 表示情况名称（--name 的缩写），ceshi 是自定义的情况名（可更换为其他名称）。
[*]python=3.10：指定情况中安装 Python 3.10 版本（Conda 会自动分析兼容的依赖包）之后就自动开始创建https://i-blog.csdnimg.cn/direct/fea76046c5774daaaae9f1ea8bf2889f.png然后后面y，就是yes就好了https://i-blog.csdnimg.cn/direct/5d98e8e34d274239a68163150438748e.png
3.打开 llama factory
pip install -e "."
pip install -e "." 是一个结合 可编辑模式安装 和 可选依赖项 的 pip 命令，常见于 Python 项目标开发场景。以下是逐层分析：
1. 命令结构
[*]pip install：基础命令，用于安装 Python 包。
[*]-e：表示以 可编辑模式（editable mode） 安装包（等价于 --editable）。
[*]"."：点号 . 表示当前目次（即安装当前文件夹下的包）。
[*]：方括号内是包的 额外依赖项（称为 extras），需在包的配置文件中定义。https://i-blog.csdnimg.cn/direct/ed1e470116064eccb173a6e93f03307d.png
这样会安装一系列的包
然后之后
conda activate ceshi
llamafactory-cli webui
https://i-blog.csdnimg.cn/direct/6b16263ecc444097ad66497ee1bc500b.png
以上就是运行情况，然后打开网站。
起首是语言！这是中国人开发的，所以中文优化很好，选择zh
我们把模子名称选择本身有点模子，然后后面的路径就windows复制一下路径
https://i-blog.csdnimg.cn/direct/227f6698b57343fc9a876596ad869a77.png
数据集先选择identity，之后可以本身编写
https://i-blog.csdnimg.cn/direct/47925bc95e0a4807a1d0347ef81cdc98.png
然后我们点击开始
https://i-blog.csdnimg.cn/direct/17d87a6ca4dc4067af13fc36e055602b.png
就会报错，找不到CUDA情况
https://i-blog.csdnimg.cn/direct/ed54e852b448497f99c6e4d24e06029a.png
我们就来办理这个报错
本质上是torch包不对，所以我们要重新安装一个得当的torch
步调 1：卸载 PyTorch
假如您的 PyTorch 是通过 conda 安装的：
conda remove pytorch torchvision torchaudio假如是通过 pip 安装的：
pip uninstall torch torchvision torchaudio然后一起yes下去
https://i-blog.csdnimg.cn/direct/bd0ba38dc4ad4087885854d0010e5a12.png
步调2：然后安装的话
# Conda 安装
conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c pytorch -c nvidia
# Pip 安装
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121
https://i-blog.csdnimg.cn/direct/0565b65b979d47a8b97c0de40412ebaf.png
包比较大，消耗很长的时间
https://i-blog.csdnimg.cn/direct/e2f85ade54274e1d9b25a3e81f441565.png
然后安装完之后就可以正常打开
在这里选择模子和本地路径（对于模子必须是lla格式，不能是gguf格式）
https://i-blog.csdnimg.cn/direct/d33e7d69af62480b8d1b1b8bce5927db.png
这个对话模板看本身需求选择
https://i-blog.csdnimg.cn/direct/9f809fd4fdf247e79732d317d3f3e203.png
数据集先用identy试试
https://i-blog.csdnimg.cn/direct/1d355bd74e4e40acbb9237554d17d55c.png
然后加载模子，等他加载好就好（右边图标也会显示对比分数）
https://i-blog.csdnimg.cn/direct/150f71383576453ea50548163f05d6c3.png
到这里整个llama factory也就搭建完成了，不是很复杂。
最后去chat里面就可以对话微调后的模子了
https://i-blog.csdnimg.cn/direct/3840d518d74d4a61a7f63cb383274e5e.png
附带几条最简单的命令：
conda：
conda env list 看一下如今conda有哪些情况
conda remove --name 情况名字 --all 删除某个conda情况
conda create --name python=3.10 情况名字 创造某个conda情况，python即是什么般般
conde activate 情况名字 打开某个情况，或者说激活
conda deactivate 关闭某个情况
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。
页:
[1]