使用LLaMA-Factory练习LLM大模型并用ollama调用
环境搭建系统环境
必要Nvidia显卡，至少8G显存，且专用显存与共享显存之和大于20G
建议将非安装版的环境文件都放到非系统盘，方便重装或移植
以Windows11为例，非安装环境文件都放在 E 盘下
设置自界说Path文件夹
创建 E:\mypath 文件夹，将其添加进用户环境变量Path中，之后会用
CMake
下载 CMake 的 Windows x64 ZIP 对应文件：Download CMake
解压到E:\environment\cmake
将E:\environment\cmake\bin添加到用户环境变量Path中
C++编译
下载 Community 版 Visual Studio：Visual Studio 2022 IDE
运行后选择桌面c++板块内容安装，若中途取消安装了，可以在开始菜单下栏的新增项目（或推荐项目）中找到该安装步调
这里只必要c++的编译环境，把除了C++板块以外的安装项目全部取消勾选（该板块主动勾选系统SDK等其他相干组件，不要取消勾选）
python环境
python安装
下载新版Anaconda安装步调：Download Anaconda
安装过程中将添加到环境变量等选项全部打勾
用uv管理pip包
将uv所有文件装至 E:\uv 下
安装
添加 python 3.11 独立文件
uv python install 3.11
uv python list # 查看是否安装成功
Git环境
安装Git：Git - 安装 Git (git-scm.com)
Nvidia CUDA 工具包
安装12.1版：CUDA Toolkit 12.1 Update 1 Downloads | NVIDIA Developer
注意运行安装步调后在安装选单界面只安装CUDA驱动和工具包，不选其他显卡驱动和Nsignt
安装完后重启电脑
输入指令查看信息
nvidia-smi # 看当前驱动最大可支持的CUDA版本
nvcc -V # 看当前安装的CUDA运行时版本
部署练习框架
部署LLaMA-Factory
拉取源码
在 E:\AI 文件夹下拉取 LLaMA-Factory.git，注意挂署理加速
git config --global http.https://github.com.proxy socks5://127.0.0.1:1080 # 对github设置socks5代理
git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git
cd LLaMA-Factory
uv venv -p 3.11
uv pip install -e "."
安装flash-attention练习加速
在当前目次（LLaMA-Factory）下继承操作
uv pip install https://github.com/bdashore3/flash-attention/releases/download/v2.6.3/flash_attn-2.6.3+cu123torch2.3.1cxx11abiFALSE-cp311-cp311-win_amd64.whl
假如下载慢可以在url前加https://ghproxy.cn/用国内节点下载
安装hqq用于量化
在当前目次（LLaMA-Factory）下继承操作
uv pip install hqq
[!tip] 若提示UTF8相干报错解决
开启使用UTF-8提供全球语言支持
打开控制面板，更改系统区域设置，勾选Beta 版:使用Unicode UTF-8 提供全球语言支持(U)，这个在安装hqq包时用到
重启电脑，安装完后可将该项取消勾选
安装与当前cuda适配的pytorch
在当前目次（LLaMA-Factory）下继承操作
全局署理加速的环境：
参考 Start Locally | PyTorch
以下直接贴出代码
uv pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121
没有全局署理加速的环境：
先用署理加速去下载torch-2.3.1+cu121-cp311-cp311-win_amd64.whl
uv pip install .\torch-2.3.1+cu121-cp311-cp311-win_amd64.whl
uv pip install torchvision==0.18.1+cu121 torchaudio==2.3.1+cu121 -f https://download.pytorch.org/whl/torch_stable.html
配置之前生存的参数
在当前目次（LLaMA-Factory）下继承操作
修改 .\data\dataset_info.json 文件，在开头花括号后参加
"alpaca_dataset": {
"file_name": "alpaca_dataset.json"
},
然后将自定数据集名称定名为 alpaca_dataset.json 放入 .\data 下
将之前生存的.yaml参数配置文件放入 .\config 下
添加环境变量
在 E:\mypath 文件夹内新建 llamafactory-cli.bat 文件，文本编辑器打开输入以下内容并生存
@echo off
cd /d E:\AI\LLaMA-Factory
.\.venv\Scripts\llamafactory-cli.exe %*
新开一个终端，输入以下指令开启web界面
llamafactory-cli webui
下载基础模型
使用带 -Chat 或 -Instruct 标签的模型作为基础模型
以 Qwen2.5-7B-Instruct 为例
到魔搭社区点下载模型：通义千问2.5-7B-Instruct · 模型库 (modelscope.cn)
按说明下载模型文件到 E:\AI\models 中（注意其中大文件下载的进度条不是实时显示，每隔一段进度才显示一次，并不是卡住不动）
模型微调
在 LLaMA-Factory 的Web界面中操作
语言选 zh
滑到最下面找到配置路径
下拉菜单选择之前生存的配置
点击载入练习参数按钮
滑到最上面
模型名称 Qwen2.5-7B-Instruct
填写当地模型路径：E:\AI\models\Qwen2.5-7B-Instruct
展开高级设置
量化等级设置4，量化方法选hqq，加速方式选flashattn2
数据集可加载多个
可选调中间位置练习轮数和最大样本数，最大样本数即要练习用的最大样本数量，点击预览数据集按钮可查看当前数据集数量，假如最大样本数小于当前数据集数量，则按最大样本数作为实际练习样本数，多出的样本不用于练习
计算类型选fp16
下面输出目次按需选填
点击开始进行练习
练习竣事后查看损失图判断练习结果，损失值越小且稳固即结果好
在终端 Ctrl+C 退出Web服务
微调后的模型使用
以ollama调用为例
部署ollama
设置用户环境变量：
OLLAMA_ORIGINS *
OLLAMA_MODELS E:\AI\ollama_models
下载并安装：Ollama
安装后重启电脑
拉取模型
ollama pull qwen2.5:7b
微调模型格式转换
部署llama.cpp
在 E:\AI 目次下
git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
uv venv -p 3.11
uv pip install -r .\requirements\requirements-convert_lora_to_gguf.txt --index-strategy unsafe-best-match
模型查抄点转换为gguf
在 E:\AI\llama.cpp 目次下
.venv\Scripts\activate.ps1
# python ./convert_lora_to_gguf.py --base <basemodel> <loratrain>
python ./convert_lora_to_gguf.py --base "E:\AI\models\Qwen2.5-7B-Instruct" "E:\AI\LLaMA-Factory\saves\Qwen2.5-7B-Instruct\lora\train_xxx"
转换后的gguf文件会导出到<loratrain>的路径下
部署微调模型
从ollama创建新模型
ollama 的 modelfile 模板：
# set the base model
FROM llama3:8b
# set custom parameter values
PARAMETER temperature 1
PARAMETER num_keep 24
PARAMETER stop <|start_header_id|>
PARAMETER stop <|end_header_id|>
PARAMETER stop <|eot_id|>
PARAMETER stop <|reserved_special_token
# set the model template
TEMPLATE """
{{ if .System }}<|start_header_id|>system<|end_header_id|>
{{ .System }}<|eot_id|>{{ end }}{{ if .Prompt }}<|start_header_id|>user<|end_header_id|>
{{ .Prompt }}<|eot_id|>{{ end }}<|start_header_id|>assistant<|end_header_id|>
{{ .Response }}<|eot_id|>
"""
# set the system message
SYSTEM You are llama3 from Meta, customized and hosted @ HY's Blog (https://blog.yanghong.dev).
# set Chinese lora support
ADAPTER /root/.ollama/models/lora/ggml-adapter-model.bin
将转换后的gguf文件剪切到 E:\models\mymodel 下，定名为 mymodel.gguf
在该目次下创建 mymodel.modelfile，输入以下内容并生存
FROM qwen2.5:7b
SYSTEM """
（可选设置SYSTEM）
"""
ADAPTER .\mymodel.gguf
在ollama创建该模型
ollama create mymodel -f E:\models\mymodel\mymodel.modelfile
模型可以使用了~
https://i-blog.csdnimg.cn/direct/096a0895479849fb881238859f1547b6.jpeg#pic_center
大模型&AI产品经理如何学习
求各人的点赞和收藏，我花2万买的大模型学习资料免费共享给你们，来看看有哪些东西。
1.学习路线图
https://i-blog.csdnimg.cn/direct/40506a6affcc414a964c680d81314e17.png#pic_center
第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；
第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；
第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商范畴假造试衣系统；
第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物盛行业咨询智能问答系统；
第五阶段： 大模型微调开发借助以大康健、新零售、新媒体范畴构建适合当前范畴大模型；
第六阶段： 以SD多模态大模型为主，搭建了文生图小步调案例；
第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。
2.视频教程
网上固然也有很多的学习资源，但根本上都残缺不全的，这是我自己整理的大模型视频教程，上面路线图的每一个知识点，我都有配套的视频讲解。
https://i-blog.csdnimg.cn/direct/e14e7fcb35494ec288e3166d15504242.png
https://i-blog.csdnimg.cn/direct/3b5cef73a975451aa628552513bdd18c.png#pic_center
（都打包成一块的了，不能一一展开，统共300多集）
因篇幅有限，仅展示部分资料，必要点击下方图片前往获取
3.技术文档和电子书
这里主要整理了大模型相干PDF册本、行业报告、文档，有几百本，都是目前行业最新的。
https://i-blog.csdnimg.cn/direct/5724c952d23b45b19096800919b0b5d0.png#pic_center
4.LLM口试题和面经合集
这里主要整理了行业目前最新的大模型口试题和各种大厂offer面经合集。
https://i-blog.csdnimg.cn/direct/7520c542c2c84c7cb4e8f13cc1da1255.png
页:
[1]