LLaMA-Factory训练DeepSeek修改自我认知
操作体系：Ubuntu24.04.2 LTS (Noble Numbat)内存：16GB
GPU：NVIDIA GeForce GTX 1070 Ti 8G
2.可能使用的工具
问题排查网站：腾讯元宝 - 轻松工作 多点生存
连接服务器工具：Xterminal - 更好用的开辟工具，但不止于(SSH/控制台/More)
3.安装LLaMa-Factory的环境
使用 anaconda 创建用于 LLaMa-Factory 的虚拟环境
conda create -n llama_factory python=3.11
activate llama_factory （不会安装使用腾讯元宝 - 轻松工作 多点生存自己查安装教程）
https://i-blog.csdnimg.cn/direct/8f65c94dee9f47938602b5e0b2144ab0.png
4.下载llama_factory库
git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git
cd LLaMA-Factory
conda create -n llama_factory python=3.11
conda activate llama_factory
pip install -e "."
# 如果下载的慢使用加快
pip install -e "." -i https://pypi.tuna.tsinghua.edu.cn/simple
测试是否成功
llamafactory-cli version https://i-blog.csdnimg.cn/direct/17e8ee2b54c34110aaf976a9494b2142.png
5.CUDA环境检查
cmd查看GPU版本：nvidia-smi
https://i-blog.csdnimg.cn/direct/a9f5733620cc416caaf7ae062168a25e.png
安装的torch默认为2.60，与我们本地的环境不适配，导致无法使用GPU（卸载已经安装的totch环境，切换符合CUDA版本的torch环境）或者重新装显卡驱动
对应版本参考链接：https://pytorch.org/get-started/previous-versions/
测试GPU
import torch
print(torch.cuda.is_available()) # 是否可以用gpu False不能，True可以
print(torch.cuda.device_count()) # gpu数量， 0就是没有，1就是检测到了https://i-blog.csdnimg.cn/direct/efa1c46e6283439187ad2a35d7c02916.png
6.可视化微调启动
llamafactory-cli webui https://i-blog.csdnimg.cn/direct/84935cb0daf840fda0adc1fe94427de5.png
7.魔塔社区DeepSeek模型下载
魔搭社区
https://i-blog.csdnimg.cn/direct/769aada2ea7d4aef8d626cb21ac5cc19.png
在home目次下下载到model目次下
modelscope download --model deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B README.md --local_dir ./model/
https://i-blog.csdnimg.cn/direct/a66c23e4826942adaa0893f0dce87573.png
测试模型是否加载成功
1、目次填写你下载的目次点击加载模型，可以谈天说明加载成功
https://i-blog.csdnimg.cn/direct/513d284046a3467a90bac406bae22208.png
8、自我认知数据源预备
修改{{name}}为你自己要的名字
https://i-blog.csdnimg.cn/direct/a874c461495d480999a067e48f581c37.png
我是只保留了中文部分
https://i-blog.csdnimg.cn/direct/a8864e4f7d804651abefb1be20fcd2e5.png
加载数据预备训练
https://i-blog.csdnimg.cn/direct/2352049ec0b843079bce9b7da298b346.png
点击开始训练
https://i-blog.csdnimg.cn/direct/5da9c0f3221e4b71a2ad68a716a73d02.pnghttps://i-blog.csdnimg.cn/direct/1ecbc2c7ff4846889c88d6c7fe09e6c4.pnghttps://i-blog.csdnimg.cn/direct/71c05b1f27bb43929df6d8ee25d2fa61.png测试模型
（重新测试新数据要卸载重新后再点击加载模型测试）
https://i-blog.csdnimg.cn/direct/2fae21049d06433e9cb62c2a0fed5028.png
https://i-blog.csdnimg.cn/direct/f78934aecd96404a801ce1aa8f6236ab.png
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。
页:
[1]