IT评测·应用市场-qidao123.com

标题: LLaMA-Factory训练DeepSeek修改自我认知 [打印本页]

作者: 大连密封材料 时间: 2025-3-24 18:17
标题: LLaMA-Factory训练DeepSeek修改自我认知
操作体系：Ubuntu24.04.2 LTS (Noble Numbat)

内存：16GB
GPU：NVIDIA GeForce GTX 1070 Ti 8G
2.可能使用的工具

问题排查网站：腾讯元宝 - 轻松工作多点生存
连接服务器工具：Xterminal - 更好用的开辟工具，但不止于(SSH/控制台/More)
3.安装LLaMa-Factory的环境

使用 anaconda 创建用于 LLaMa-Factory 的虚拟环境

conda create -n llama_factory python=3.11
activate llama_factory

复制代码

（不会安装使用腾讯元宝 - 轻松工作多点生存自己查安装教程）

4.下载llama_factory库

git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git
cd LLaMA-Factory
  conda create -n llama_factory python=3.11
  conda activate llama_factory
  pip install -e ".[torch,metrics]"
  # 如果下载的慢使用加快
  pip install -e ".[torch,metrics]" -i  https://pypi.tuna.tsinghua.edu.cn/simple
  测试是否成功

llamafactory-cli version

复制代码

5.CUDA环境检查

cmd查看GPU版本：nvidia-smi

安装的torch默认为2.60，与我们本地的环境不适配，导致无法使用GPU（卸载已经安装的totch环境，切换符合CUDA版本的torch环境）或者重新装显卡驱动
对应版本参考链接：https://pytorch.org/get-started/previous-versions/
测试GPU

import torch
print(torch.cuda.is_available()) # 是否可以用gpu False不能，True可以
print(torch.cuda.device_count()) # gpu数量， 0就是没有，1就是检测到了