在Ubuntu上用Llama Factory命令行微调Qwen2.5的简朴过程

打印 上一主题 下一主题

主题 1846|帖子 1846|积分 5538

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?立即注册

x
半年多之前写过一个教程:在Windows上用Llama Factory微调Llama 3的根本操纵_llama-factory windows-CSDN博客
如果用命令行做的话,前面的步调可以参考上面这个博客。安装好环境后, 用自我认知数据集微调Lora模块:data/identity.json,内里的格式也很好明白:
   {
  "instruction": "你是谁?",
  "input": "",
  "output": "您好,我是 { {name}},一个由 { {author}} 发明的人工智能助手。我可以答复各种问题,提供实用的发起和帮助,帮助用户完成各种使命。"
  },
  可以直接用VS Code将上面的name和author更换,另存为一个文件,并且在data/dataset_info.json增长这个,类似于我这里(另存的文件名为identity_tpri.json):
    "identity_tpri": {
  "file_name": "identity_tpri.json"
  },
  将文件examples/train_qlora/llama3_lora_sft_awq.

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
继续阅读请点击广告
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

南飓风

论坛元老
这个人很懒什么都没写!
快速回复 返回顶部 返回列表