上传大模型到huggingface的方法(不消梯子)

打印 上一主题 下一主题

主题 1726|帖子 1726|积分 5178

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?立即注册

x
相关设置

下载LFS

  1. # 更新包管理器
  2. sudo apt-get update
  3. sudo apt-get upgrade
  4. # 安装Git(如有则忽略)
  5. sudo apt-get install git
  6. # 安装Git LFS
  7. sudo apt-get install git-lfs
  8. # 初始化Git LFS
  9. git lfs install
  10. # 验证Git LFS是否安装成功
  11. git lfs --version
复制代码
设置huggingface


  • 从huggingface申请token(需要同时有读写权限的,注意token只会展示一次,所以要记得生存);
  • 安装huggingface-cli
  1. pip install huggingface_hub
  2. huggingface-cli login
  3. # 输入上边生成的token
复制代码
下载模型

注:预先要在huggingface上创建好对应的模型仓库
  1. git lfs install
  2. # 不需要梯子
  3. git clone https://hf-mirror.com/username/model_name
  4. # 需要梯子
  5. git clone https://huggingface.co/username/model_name
  6. # 进入仓库并将需要上传的文件放到这个文件夹内
  7. cd model_name
复制代码
上传模型

追踪大文件

  1. # 追踪需要上传的大文件,后缀需要修改为你需要上传的大文件所对应的
  2. git lfs track "*.bin"
  3. # 列出已经被Git LFS管理的文件
  4. git lfs ls-files
复制代码
上传模型

  1. # 同步更改
  2. git add .
  3. git commit -m "init commit"
  4. # 专门用于推送Git LFS管理的大文件到远程仓库
  5. git lfs push --all origin main
  6. # 提交推送到远程仓库的默认分支
  7. git push
  8. # 如果最后一步出现了无法推送的问题,可以尝试设置一下重新推送
  9. git remote set-url origin https://<user_name>:<token>@hf-mirror.com/<repo_path>
复制代码

参考资料

微调/预训练好的模型从服务器上传至huggingface的方法(不需要邪术)_微调后的模型上传到huggingface-CSDN博客

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
继续阅读请点击广告
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

卖不甜枣

论坛元老
这个人很懒什么都没写!
快速回复 返回顶部 返回列表