没腿的鸟 发表于 2024-10-19 02:49:43

如何在linux远程服务器上直接下载huggingface官网的模子

Introduction:
在AI范畴如nlp/cv等,做实验的时间经常会用到huggingface上各种开源的模子,同时也必要远程服务器(如实验室的服务器)的支持,才气有合适的算力并开展实验。假如将huggingface官网的模子一个个手动下载下来,并自己再用xftp等工具传到服务器上未免太烦太复杂。本人现在也是nlp方向的新入门的小白,方法也都是网上查来的,浅浅记录一下在远程服务器上下载huggingface的模子和数据集的全过程。下面直接进入正题。
Methodology:
具体利用的是huggingface-cli,属于huggingface_hub库,这是HuggingFace官方提供的命令行工具,属于官方工具,那各方面的肯定很美满
1、毗连远程服务器,这个不用多说
2、安装huggingface_hub库
pip install -U huggingface_hub 3、然后先设置国内镜像,否则下载时会出现“TimeoutError: Connection timed out”的错误
# 配置环境变量
vim ~/.bashrc

# 在打开文件中的最后一行添加
export HF_ENDPOINT="https://hf-mirror.com"

# 使得更改生效
source ~/.bashrc 4、下载模子,具体用法如下
huggingface-cli download --resume-download {huggingface官网上的模型ID} --local-dir {想要下载到的目录} 模子ID直接在网页上复制即可
https://i-blog.csdnimg.cn/direct/4ba23039ec7d4b09bdccb9934159079d.png
比如说我想下载一个RoBERTa模子,那就像下面这样
huggingface-cli download --resume-download FacebookAI/roberta-base --local-dir ./roberta-base Conclusion:
完结撒花~


免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
页: [1]
查看完整版本: 如何在linux远程服务器上直接下载huggingface官网的模子