六级炼药师--完美解决meta 公司llama ProcessGroupNCCL is only supported

本人总结不易，盼望三连谢谢。


llama 大模型本地部署层层闯关，下载源码下载模型到环境设置，终极在如下调用出现了如标题雷同的错误，该怎样解决呢，如下干活直接开始先容解决方案，核心点，CPU联合GPU设置。

1. # 句子补全
2. torchrun --nproc_per_node 1 example_text_completion.py \     --ckpt_dir llama-2-7b/ \     --tokenizer_path tokenizer.model \     --max_seq_len 128 --max_batch_size 4
3. # 对话生成
4. torchrun --nproc_per_node 1 example_chat_completion.py \     --ckpt_dir llama-2-7b-chat/ \     --tokenizer_path tokenizer.model \     --max_seq_len 512 --max_batch_size 4

复制代码

解决方法步调：

️️


我已经通过安装以下内容解决了安装GPU的题目：

  下载https://github.com/krychu/llama而不是单独使用 https://github.com/facebookresearch/llama
完整的安装过程&

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。