llama_factory 、deepspeed No package metadata was found for The ‘bits ...

使用量化微调模子的时间报错
importlib.metadata.PackageNotFoundError: No package metadata was found for The ‘bitsandbytes>=0.37.0’ distribution was not found and is required by this application.

查询 bitsandbytes 是否存在：是版本问题照旧根本没有安装？

1. python -c "import bitsandbytes; print(bitsandbytes.__version__)"

复制代码

ok 发现是没有！ 开始安装，发起是0.37.0 但是注意与CUDA的版本对应关系，我本地对应关系CUDA

1. nvidia-smi

复制代码

去GitHUB上看支持CUDA>11的版本，继承安装

1. pip install bitsandbytes==0.39.0 -i https://pypi.tuna.tsinghua.edu.cn/simple
2. 或者
3. pip install bitsandbytes>=0.37.0 -i https://pypi.tuna.tsinghua.edu.cn/simple

复制代码

安装完成
如果有错 ====别急

验证：

1. python -c "import bitsandbytes; print(bitsandbytes.__version__)"

复制代码

说明对CUDA支持的欠好，重新安装最新版就OK！
卸载旧的

1. pip uninstall bitsandbytes

复制代码

卸载完成
安装最新版本

1. pip install bitsandbytes -i https://pypi.tuna.tsinghua.edu.cn/simple

复制代码

查看安装效果

1. pip show bitsandbytes

复制代码

再次验证

1. python -c "import bitsandbytes; print(bitsandbytes.__version__)"

复制代码

版本对应大功告成！

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。