llama_factory 、deepspeed No package metadata was found for The ‘bits
使用量化微调模子的时间报错importlib.metadata.PackageNotFoundError: No package metadata was found for The ‘bitsandbytes>=0.37.0’ distribution was not found and is required by this application.
https://i-blog.csdnimg.cn/direct/c828981b43b84b18bbf5fd7fff370fb8.png
查询 bitsandbytes 是否存在：是版本问题照旧根本没有安装？
python -c "import bitsandbytes; print(bitsandbytes.__version__)"
https://i-blog.csdnimg.cn/direct/44315c2a055b4781bdafe5835b66482c.png
ok 发现是没有！ 开始安装，发起是0.37.0 但是注意与CUDA的版本对应关系，我本地对应关系CUDA
nvidia-smi
https://i-blog.csdnimg.cn/direct/f45fb0a235504c888cd992a5fdcafc50.png
去GitHUB上看支持CUDA>11的版本，继承安装
pip install bitsandbytes==0.39.0 -i https://pypi.tuna.tsinghua.edu.cn/simple
或者
pip install bitsandbytes>=0.37.0 -i https://pypi.tuna.tsinghua.edu.cn/simple
https://i-blog.csdnimg.cn/direct/125989959adb4417ac4695fa8a7c1ff9.png
安装完成
如果有错 ====别急
验证：
python -c "import bitsandbytes; print(bitsandbytes.__version__)"
https://i-blog.csdnimg.cn/direct/f68985d2ded04f7cba7ad07a4d2686d4.png
说明对CUDA支持的欠好，重新安装最新版就OK！
卸载旧的
pip uninstall bitsandbytes
https://i-blog.csdnimg.cn/direct/becbf172625e4a5591fc77cb79d15260.png
卸载完成
安装最新版本
pip install bitsandbytes -i https://pypi.tuna.tsinghua.edu.cn/simple
https://i-blog.csdnimg.cn/direct/b8bf7d0e275c4290a9eb5c37c169affc.png
查看安装效果
pip show bitsandbytes
https://i-blog.csdnimg.cn/direct/691d9489c2304b34b6f0ff80fd974514.png
再次验证
python -c "import bitsandbytes; print(bitsandbytes.__version__)"
https://i-blog.csdnimg.cn/direct/38ac9bc623824d8cbf6d1675ca262364.png
版本对应大功告成！
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。
页:
[1]