风雨同行 发表于 2024-7-24 18:54:31

(2023.12.6)办理部署privateGPT中,安装依赖llama-cpp-python失败。

问题描述-1(gcc编译器问题)

CMake Error: CMAKE_C_COMPILER not set, after EnableLanguage CMake Error: CMAKE_CXX_COMPILER not set, after EnableLanguage -- Configuring incomplete, errors occurred!
出现这个问题是关于设置C和C++编译器的问题,
办理思路

因为我是新电脑没有安装过gcc相关编辑器,故重新下载了 Visual Studio tool 2022https://img-blog.csdnimg.cn/direct/5e5ca03ffce542f6b7a2f9699a82d2c0.png
选择安装。
https://img-blog.csdnimg.cn/direct/4fed092fc7b24d48936281ea2adf9e6b.png
安装好后重新运行llama-cpp-python依赖
pip install --force-reinstall --no-cache-dir llama-cpp-python

结果还是显示失败
https://img-blog.csdnimg.cn/direct/03443476e2204322bf9b1d2205bfe0c7.png
问题描述-2(No CUDA toolset found)

新问题焦点问题是
-- cuBLAS found CMake Error at C:/Users/Administrator/AppData/Local/Temp/pip-build-env-lr0mlpl6/normal/Lib/site-packages/cmake/data/share/cmake-3.27/Modules/CMakeDetermineCompilerId.cmake:503 (message): No CUDA toolset found.
提示没有找到CUDA工具集,但是电脑已经是安装了CUDA 12.1和配套cudnn,
办理思路

看问题是cmake没法找到cuda 工具集,找了相关资料,说是要把NVIDIA GPU Computing Toolkit目次MSBuildExtensions下面的文件复制到Microsoft Visual Studio文件目次下的BuildCustomizations下去。
完整路径如下:
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1\extras\visual_studio_integration\MSBuildExtensions
C:\Program Files (x86)\Microsoft Visual Studio\2022\BuildTools\MSBuild\Microsoft\VC\v170\BuildCustomizations
https://img-blog.csdnimg.cn/direct/41121fce628145629459324c63cf7a0c.png

https://img-blog.csdnimg.cn/direct/278e3ed2d5ec452b91dbb6b915edb191.png
这里因为每个人安装的版本不同,必要找到合适的Vxx目次下面才有BuildCustomizations文件,我是22版本,以是是V170。找到BuildCustomizations文件夹后直接复制进去。
https://img-blog.csdnimg.cn/direct/be2ec80458534c4c812ee63a8f40429f.png
更换完成,再次运行
pip install --force-reinstall --no-cache-dir llama-cpp-python

https://img-blog.csdnimg.cn/direct/56adad6f071d4402b4598b56ee8abbfe.png
显示安装成功,办理问题!

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
页: [1]
查看完整版本: (2023.12.6)办理部署privateGPT中,安装依赖llama-cpp-python失败。