CUDA Setup failed despite GPU being available. Required library version not found:问题踩坑

最新推荐文章于 2025-03-20 16:52:14 发布

XiLong Liu

最新推荐文章于 2025-03-20 16:52:14 发布

阅读量4.3k

点赞数 9

CC 4.0 BY-SA版权

文章标签： cuda vicuna

本文链接：https://blog.csdn.net/weixin_44517645/article/details/131508060

文章描述了在安装CUDA122时遇到bitsandbytes库缺失的问题，解决方案是手动从源代码编译。作者提供了卸载现有库、克隆GitHub仓库及编译安装的步骤，并吐槽了寻找解决方案的过程。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

详细报错如下，下载了最新的cuda122,bitsandbyts的release版本没有对应的so。
解决办法：自己编译一个

CUDA SETUP: CUDA runtime path found: /usr/local/cuda/lib64/libcudart.so
CUDA SETUP: Highest compute capability among GPUs detected: 8.6
CUDA SETUP: Detected CUDA version 122
CUDA SETUP: Required library version not found: libbitsandbytes_cuda122.so. Maybe you need to compile it from source?
CUDA SETUP: Defaulting to libbitsandbytes_cpu.so...

#如果使用了conda一定注意先卸载掉bitsandbytes
pip uninstall bitsandbytes
#明明科学上网了,但我这边没有git成功，可以下包到本地再解压
git clone https://github.com/TimDettmers/bitsandbytes.git 
cd bitsandbytes
make CUDA_VERSION=122 #注意替换为当前的CUDA_VERSION
python setup.py install

吐槽：看了一晚上，都说是换干净cuda版本或者环境的，费时费力。自己编译丰衣足食。