flash_attention_2直接去官方找预编译包安装就行flash-linear-attentionflash-linear-attention:https://github.com/fla-org/flash-linear-attentioncausal-conv1dcausal-conv1d:https://github.com/Dao-AILab/causal-conv1dnvidia-smi 查看driver api 的CUDA版本听说这个是本机能装到的最高版本那这样看来我最高能装到12.4。nvcc -V 查看当前runtime api的CUDA版本还是古老的11.5版本,没办法啊,FlashAttention老是说不支持?安装Torch时选择的CUDA版本pip install torch==2.1.0 torchvision==0.16.0 torchaudio==2.1.0 --index-url https://download.pytorch.org/whl/cu118我是使用这个命令安装的,也就是CUDA版本是11.8,在conda环境安装的runtime api是CUDA11.8版本的。flash attention报错如下:看来flash attention用的是系统的那个CUDA runtime api,而不是conda环境的,所以他说我的CUDA版本太低了。。。。那我只能升级系统CUDA版本咯参考别人的安装过程https://blog.csdn.net/m0_52583356/article/details/138150039https://blog.csdn.net/h3c4lenovo/article/details/119003405可能是这个 CUDA12.1 是之前就在的,我安装并没有安装成功,因为这个时间节点是2023。。。但是我自己重新开一个窗口,发现 nvcc -V还是低版本的原来是自己的 bashrc 没有配置路径:打开~/.bashrc文件,输入以下内容export PATH=/usr/local/cuda-12.1/bin${PATH:+:${PATH}} export LD_LIBRARY_PATH=/usr/local/cuda-12.1/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}我这一步就搞定了,不需要像https://blog.csdn.net/h3c4lenovo/article/details/119003405 这个链接里面说的那样,还要安装cudnn。记得source ~/.bashrc但是还是没办法安装。。。。一开始我以为是我
[安装FlashAttention] CUDA版本 和 Nvidia驱动版本
flash_attention_2直接去官方找预编译包安装就行flash-linear-attentionflash-linear-attention:https://github.com/fla-org/flash-linear-attentioncausal-conv1dcausal-conv1d:https://github.com/Dao-AILab/causal-conv1dnvidia-smi 查看driver api 的CUDA版本听说这个是本机能装到的最高版本那这样看来我最高能装到12.4。nvcc -V 查看当前runtime api的CUDA版本还是古老的11.5版本,没办法啊,FlashAttention老是说不支持?安装Torch时选择的CUDA版本pip install torch==2.1.0 torchvision==0.16.0 torchaudio==2.1.0 --index-url https://download.pytorch.org/whl/cu118我是使用这个命令安装的,也就是CUDA版本是11.8,在conda环境安装的runtime api是CUDA11.8版本的。flash attention报错如下:看来flash attention用的是系统的那个CUDA runtime api,而不是conda环境的,所以他说我的CUDA版本太低了。。。。那我只能升级系统CUDA版本咯参考别人的安装过程https://blog.csdn.net/m0_52583356/article/details/138150039https://blog.csdn.net/h3c4lenovo/article/details/119003405可能是这个 CUDA12.1 是之前就在的,我安装并没有安装成功,因为这个时间节点是2023。。。但是我自己重新开一个窗口,发现 nvcc -V还是低版本的原来是自己的 bashrc 没有配置路径:打开~/.bashrc文件,输入以下内容export PATH=/usr/local/cuda-12.1/bin${PATH:+:${PATH}} export LD_LIBRARY_PATH=/usr/local/cuda-12.1/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}我这一步就搞定了,不需要像https://blog.csdn.net/h3c4lenovo/article/details/119003405 这个链接里面说的那样,还要安装cudnn。记得source ~/.bashrc但是还是没办法安装。。。。一开始我以为是我