qwen2.5vl模型微调第一天，cuda驱动安装

(1)、检查驱动

nvidia-smi

NVIDIA-SMI 550.163.01             Driver Version: 550.163.01     CUDA Version: 12.4

(2)、安装 CUDA Toolkit（根据cuda版本选择）

# 下载 runfile
wget https://developer.download.nvidia.com/compute/cuda/12.1.1/local_installers/cuda_12.1.1_530.30.02_linux.run
# 运行安装程序
sudo sh cuda_12.1.1_530.30.02_linux.run

此步骤不要使用final shell看不到同意的输入框

配置环境变量

nano ~/.bashrc

在文件末尾添加以下两行：

export PATH=/usr/local/cuda-12.1/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-12.1/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

验证

source ~/.bashrc
nvcc --version

输出：

nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2023 NVIDIA Corporation
Built on Mon_Apr__3_17:16:06_PDT_2023
Cuda compilation tools, release 12.1, V12.1.105
Build cuda_12.1.r12.1/compiler.32688072_0