一、操作场景
GPU 云服务器采用 NVIDIA 显卡，则需要安装 CUDA 开发运行环境。这篇以目前最常用的 CUDA 12.4.0 为例，你可参考以下步骤进行安装。
二、Linux 系统指引
1. 前往 CUDA 下载 页面或访问 https://developer.nvidia.com/cuda-toolkit-archive。
2. 选择 GPU 驱动对应的 CUDA 版本，这篇以 CUDA Toolkit 12.4.0 为例。如下：
3. 按照页面上的提示，依次选择操作系统和安装包，并复制 wget 下载命令和地址。这篇选择方式如下：
注意：Installer Type：推荐选择 runfile（local）。
4. 参见 使用标准方式登录 Linux 实例（推荐），登录 GPU 实例。你也可以根据实际操作习惯，选择其他不同的登录方式：
·使用远程登录软件登录 Linux 实例
·使用 SSH 登录 Linux 实例
5. 使用 wget 命令， 粘贴步骤3中已获取的链接，下载安装包。如下：
或者你可在本地系统下载 CUDA 安装包，再上传到 GPU 实例的服务器。下载或上传完成可使用 ll 查看当前目录文件。
6. 依次执行以下命令，对安装包添加执行权限，请在 root 用户下操作。例如，对文件 cuda_12.4.0_550.54.14_linux.run 添加执行权限。
chmod +x cuda_12.4.0_550.54.14_linux.run
./cuda_12.4.0_550.54.14_linux.run –toolkit –samples –silent –override
如下：
注意：安装 CUDA 过程中，Driver 选项表示是否安装 GPU 驱动，如果你已经安装了 GPU 驱动，请取消勾选。
注意：GPU驱动安装，请使用驱动安装包，不建议使用 CUDA 安装包来安装GPU驱动。
注意：
7. 执行以下命令，验证 CUDA 安装是否成功。
/usr/local/cuda-12.4/bin/nvcc –version
若展示出 CUDA 版本，则安装成功。
三、Windows 系统指引
1. 参见 使用远程桌面连接登录 Windows 实例，登录 GPU 实例。
2. 访问 CUDA 页面。
3. 选择对应的 CUDA 版本，这篇以 CUDA Toolkit 12.4.0 为例。如下：
4. 按照页面上的提示，依次选择操作系统和安装包。这篇选择方式如下：
5. 打开下载 CUDA 所在的文件夹，双击安装文件开始安装。
6. 若最后出现完成对话框，则表示安装成功。如下：