你也可以在 腾讯云可观测平台 分析监控指标和实施告警,更多详细内容可参见 腾讯云可观测平台告警管理。
一、GPU 监控工作条件
GPU 监控是通过在 GPU 云服务上部署安装相关 GPU 驱动 和 云服务器监控组件 来实现的,使用不同的镜像需要不同的处理方式:
·使用公共镜像:公共镜像默认包含云服务器监控组件,只需安装 GPU 驱动。
·使用云镜像市场 GPU 驱动预装镜像:无需任何安装。
·使用导入镜像:需手动安装云服务器监控组件和 GPU 驱动。
二、在控制台查看 GPU 工作参数
单击 GPU 列表中的 监控图标, 访问 控制台 GPU 实例的监控页面,查看 GPU 监控,移动鼠标到指标曲线上将显示对应 GPU 设备的 BDF(Bus、Device、Function,设备唯一地址)和监控数据。如下:
参数说明:
| 指标名称 | 含义 | 单位 | 维度 |
| GPU 使用率 | 评估负载所消耗的计算能力,非空闲状态百分比 | % | per-GPU |
| GPU 显存使用量 | 评估负载使用的显存量 | MB | per-GPU |
| GPU 显存使用率 | 评估负载使用的显存量占显存总量的百分比 | % | per-GPU |
| GPU 功耗使用量 | 评估 GPU 耗电情况 | W | per-GPU |
| GPU 温度 | 评估 GPU 散热状态 | 摄氏度 | per-GPU |
| GPU 编码器使用率 | 评估编码器使用百分比 | % | per-GPU |
| GPU 解码器使用率 | 评估解码器使用百分比 | % | per-GPU |
三、在腾讯云可观测平台查看 GPU 工作参数
腾讯云可观测平台 支持分析更丰富的 GPU 监控指标。
1. 登录 腾讯云可观测平台,左侧导航栏中选择 Dashboard ,进入 Dashboard 列表页。
2. 在 Dashboard 列表中,单击 新建 Dashboard,在新的 Dashboard 选择新建图表,在指标处选择 GPU / 云服务器 / GPU 监控,单击你关注的指标,自定义监控面板进行多实例展示:
参数详情可参见 腾讯云可观测平台 GPU 云服务器监控指标,提供以下监控指标:
| 指标英文名 | 指标中文名 | 指标说明 | 单位 | 维度 |
| Gpumemusage | GPU 显存使用率 | GPU 显存使用率 | % | per-GPU |
| GpuMemUsed | GPU 显存使用量 | 评估负载使用的显存量 | MB | per-GPU |
| Gpupowdraw | GPU 功耗使用量 | GPU 功耗使用量 | W | per-GPU |
| Gpupowusage | GPU 功耗使用率 | GPU 功耗使用率 | % | per-GPU |
| Gputemp | GPU 温度 | 评估 GPU 散热状态 | 摄氏度 | per-GPU |
| Gpuutil | GPU 使用率 | 评估负载所消耗的计算能力,非空闲状态百分比 | % | per-GPU |
| GpuEncUtil | GPU 编码器使用率 | GPU 编码器使用率 | % | per-GPU |
| GpuDecUtil | GPU 解码器使用率 | GPU 解码器使用率 | % | per-GPU |
注意:说明:
注意:如果没有监控数据,考虑以下几种可能性:
四、GPU 云服务器监控指标告警配置
腾讯云可观测平台 支持分析更丰富的 GPU 监控指标。
1. 登录 腾讯云可观测平台,在左侧导航栏中,选择告警管理 > 告警配置。
2. 单击 新建告警策略,在监控类型选择云产品监控,策略类型中选择云服务器 / GPU 监控,选择你希望接收告警的 GPU 实例对象,触发条件选择手动配置。
3. GPU 云服务器监控支持以下指标告警:GPU 内存使用率、GPU 功耗使用率、GPU 使用率、GPU 温度、GPU 是否存在显存页需隔离、GPU 显存是否发生 UCE 等。你可以参考下图进行配置告警。告警通知的配置可参见 新建通知模板,支持通过多种渠道进行通知。
常用告警指标参考如下:
| 指标名称 | 建议告警阈值 | 描述 | 处理建议 |
| GPU 功耗使用率 | <=0 | 功耗小于0时可能功率出现Unknown Error 了,会影响 GPU 的正常使用。 | 执行 nvidia-smi 命令查看 GPU 的功率是否有 ERR 或 nvidia-smi -i <target gpu> -q |grep "Power Draw" 是否为 Unknown Error,若存在该现象则尝试重启机器恢复及更新驱动观察。若重启无法恢复 提交工单 联系腾讯云支持。 |
| GPU 温度 | 持续5分钟>80 | 当 GPU 温度过高时可能会导致 GPU SlowDown,影响业务性能。 | 可能负载过高导致 GPU 温度过高,可尝试重启实例恢复,若无法恢复 提交工单 联系腾讯云支持。 |
| GPU 是否存在显存页需隔离 | =1 | 安培以下架构 GPU 出现了 ECC ERROR,应用进程被 kill,GPU卡处于pending 状态。 | 执行 nvidia-smi -i <target gpu> -q -d PAGE_RETIREMENT 命令查看是否有 GPU 卡处于 pending 状态,重置 GPU 卡或重启实例恢复。若重启无法恢复 提交工单 联系腾讯云支持。 |
| GPU 显存是否发生 UCE | =1 | 安培及以上架构 GPU 出现了 ECC ERROR,应用进程被 kill,GPU卡处于pending 状态。 | 执行 nvidia-smi -i <target gpu> -q -d ROW_REMAPPER 命令查看是否有 GPU 卡处于 Pending 状态,重置 GPU 卡或重启实例恢复。若重启无法恢复 提交工单 联系腾讯云支持。 |
| GPU 内存使用率 | 仅保持观察 | – | 评估负载对显存占用。 |
| GPU 使用率 | 仅保持观察 | – | 评估负载对 GPU 流处理器占用。 |