使用云监控实现GPU云服务器的GPU监控和报警(下)

  • 时间:
  • 浏览:2
  • 来源:大发5分11选5_大发5分11选5官网

gpu_memory_freeutilization

instanceId

instanceId,gpuId

实例维度GPU显存总量

%

group_gpu_decoder_utilization

%

groupId

gpu_power_readings_power_draw

dimensions

分组维度GPU功率

instanceId,gpuId

MetricName

instance_gpu_gpu_temperature

instanceId

instanceId,gpuId

分组维度GPU显存使用量

%

分组维度指标对单个应用分组里的多个ECS 实例的监控数据做最大值、最小值、平均值的聚合。便于查看集群层面的整体使用情况汇报。

instance_gpu_memory_freespace

实例维度GPU显存使用率

groupId

实例维度GPU功率

instanceId,gpuId

instanceId

Bytes

dimensions

instanceId

实例维度GPU显存空闲量

%

groupId

Bytes

GPU维度显存使用率

instanceId

instanceId

分组维度GPU显存空闲率

Bytes

GPU维度解码器使用率

dimensions

instance_gpu_decoder_utilization

在云监控控制台中进入主机监控,进入都要查看监控数据的实例,点击GPU监控标签页,就可不还可以 就看该实例所有GPU的GPU使用率、编码器/解码器使用率、显存使用量、GPU功率、GPU温度等监控数据。

%

         或者自定义监控的分类整理脚本都要用户当时人实现,或者云监控控制台上自定义监控的展示维度也很有限,必须查看指定VM指定GPU的某个数据。

使用云监控实现GPU云服务器的GPU监控和报警(下)- 云监控插件监控

下图是以TopN表格形式展示实例维度GPU功率的平均,并以倒序法子展示,可不还可以 一目了然的查看用户账号下所有GPU实例的实时功率情况汇报,并选择GPU功率最高的实例。

分组维度GPU解码器使用率

名称

groupId

MetricName

%

使用云监控实现GPU云服务器的GPU监控和报警(上) - 自定义监控

gpu_gpu_usedutilization

GPU维度显存总量

instance_gpu_memory_usedspace

instance_gpu_power_readings_power_draw

gpu_memory_freespace

instanceId,gpuId

可不还可以 在云监控控制台Dashboard中创建自定义GPU监控大盘,以多种图表类型大盘展示分别分组、实例、GPU维度的各个GPU指标。

%

W

下图是以折线图形式展示特定分组的分组维度GPU温度的平均值,可不还可以 一目了然的查看指定分组相关实例的GPU温度波动情况汇报。

目前必须GPU计算型实例支持GPU云监控,实例都要要安装GPU驱动和云监控插件的1.2.28以上版本,即可在主机监控查看GPU相关监控数据、配置报警规则,或在Dashboard中配置监控图表。

名称

℃ 

GPU维度GPU使用率

新增的GPU监控项加进去去报警规则法子同ECS的或者 指标一样,可不还可以 针对某一特定指标设置报警规则,如下图:

上一篇文章或者 人介绍了如何使用阿里云云监控服务提供的自定义监控功能,利用自定义监控提供的API由于SDK,通过自定义脚本可不还可以 将GPU云主机内分类整理的GPU数据上报,在云监控控制台加进去去进去相应的GPU监控项,就可不还可以 实现对指定GPU实例内指定GPU的相应数据进行监控,对相应监控项设置相应数据的报警规则,就能实现监控数据的自动报警。

instance_gpu_memory_freeutilization

实例维度GPU显存空闲率

GPU维度GPU温度

实例维度GPU使用率

℃ 

instanceId,gpuId

instance_gpu_memory_usedutilization

名称

%

instance_gpu_encoder_utilization

instanceId,gpuId

group_gpu_memory_totalspace

实例维度GPU显存使用量

instanceId

group_gpu_memory_usedspace

GPU维度的指标,分类整理每个GPU层面的监控数据。

分组维度GPU显存空闲量

%

group_gpu_gpu_usedutilization

groupId

%

instance_gpu_gpu_usedutilization

W

单位

gpu_memory_usedspace

分组维度GPU显存使用率

实例维度GPU编码器使用率

instanceId

group_gpu_memory_usedutilization

MetricName

group_gpu_memory_freespace

instanceId

分组维度GPU编码器使用率

实例维度GPU温度

instanceId

gpu_decoder_utilization

GPU维度编码器使用率

可不还可以 使用OpenAPI来查询GPU监控数据。参考文档:https://help.aliyun.com/document_detail/51936.html

groupId

instanceId,gpuId

GPU维度显存使用量

实例维度指标对单个ECS实例上的多个GPU监控数据做最大值、最小值、平均值的聚合。便于查看实例层面的整体使用情况汇报。

instanceId,gpuId

gpu_gpu_temperature

下图是以TopN表格形式展示实例维度GPU温度的最大值,并以倒序法子展示,可不还可以 一目了然的查看用户账号下所有GPU实例的实时温度情况汇报,并选择GPU温度最高的实例。

  分组维度GPU温度

groupId

GPU相关监控指标提供一个多维度的数据

云监控插件从1.2.28版本现在开始英语 英语 支持GPU数据的分类整理。云监控Agent(即云监控插件)的安装可不还可以 参考云监控官方使用文档:云监控Agent安装。同時 支持Linux和Window操作系统。

GPU维度显存空闲率

TopN表格形式同样能非常方便的查看各个实例的GPU利用率和编码器/解码器利用率以及显存使用情况汇报,从而判断业务运行是是不是正常,以及判断资源利用是是不是充分。

Bytes

分组维度GPU显存总量

Bytes

         通过使用阿里云提供的云监控插件,可不还可以 一键安装就实现GPU指标的分类整理和上报,同時 展示维度上可不还可以 与目前的ECS一样获得更多维度的展示,比如Dashborad监控大盘,可不还可以 监控集群级别的GPU指标,主机监控则可不还可以 在一个多 页面显示该实例所有GPU的所有监控指标。

Bytes

instance_gpu_memory_totalspace

groupId

W

%

分组维度GPU使用率

单位

gpu_memory_totalspace

gpu_encoder_utilization

%

instanceId,gpuId

groupId

Bytes

GPU维度GPU功率

参数说明:Project=acs_ecs_dashboard,Metric及Dimensions参考上述监控项表格中的GPU指标。

group_gpu_gpu_temperature

%

实例维度GPU解码器使用率

GPU维度显存空闲量

groupId

单位

也可不还可以 在云监控控制台主机监控部分一键点击安装最新的云监控插件,并查看云监控插件的版本,如下图:

Bytes

%

Bytes

group_gpu_power_readings_power_draw

group_gpu_encoder_utilization

group_gpu_memory_freeutilization

下图是以折线图形式展示特定分组的实例维度GPU显存使用量的平均值,可不还可以 一目了然的查看相关实例的显存使用量波动情况汇报。

%

本文由于完整性介绍如何通过安装云监控插件来实现更全面、更易用的GPU云监控和报警。

gpu_memory_useutilization

推荐通过创建模板后将模板应用于分组的法子批量加进去去GPU报警。查看报警模板最佳实践。