腾讯云大模型训推平台TI-ONE 资源监控简介

相关产品

腾讯云大模型训推平台TI-ONE 产品页，含版本规格、价格与购买入口。

·资源维度：

·支持按资源维度展示监控指标，包括卡数情况、GPU 分配率、任务利用率、GPU 利用率。

·支持按照资源组维度查看资源组的监控指标，包括卡数情况、GPU 分配率、任务利用率、GPU 利用率。

·支持按照使用团队标签分别展示各卡型占用卡时等。

·业务维度：

·支持按业务（任务）维度展示监控指标，包括任务和服务数、运行过的任务数和低利用率任务数。

·支持按照服务维度（仅展示有大模型监控的）展示 GPU 利用率、首 token 延时等指标。

·资源业务总览：

·支持按资源组维度汇总展示资源与业务信息，包括可用节点｜总节点、可用资源｜总资源（CPU、MEM、GPU、显存）、关联的任务及服务数、负责人｜UIN 及所属地域。

·支持通过「忙碌程度」查看资源组的闲置与积压情况，包括闲置可用卡数、闲置卡数｜总卡数、排队中任务及服务数，便于判断资源组是否存在资源闲置或任务排队。

·支持展开资源组查看其下任务及服务的运行明细，包括类型、状态、所属空间、机器节点、使用卡型、占用资源、GPU 均值／峰值利用率、排队／运行时长、创建时间及创建者。