弹性 MapReduce Hive 监控指标

这篇简要介绍了腾讯云HIVE相关的三个组件:HiveMetaStore、HiveServer2和HiveWebHcat。这些组件是Hive生态系统中的关键服务,分别负责元数据管理、查询执行和Web接口功能。

相关产品
弹性 MapReduce 产品页,含版本规格、价格与购买入口。

一、HIVE-HiveMetaStore

标题 指标名称 指标单位 指标含义
GC 次数 YGC 次 Young GC 次数
 FGC 次 Full GC 次数
GC 时间 FGCT s Full GC 消耗时间
 GCT s 垃圾回收时间消耗
 YGCT s Young GC 消耗时间
内存区域占比 S0 % Survivor 0区内存使用占比
 E % Eden 区内存使用占比
 CCS % Compressed class space 区内存使用占比
 S1 % Survivor 1区内存使用占比
 O % Old 区内存使用占比
 M % Metaspace 区内存使用占比
JVM 内存 MemHeapUsedM MB JVM 当前已经使用的 HeapMemory 的数量
 MemHeapCommittedM MB JVM 已经提交的 HeapMemory 的数量
 MemHeapMaxM MB JVM 配置的 HeapMemory 的数量
 MemHeapInitM MB JVM 初始 HeapMem 的数量
 MemNonHeapUsedM MB JVM 当前已经使用的 NonHeapMemory 的数量
 MemNonHeapCommittedM MB JVM 当前已经提交的 NonHeapMemory 的数量
 MemNonHeapInitM MB JVM 初始 NonHeapMem 的数量
堆内存使用率 MemHeapUsedRate % JVM 当前已经使用的 HeapMemory 的数量所占 JVM 配置的HeapMemory 的数量的百分比
文件描述符数 OpenFileDescriptorCount 个 已打开文件描述符数量
 MaxFileDescriptorCount 个 最大文件描述符数
CPU 利用率 ProcessCpuLoad % 进程 CPU 利用率
 SystemCpuLoad % 系统 CPU 利用率
CPU 使用时间占比 CPURate seconds/second CPU 使用时间占比
工作线程数 DaemonThreadCount 个 守护线程数
 ThreadCount 个 线程总数
CPU 累计使用时间 ProcessCpuTime ms CPU 累计使用时间
进程运行时长 Uptime s 进程运行时长
GC 额外睡眠时间 ExtraSleepTime ms/s GC 额外睡眠时间
alter table 请求时间 HIVE.HMS.API_ALTER_TABLE ms alter table 请求平均时间
alter table with env context 请求时间 HIVE.HMS.API_ALTER_TABLE_WITH_ENV_CONTEXT ms alter table with env context 请求平均时间
create table 请求时间 HIVE.HMS.API_CREATE_TABLE ms create table 请求平均时间
create table with env context 请求时间 HIVE.HMS.API_CREATE_TABLE_WITH_ENV_CONTEXT ms create table with env context 请求平均时间
drop table 请求时间 HIVE.HMS.API_DROP_TABLE ms drop table 平均请求时间
drop table with env context 请求时间 HIVE.HMS.API_DROP_TABLE_WITH_ENV_CONTEXT ms drop table with env context 平均请求时间
get table 请求时间 HIVE.HMS.API_GET_TABLE ms get table 平均请求时间
get tables 请求时间 HIVE.HMS.API_GET_TABLES ms get tables 平均请求时间
get multi table 请求时间 HIVE.HMS.API_GET_MULTI_TABLE ms get multi table 平均请求时间
get table req 请求时间 HIVE.HMS.API_GET_TABLE_REQ ms get table req 平均请求时间
get database 请求时间 HIVE.HMS.API_GET_DATABASE ms get database 平均请求时间
get databases 请求时间 HIVE.HMS.API_GET_DATABASES ms get databases 平均请求时间
get all database 请求时间 HIVE.HMS.API_GET_ALL_DATABASES ms get all databases 平均请求时间
get all functions 请求时间 HIVE.HMS.API_GET_ALL_FUNCTIONS ms get all functions 平均请求时间
当前活跃 create table 请求数 HIVE.HMS.ACTIVE_CALLS_API_CREATE_TABLE 个 当前活跃 create table 请求数
当前活跃 drop table 请求数 HIVE.HMS.ACTIVE_CALLS_API_DROP_TABLE 个 当前活跃 drop table 请求数
当前活跃 alter table 请求数 HIVE.HMS.ACTIVE_CALLS_API_ALTER_TABLE 个 当前活跃 alter table 请求数

二、HIVE-HiveServer2

标题 指标名称 指标单位 指标含义
GC 次数 YGC 次 Young GC 次数
 FGC 次 Full GC 次数
GC 时间 FGCT s Full GC 消耗时间
 GCT s 垃圾回收时间消耗
 YGCT s Young GC 消耗时间
内存区域占比 S0 % Survivor 0区内存使用占比
 E % Eden 区内存使用占比
 CCS % Compressed class space 区内存使用占比
 S1 % Survivor 1区内存使用占比
 O % Old 区内存使用占比
 M % Metaspace 区内存使用占比
JVM 内存 MemNonHeapUsedM MB JVM 当前已经使用的 NonHeapMemory 的数量
 MemNonHeapCommittedM MB JVM 当前已经提交的 NonHeapMemory 的数量
 MemHeapUsedM MB JVM 当前已经使用的 HeapMemory 的数量
 MemHeapCommittedM MB JVM 当前已经提交的 HeapMemory 的数量
 MemHeapMaxM MB JVM 配置的 HeapMemory 的数量
 MemHeapInitM MB JVM 初始 HeapMem 的数量
 MemNonHeapInitM MB JVM 初始 NonHeapMem 的数量
堆内存使用占比 MemHeapUsedRate % JVM 当前已经使用的 HeapMemory 的数量所占 JVM 配置的 HeapMemory 的数量的百分比
CPU 利用率 ProcessCpuLoad % CPU 利用率
CPU 使用时间占比 CPUUsedRate seconds/second CPU 使用时间占比
文件描述符数 MaxFileDescriptorCount 个 最大文件描述符数
 OpenFileDescriptorCount 个 已打开文件描述符数
CPU 累计使用时间 ProcessCpuTime ms CPU 累计使用时间
进程运行时长 Uptime s 进程运行时长
工作线程数 DaemonThreadCount 个 Daemon 线程数
 ThreadCount 个 总线程数
Driver 执行时延 99th_percentile ms Driver 执行99%的时延
 Avg ms Driver 执行平均执行时延
打开连接数量 NumOpenConnections 个 打开连接数量
hs2异步线程池当前大小 PoolSize 个 hs2异步线程池当前大小
hs2异步操作队列当前大小 QueueSize 个 hs2 异步操作队列当前大小
Hive 操作数量 Closed 个 关闭的操作数量
 Finished 个 完成的操作数量
 Canceled 个 取消的操作数量
 Error 个/ 出错的操作数量
GC 额外睡眠时间 ExtraSleepTime ms/s GC 额外睡眠时间
API 请求数 HIVE.H2.ACTIVE.CALLS.API Count 当前 serializePlan 请求数
  Count 当前 semanticAnalyze 请求数
  Count 当前 runtask 请求数
  Count 当前 releaseLocks 请求数
  Count 当前 getSplits 数
SQL 任务处于 PENDING 状态的时间 HIVE.H2.SQL.OPERATION.PENDING ms SQL 任务处于 PENDING 状态的平均时间
SQL 任务处于RUNNING 状态的时间 HIVE.H2.SQL.OPERATION.RUNNING ms SQL 任务处于 RUNNING 状态的平均时间
当前活跃用户数 HIVE.H2.SQL.OPERATION Count 当前活跃的用户数
执行查询的时间 HIVE.H2.EXECUTING.QUERIES ms 执行查询的平均时间
提交查询的时间 HIVE.H2.SUBMITTED.QUERIES ms 提交查询的时间
提交的 Hive on MR 作业数 HIVE.H2.MR.TASKS Count 提交的 Hive on MR 作业数
提交的 Hive on Spark 作业数 HIVE.H2.SPARK.TASKS Count 提交的 Hive on Tez 作业数
提交的 Hive on Tez 作业数 HIVE.H2.TEZ.TASKS Count 提交的 Hive on Spark 作业数
失败查询 HIVE.H2.FAILED.QUERIES.RATE Count/min 失败查询 OneMinuteRate
工作线程数 HIVE.H2.THREAD.COUNT 个 JVM blocked 线程数
  个 JVM terminate 线程数
  个 JVM deadlock 线程数
  个 JVM new 线程数
  个 JVM runnable 线程数
  个 JVM timed_waiting 线程数
  个 JVM waiting 线程数
会话数量 HIVE.H2.OPEN.SESSIONS 个 打开的会话个数
当前活跃的 session 个数 HIVE.H2.ACTIVE.SESSIONS 个 活跃的会话个数
审计日志写入 ES 失败次数 WriteEsFailed Count 审计日志写入 ES 失败次数
审计日志写入 ES 成功次数 WriteEsSuccess Count 审计日志写入 ES 成功次数

三、HIVE-HiveWebHcat

标题 指标名称 指标单位 指标含义
GC 次数 YGC 次 Young GC 次数
 FGC 次 Full GC 次数
GC 时间 FGCT s Full GC 消耗时间
 GCT s 垃圾回收时间消耗
 YGCT s Young GC 消耗时间
内存区域占比 S0 % Survivor 0区内存使用占比
 E % Eden 区内存使用占比
 CCS % Compressed class space 区内存使用占比
 S1 % Survivor 1区内存使用占比
 O % Old 区内存使用占比
 M % Metaspace 区内存使用占比
赞 (0)
上一篇 4天前
下一篇 4天前