hbase一次pod模式client写入慢分析
问题现象
- 现场反馈应用一直处于写入慢的状态,写入数据后都要过段时间才能查询到数据,已排查涉及一张表,
包含256个region,每个region平均30G。 - 应用采用批量put同步写入方式,每日写入2亿条记录。
- 查看regionserver日志,该表一直处于小合并。
问题分析
1.根据的hbase regionserver角色实例的统计图可以看到,rs进程MEM使用率低于20%,而现场的
hbase.regionserver.global.memstore.upperLimit配置为0.4。所以,单个rs内的所有memstore占用的内存大小没有超过memstore使用rs堆内存的上限,也就不会阻塞写入请求。
2.rs进程中活跃的rpc handler数<100没不是很多,也没有超过配置参数hbase.regionserver.handler.count=150的值。
3.查看hbase原生控制台上每台rs的请求,发现每秒的请求数不均衡,但在manager上hbase服务的热点监控界面没有和此次put操作的表(tablexxx)相关信息。
4.随机提取了存储写入表region的rs日志,在日志中没有查找到关键字"Blocking updates on",也进一步说明r