当前位置： 首页 > article >正文

ELK系列-（五）指标收集-MetricBeat（下）

article 2024/12/23 1:08:52

一、前文回顾 🔍

在前面的ELK系列中，我们已经搭建了ELK的核心组件，包括：

  • ELK系列-（一）Docker部署ELK核心组件
  • ELK系列-（二）LogStash数据处理的瑞士军刀
  • ELK系列-（三）Kibana 数据可视化的艺术家
  • ELK系列-（四）轻量级的日志收集助手-Beat家族
  • ELK系列-（五）指标收集-MetricBeat（上）

有关整个系统架构的部署，您可以回顾前面的文章。今天，我们将继续探讨如何将指标数据通过MetricBeat进行采集并传输到ELK。 🚀

尤其是带有新方法哦：MetricBeat如何采集显卡数据！全网都少见相关的攻略！

系统架构图 📊

ELK系统架构

本篇内容：指标收集（MetricBeat） 📈

完成了上一篇的安装和基本使用之后，我们要做一些特殊的准备，更好地接入ELK。 💡

💥 还不清楚Beat家族的朋友，快回第四篇看一眼哦！

二、System参数调整 🔧

system模块采集默认是打开的，为了适应当前的监控需要，我们需要：

  1. 关注磁盘占用 💽
  2. 降低采集间隔 ⏱️
  3. 去除不必要的采集项 🧹

调整System监控目标 🎯

编辑配置文件：

sudo vim /etc/metricbeat/modules.d/system.yml

修改配置如下：

# 模块: system
# 文档: https://www.elastic.co/guide/en/beats/metricbeat/main/metricbeat-module-system.html

- module: system
  period: 10s  # 采集数据的时间间隔为10秒
  metricsets:
    - cpu      # CPU使用情况
    - load     # 系统负载信息
    - memory   # 内存使用情况
    - network  # 网络流量信息
    - process  # 进程信息
    - process_summary  # 进程摘要信息
  process.include_top_n:
    by_cpu: 5      # 根据CPU使用率包含前5个进程
    by_memory: 5   # 根据内存使用率包含前5个进程

- module: system
  period: 10m  # 采集数据的时间间隔为10分钟
  metricsets:
    - fsstat  # 文件系统统计信息
  processors:
  - drop_event.when.not.regexp:
      system.filesystem.mount_point: '^/$'  # 只保留挂载点为 / 的文件系统事件

- module: system
  period: 15m  # 采集数据的时间间隔为15分钟
  metricsets:
    - uptime  # 系统运行时间

三、开启GPU指标收集 💻

在现代计算环境中，GPU监控变得越来越重要！但是Metricbeat竟然没有原生支持，经过深入探索，我找到了一个绝佳解决方案。

其原理是使用DCGM采集数据，最后将数据伪装为Promethues的格式，MetricBeats通过采集Promethues数据采集到显卡数据

（一）、安装数据中心管理器 🛠️

# 自动获取发行版本
distribution=$(. /etc/os-release;echo $ID$VERSION_ID | sed -e 's/\.//g')

# 下载并安装CUDA密钥环
wget https://developer.download.nvidia.com/compute/cuda/repos/$distribution/x86_64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb

# 更新并安装数据中心GPU管理器
sudo apt-get update
sudo apt-get install -y datacenter-gpu-manager

💡 备选方案：

echo "deb [signed-by=/usr/share/keyrings/cuda-archive-keyring.gpg] https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/ /" | sudo tee /etc/apt/sources.list.d/cuda.list

（二）、docker部署dcgm-exporter 🐳

集成显卡信息 🖥️
# 安装NVIDIA Container Toolkit
sudo apt-get update
sudo apt-get install -y nvidia-container-toolkit
sudo nvidia-ctk runtime configure --runtime=docker
sudo systemctl restart docker

# 运行dcgm-exporter
docker run -d --rm \
   --gpus all \
   -p 30099:9400 \
   --cap-add SYS_ADMIN \
   nvcr.io/nvidia/k8s/dcgm-exporter:3.3.7-3.5.0-ubuntu22.04 \
   -f /etc/dcgm-exporter/dcp-metrics-included.csv

（三）、配置MetricBeat 📝

# 开启prometheus模块
sudo metricbeat modules enable prometheus

# 修改配置文件
cd /etc/metricbeat/modules.d
sudo vim prometheus.yml

# 添加以下配置
- module: prometheus
  period: 10s
  hosts: ["localhost:30099"]
  metrics_path: /metrics
  metrics_filters:
    include: [
      "DCGM_FI_DEV_MEMORY_TEMP",    # 显存温度
      "DCGM_FI_DEV_GPU_TEMP",       # GPU温度
      "DCGM_FI_DEV_POWER_USAGE",    # 功耗
      "DCGM_FI_DEV_GPU_UTIL",       # GPU利用率
      "DCGM_FI_DEV_MEM_COPY_UTIL"   # 内存拷贝利用率
    ]

# 重启MetricBeat
sudo systemctl restart metricbeat

🧪 测试命令：dcgmproftester12 --no-dcgm-validation -t 1004 -d 30

附录 📚

（一）、dcp-metrics-included.csv-中文注释版

# 格式,,
# 如果行以 '#' 开头，则被视为注释,,
# DCGM 字段, Prometheus 指标类型, 帮助信息

# 时钟（Clocks）,,
DCGM_FI_DEV_SM_CLOCK,  gauge, SM 时钟频率（单位：MHz）
DCGM_FI_DEV_MEM_CLOCK, gauge, 内存时钟频率（单位：MHz）

# 温度（Temperature）,,
DCGM_FI_DEV_MEMORY_TEMP, gauge, 内存温度（单位：摄氏度）
DCGM_FI_DEV_GPU_TEMP,    gauge, GPU 温度（单位：摄氏度）

# 功率（Power）,,
DCGM_FI_DEV_POWER_USAGE,              gauge, 功率消耗（单位：瓦特）
# DCGM_FI_DEV_TOTAL_ENERGY_CONSUMPTION, counter, 自启动以来的总能耗（单位：毫焦耳）

# PCIe,,
# DCGM_FI_DEV_PCIE_TX_THROUGHPUT,  counter, 通过 PCIe 发送的数据总字节数（单位：KB）通过 NVML 采集
# DCGM_FI_DEV_PCIE_RX_THROUGHPUT,  counter, 通过 PCIe 接收的数据总字节数（单位：KB）通过 NVML 采集
# DCGM_FI_DEV_PCIE_REPLAY_COUNTER, counter, PCIe 重试次数总计

# 利用率（Utilization，采样周期根据产品而异）,,
DCGM_FI_DEV_GPU_UTIL,      gauge, GPU 利用率（单位：百分比）
DCGM_FI_DEV_MEM_COPY_UTIL, gauge, 内存利用率（单位：百分比）
# DCGM_FI_DEV_ENC_UTIL,      gauge, 编码器利用率（单位：百分比）
# DCGM_FI_DEV_DEC_UTIL ,     gauge, 解码器利用率（单位：百分比）

# 错误和违规（Errors and violations）,,
# DCGM_FI_DEV_XID_ERRORS,            gauge,   最后一个 XID 错误的值
# DCGM_FI_DEV_POWER_VIOLATION,       counter, 由于功率限制引起的节流时间（单位：微秒）
# DCGM_FI_DEV_THERMAL_VIOLATION,     counter, 由于温度限制引起的节流时间（单位：微秒）
# DCGM_FI_DEV_SYNC_BOOST_VIOLATION,  counter, 由于同步加速限制引起的节流时间（单位：微秒）
# DCGM_FI_DEV_BOARD_LIMIT_VIOLATION, counter, 由于板卡限制引起的节流时间（单位：微秒）
# DCGM_FI_DEV_LOW_UTIL_VIOLATION,    counter, 由于低利用率引起的节流时间（单位：微秒）
# DCGM_FI_DEV_RELIABILITY_VIOLATION, counter, 由于可靠性限制引起的节流时间（单位：微秒）

# 内存使用（Memory usage）,,
DCGM_FI_DEV_FB_FREE, gauge, 帧缓冲器空闲内存（单位：MiB）
DCGM_FI_DEV_FB_USED, gauge, 帧缓冲器已使用内存（单位：MiB）

# ECC,,（错误纠正码）
# DCGM_FI_DEV_ECC_SBE_VOL_TOTAL, counter, 单位元易失性 ECC 错误总数
# DCGM_FI_DEV_ECC_DBE_VOL_TOTAL, counter, 双位元易失性 ECC 错误总数
# DCGM_FI_DEV_ECC_SBE_AGG_TOTAL, counter, 单位元持久性 ECC 错误总数
# DCGM_FI_DEV_ECC_DBE_AGG_TOTAL, counter, 双位元持久性 ECC 错误总数

# 退役页面（Retired pages）,,
# DCGM_FI_DEV_RETIRED_SBE,     counter, 由于单位元错误引起的退役页面总数
# DCGM_FI_DEV_RETIRED_DBE,     counter, 由于双位元错误引起的退役页面总数
# DCGM_FI_DEV_RETIRED_PENDING, counter, 正在等待退役的页面总数

# NVLink,,
# DCGM_FI_DEV_NVLINK_CRC_FLIT_ERROR_COUNT_TOTAL, counter, NVLink 流控制 CRC 错误总数
# DCGM_FI_DEV_NVLINK_CRC_DATA_ERROR_COUNT_TOTAL, counter, NVLink 数据 CRC 错误总数
# DCGM_FI_DEV_NVLINK_REPLAY_ERROR_COUNT_TOTAL,   counter, NVLink 重试总数
# DCGM_FI_DEV_NVLINK_RECOVERY_ERROR_COUNT_TOTAL, counter, NVLink 恢复错误总数
# DCGM_FI_DEV_NVLINK_BANDWIDTH_TOTAL,            counter, 所有通道的 NVLink 带宽计数总数
# DCGM_FI_DEV_NVLINK_BANDWIDTH_L0,               counter, 活动 NVLink RX 或 TX 数据的字节数，包括报头和有效负载

# 虚拟GPU许可证状态（VGPU License status）,,
# DCGM_FI_DEV_VGPU_LICENSE_STATUS, gauge, vGPU 许可证状态

# 重新映射的行（Remapped rows）,,
# DCGM_FI_DEV_UNCORRECTABLE_REMAPPED_ROWS, counter, 由于不可修复错误导致的重新映射行数
# DCGM_FI_DEV_CORRECTABLE_REMAPPED_ROWS,   counter, 由于可修复错误导致的重新映射行数
# DCGM_FI_DEV_ROW_REMAP_FAILURE,           gauge,   行重新映射是否失败

# DCP 指标（DCP metrics）,,
# DCGM_FI_PROF_GR_ENGINE_ACTIVE,   gauge, 图形引擎活动时间的比率（单位：百分比）
# DCGM_FI_PROF_SM_ACTIVE,          gauge, SM 至少分配一个线程块的周期比率（单位：百分比）
# DCGM_FI_PROF_SM_OCCUPANCY,       gauge, SM 上驻留线程块的数量比率（单位：百分比）
# DCGM_FI_PROF_PIPE_TENSOR_ACTIVE, gauge, 张量（HMMA）管道活动周期的比率（单位：百分比）
# DCGM_FI_PROF_DRAM_ACTIVE,        gauge, 设备内存接口发送或接收数据时活动周期的比率（单位：百分比）
# DCGM_FI_PROF_PIPE_FP64_ACTIVE,   gauge, fp64 管道活动周期的比率（单位：百分比）
# DCGM_FI_PROF_PIPE_FP32_ACTIVE,   gauge, fp32 管道活动周期的比率（单位：百分比）
# DCGM_FI_PROF_PIPE_FP16_ACTIVE,   gauge, fp16 管道活动周期的比率（单位：百分比）
# DCGM_FI_PROF_PCIE_TX_BYTES,      counter, 活动 PCIe 传输数据的字节数，包括报头和有效负载
# DCGM_FI_PROF_PCIE_RX_BYTES,      counter, 活动 PCIe 接收数据的字节数，包括报头和有效负载

http://www.kler.cn/a/447230.html

相关文章：

  • Linux应用开发————mysql数据库表
  • halcon单相机+机器人*眼在手外标定心得
  • 数据结构大作业——家谱管理系统（超详细！完整代码！）
  • DB-GPT V0.6.3 版本更新：支持 SiliconCloud 模型、新增知识处理工作流等
  • R 常用的内置软件包及功能介绍
  • 相机内外参知识
  • 部署 K8s 1.28.2(一主两从)-亲测无坑
  • 基础设施即代码初探-开发Terraform Provider管理私有云MySQL实例
  • 探索计算机存储层次体系：从寄存器到磁带
  • 6_HTML5 SVG (2) --[HTML5 API 学习之旅]
  • 周末紫蓬山行车见闻
  • UE5 移植Editor或Developer模块到Runtime
  • 强光防卫电筒TX-8610
  • Matlab个性化绘图第5期—三维分层柱状图
  • 播放端标注叠加方案
  • 高并发服务器实现总结目录
  • VUE3+django接口自动化部署平台部署说明文档（使用说明，需要私信）
  • Cadence学习笔记 9 器件封装匹配
  • OpenHarmony 3.2 网卡获取ip地址缓慢分析
  • [创业之路-202]：任正非管理华为的思想与毛泽东管理党、军队、国家的思想的相似性与差异性
  • 高效SQL优化技巧：解决常见性能问题的实战方案
  • Spring 6 实现 Bean 异步初始化，减少项目启动时间
  • JAVA包装类变量赋值是会新创建对象实例
  • 【LeetCode】227、基本计算器 II
  • C#中方法参数传值和传引用的情况
  • AI大模型与传统模型的六大区别