当前位置：首页 > article >正文

【监控】【Nginx】使用 ELK Stack 监控 Nginx

article 2024/9/22 15:27:04

在现代网站架构中，监控和分析日志是确保系统健康和性能的关键步骤。ELK Stack（Elasticsearch、Logstash 和 Kibana）是一个强大的工具组合，能够高效处理和可视化日志数据。本文将详细介绍如何使用 ELK Stack 监控 Nginx，并通过具体步骤和最佳实践，帮助你有效管理网站流量。

1. 什么是 ELK Stack？

ELK Stack 是由三个开源项目组成的日志管理和分析平台：

Elasticsearch：一个分布式搜索和分析引擎，能够快速存储和查询大量数据。
Logstash：一个数据处理管道，能够收集、过滤和转发日志数据。
Kibana：一个数据可视化工具，通过图形化界面展示 Elasticsearch 中的数据。

通过 ELK Stack，你可以实时监控 Nginx 的运行状态，分析请求和响应数据，及时发现潜在问题，优化系统性能。

2. 安装 ELK Stack

在安装 ELK Stack 之前，请确保你的系统满足以下要求：

支持的操作系统（如 Ubuntu、CentOS 等）。
安装了 Java（Elasticsearch 和 Logstash 需要）。

2.1 安装 Elasticsearch

详细的步骤如下：

下载并安装 Elasticsearch：

选择合适的版本进行下载：

wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-8.6.3-amd64.deb
sudo dpkg -i elasticsearch-8.6.3-amd64.deb

启动 Elasticsearch：

启动服务并设置开机自启：
```
sudo systemctl start elasticsearch
sudo systemctl enable elasticsearch
```
确保服务运行正常，可以通过访问 http://localhost:9200 验证安装是否成功，若返回 JSON 格式的版本信息，则表示安装成功。

2.2 安装 Logstash

详细的步骤如下：

下载并安装 Logstash：

wget https://artifacts.elastic.co/downloads/logstash/logstash-8.6.3.deb
sudo dpkg -i logstash-8.6.3.deb

配置 Logstash 处理 Nginx 日志：

创建配置文件 /etc/logstash/conf.d/nginx.conf，内容如下：

input {
  file {
    path => "/var/log/nginx/access.log"  # Nginx 访问日志路径
    start_position => "beginning"         # 从文件开头读取
    sincedb_path => "/dev/null"           # 避免记录已处理的日志
  }
}

filter {
  grok {
    match => { "message" => "%{IPORHOST:client_ip} - - \[%{HTTPDATE:timestamp}\] \"%{WORD:method} %{URIPATHPARAM:url} HTTP/%{NUMBER:http_version}\" %{NUMBER:response_code} %{NUMBER:bytes}" }
  }
  date {
    match => ["timestamp", "dd/MMM/yyyy:HH:mm:ss Z"]  # 格式化时间戳
  }
}

output {
  elasticsearch {
    hosts => ["localhost:9200"]
    index => "nginx-access-%{+YYYY.MM.dd}"  # 按日期创建索引
  }
}

以上配置指定 Nginx 的访问日志作为输入，使用 Grok 过滤器解析日志格式，并将数据输出到 Elasticsearch。

启动 Logstash：

sudo systemctl start logstash
sudo systemctl enable logstash

2.3 安装 Kibana

详细的步骤如下：

下载并安装 Kibana：

wget https://artifacts.elastic.co/downloads/kibana/kibana-8.6.3-amd64.deb
sudo dpkg -i kibana-8.6.3-amd64.deb

启动 Kibana：
```
sudo systemctl start kibana
sudo systemctl enable kibana
```
访问 http://localhost:5601 确认 Kibana 是否正常运行。

3. 配置 Nginx 日志收集

在 Nginx 中，默认的访问日志位于 /var/log/nginx/access.log。确保 Nginx 正在记录访问日志，格式应如下：

192.168.0.1 - - [10/Sep/2024:15:30:21 +0000] "GET / HTTP/1.1" 200 1048576

根据实际需要调整 Nginx 配置文件 /etc/nginx/nginx.conf 中的 access_log 指令，确保格式与 Logstash 配置一致。

4. 访问 Kibana 并可视化数据

打开浏览器，输入 http://localhost:5601 访问 Kibana。
配置索引模式：
- 点击 “Management” -> “Index Patterns”。
- 点击 “Create index pattern”。
- 输入索引模式 nginx-access-*，然后点击 “Next step”。
选择时间字段，通常为 @timestamp，然后点击 “Create index pattern”。
完成后，你可以在 “Discover” 中查看 Nginx 的访问日志数据，进行过滤和查询。