nginx 如何根据IP做限流,以及 nginx 直接返回 json 格式数据
Nginx 限流配置
Nginx是如何限流的。随着业务的扩散,系统并发越来越高时,有三样利器用来保护系统,分别是缓存、降级和限流。
随着业务的扩散,系统并发越来越高时,有三样利器用来保护系统,分别是缓存、降级和限流。
缓存:缓存是现在系统中必不可少的模块,并且已经成为了高并发高性能架构的一个关键组件,缓存的目的是提升系统访问速度和增大系统处理容量。
降级:这个在天猫双 11 的时候非常常见,降级是当服务出现问题或者影响到核心流程时,需要暂时屏蔽掉,待高峰或者问题解决后再打开。
限流:限流的目的是通过对并发访问 / 请求进行限速,或者对一个时间窗口内的请求进行限速来保护系统,一旦达到限制速率则可以拒绝服务、排队或等待、降级等处理
nginx中设置参数:limit_req_zone
1.1 定义:用于限制单一的 IP 地址的请求的处理速率,即速率限制。
1.2 使用方法
在 http 中添加: limit_req_zone $binary_remote_addr zone=one:10m rate=1r/s;
第一个参数:$binary_remote_addr 表示通过remote_addr这个标识来做限制,“binary_”的目的是缩写内存占用量,是限制同一客户端ip地址。
第二个参数:zone=one:10m 表示生成一个大小为10M,名字为one的内存区域,用来存储访问的频次信息。
第三个参数:rate=1r/s表示允许相同标识的客户端的访问频次,这里限制的是每秒1次,还可以有比如30r/m的。
在 server 中添加: limit_req zone=one burst=5 nodelay;
第一个参数:zone=one 设置使用哪个配置区域来做限制,与上面limit_req_zone 里的name对应。
第二个参数:burst=5,重点说明一下这个配置,burst爆发的意思,这个配置的意思是设置一个大小为5的缓冲区当有大量请求(爆发)过来时,超过了访问频次限制的请求可以先放到这个缓冲区内。
第三个参数:nodelay,如果设置,超过访问频次而且缓冲区也满了的时候就会直接返回503,如果没有设置,则所有请求会等待排队。
1.3 测试效果
我们先来个未配置 nginx 限流的 ab 压测结果.
限流的目的是通过对并发访问/请求进行限速或者一个时间窗口内的的请求进行限速来保护系统,一旦达到限制速率则可以拒绝服务,
以防止非预期的请求对系统压力过大而引起的系统瘫痪(友好点比如直接返回相应的 json 或则页面提示用户访问高峰,稍后再试)
限流一般有三种:计数器 、漏桶算法、令牌桶算
关于限流算法不是本文讨论范围,定义网上有大把介绍
1. 先说下 nginx 里面配置直接返回 json 如何操作。
location /json/ {
default_type application/json;
add_header Content-Type 'text/html; charset=utf-8';
return 200 '{"code":"6666,"msg":"访问高峰期..."}';
}
Nginx 限流配置案例
#限流
limit_req_zone $binary_remote_addr zone=myRateLimit:10m rate=2r/s;
location / {
#限流
limit_req zone=myRateLimit burst=2 nodelay;
root html;
index index.html index.htm;
}
名词解释:
第 1 个参数:limit_req_zone 定义在 http 块中,$binary_remote_addr 表示保存客户端 IP 地址的二进制形式。
第 2 个参数:Zone 定义 IP 状态及 URL 访问频率的共享内存区域。zone=keyword 标识区域的名字,以及冒号后面跟区域大小。16000 个 IP 地址的状态信息约 1MB,所以示例中区域可以存储 160000 个 IP 地址。
第 3 个参数:Rate 定义最大请求速率。示例中速率不能超过每秒 2 个请求。
超过限流,默认返回 503 状态。
然后我们在 503 错误页面配置返回相应 json 或者 html 页面即可。这里我们返回 json
error_page 503 /503;
location = /503 {
default_type application/json;
add_header Content-Type 'text/html; charset=utf-8';
return 200 '{"code":"6666,"msg":"访问高峰期..."}';
}