当前位置：首页 > article >正文

Sentinel底层如何计算京东双十一线上系统实时QPS

article 2024/10/31 14:26:36

背景

随着电子商务行业的快速发展，双十一已成为全球最大的购物狂欢节。京东作为中国领先的电商平台，每年的双十一活动都会迎来巨大的流量高峰。为了保障系统在高并发情况下的稳定运行，京东采用了多种技术手段来应对。其中，Sentinel作为一款轻量级的流量控制组件，在京东双十一线上系统中发挥了重要作用。本文将从背景、场景、功能、底层原理等方面详细介绍Sentinel如何计算实时QPS（每秒查询率），并附上Java代码分析。

场景

在京东双十一线上系统中，Sentinel主要承担以下几个核心场景：

秒杀：通过流量控制，确保突发流量在系统容量可承受的范围内，避免系统崩溃。
消息削峰填谷：在流量高峰期，通过限流策略平滑请求，降低系统压力。
集群流量控制：对集群整体调用总量进行限流，防止某些机器过载。
实时熔断下游不可用应用：通过熔断降级策略，快速隔离故障服务，保障整体系统稳定性。

功能

Sentinel提供了多种流量控制功能，包括但不限于：

流量控制：对指定资源的请求进行限流，防止系统过载。
熔断降级：在调用链路中的某个资源不稳定时，自动熔断降级，避免级联错误。
系统负载保护：从多个维度监控系统负载，当达到阈值时进行限流保护。

底层原理

Sentinel实现QPS流量控制的核心原理和流程如下：

定义流量控制规则：通过FlowRule来定义流量控制规则，包含资源名、限流阈值（QPS）、统计窗口长度、控制行为等信息。
高效统计QPS：Sentinel使用了高性能的数据结构LeapArray来统计QPS。LeapArray是一个滑动窗口实现，内部维护了一个环形数组以及一个指针来跟踪当前窗口，可以快速计算出指定时间窗口内的请求次数。
请求处理流程：

- 当请求到达时，首先会经过Sentinel的责任链中的StatisticSlot模块。StatisticSlot在接收到每个请求后，会调用相应的计数方法增加对应资源的请求数量，并通过LeapArray结构对这些请求数量进行时间窗口内的统计。
- 请求继续传递到FlowSlot模块。FlowSlot根据StatisticSlot模块得到的统计数据，与预设的QPS流控规则进行比较。如果在给定的时间窗口内，该资源的请求次数超过了设置的阈值，则触发相应的限流动作（如直接拒绝、Warm Up等策略）。

动态加载和更新规则：Sentinel支持动态加载和更新规则。当规则发生变化时，会通过FlowRuleManager更新内存中的规则集，并通知相关的组件刷新统计和流控状态。

Java代码分析

以下是一个简单的Java代码示例，展示了如何使用Sentinel进行QPS流量控制：

java复制代码
import com.alibaba.csp.sentinel.Entry;  
import com.alibaba.csp.sentinel.SphU;  
import com.alibaba.csp.sentinel.slots.block.BlockException;  
import com.alibaba.csp.sentinel.slots.block.RuleConstant;  
import com.alibaba.csp.sentinel.slots.block.flow.FlowRule;  
import com.alibaba.csp.sentinel.slots.block.flow.FlowRuleManager;  
import com.alibaba.csp.sentinel.util.function.Predicate;  
import java.util.ArrayList;  
import java.util.List;  
public class SentinelQPSExample {  
public static void main(String[] args) {  
// 定义流量控制规则  
        List<FlowRule> rules = new ArrayList<>();  
FlowRule rule = new FlowRule();  
        rule.setResource("abc"); // 资源名  
        rule.setCount(20); // 限流阈值（QPS）  
        rule.setGrade(RuleConstant.FLOW_GRADE_QPS); // 限流模式为QPS  
        rule.setLimitApp("default"); // 限流针对的应用  
        rules.add(rule);  
// 加载流量控制规则  
        FlowRuleManager.loadRules(rules);  
// 模拟请求处理  
for (int i = 0; i < 30; i++) {  
Entry entry = null;  
try {  
                entry = SphU.entry("abc"); // 进入资源  
// 执行实际业务逻辑  
                System.out.println("Request processed: " + i);  
            } catch (BlockException e) {  
// 处理限流情况  
                System.out.println("Request blocked: " + i);  
            } finally {  
if (entry != null) {  
                    entry.exit(); // 退出资源  
                }  
            }  
try {  
// 模拟请求间隔  
                Thread.sleep(100);  
            } catch (InterruptedException e) {  
                e.printStackTrace();  
            }  
        }  
    }  
}

在上面的代码中，我们首先定义了一个流量控制规则，设置了资源名、限流阈值（QPS）、限流模式和限流针对的应用。然后，通过FlowRuleManager.loadRules(rules)方法加载这些规则。在模拟请求处理部分，我们使用SphU.entry("abc")方法进入资源，并在finally块中通过entry.exit()方法退出资源。如果在给定的时间窗口内请求次数超过了设置的阈值，SphU.entry("abc")方法会抛出BlockException异常，我们可以在catch块中处理限流情况。