当前位置: 首页 > article >正文

什么是服务的雪崩、熔断、降级的解释以及Hystrix和Sentinel服务熔断器的解释、比较

1.什么是服务雪崩?

定义:在微服务中,假如一个或者多个服务出现故障,如果这时候,依赖的服务还在不断发起请求,或者重试,那么这些请求的压力会不断在下游堆积,导致下游服务的负载急剧增加。不断累计之下,可能会导致故障的进一步加剧,可能会导致级联式的失败,甚至导致整个系统崩溃,这就叫服务雪崩。

为防止服务雪崩,采取措施

  • 服务高可用部署:确保各个服务都具备高可用性,通过冗余部署、故障转移等方式来减少单点故障的影响。
  • 限流和熔断:对服务之间的请求进行限流和熔断,以防止过多的请求涌入导致后端服务不可用。
  • 缓存和降级:合理使用缓存来减轻后端服务的负载压力,并在必要时进行服务降级,保证核心功能的可用性

2.什么是服务熔断(Circuit Breaker)?

       服务熔断是微服务架构中的容错机制,用于保护系统免受服务故障或异常的影响。当某个服务出现故障或异常时,服务熔断可以快速隔离该服务,确保系统稳定可用。

       它通过监控服务的调用情况,当错误率或响应时间超过阈值时,触发熔断机制,后续请求将返回默认值或错误信息,避免资源浪费和系统崩溃。

       服务熔断还支持自动恢复,重新尝试对故障服务的请求,确保服务恢复正常后继续使用。

3.什么是服务降级(Falback)?

       服务降级是也是一种微服务架构中的容错机制,用于在系统资源紧张或服务故障时保证核心功能的可用性。

       当系统出现异常情况时,服务降级会主动屏蔽一些非核心或可选的功能,而只提供最基本的功能,以确保系统的稳定运行。通过减少对资源的依赖,服务降级可以保证系统的可用性和性能。

       它可以根据业务需求和系统状况来制定策略,例如替换耗时操作、返回默认响应、返回静态错误页面等。
 

4.有哪些服务熔断降级方案实现?

5.Sentinel是什么?它是如何工作的?

       Sentinel是阿里巴巴开源的一款分布式服务架构的轻量级流量控制产品,它主要以流量为切入点,从流量控制、熔断降级、系统负载保护等多个维度来帮助您保护服务的稳定性
       Sentiel 的基本概念包括资源、规则和处理器。资源是 Sentine!的关键概念,可以是 ava,应用程序中的任何内容,例如由应用程序提供的服务,或由应用程序调用的其它应用提供的服务,甚至可以是一段代码。规则是围绕资源的实时状态设定的,可以包括流量控制规则、熔断降级规则以及系统保护规则,所有规则可以动态实时调整。

主要功能

  • 流量控制:Sentinel 可以控制每个服务或接口的并发请求数量,避免因为并发请求过多导致服务崩溃
  • 熔断降级:当某个服务或接口不可用时,Sentinel 可以自动触发熔断机制,避免因单个服务或接口故障导致整个系统的瘫痪。
  • 系统负载保护:Sentinel通过控制系统的整体负载,避免因系统过载导致服务性能下降甚至崩溃。

工作原理

  • 数据采集:Sentinel通过代理模式将流量数据采集到自身,并进行数据清洗和整合
  • 策略计算:根据预先设定的规则和算法,Sentinel 计算并判断是否需要控制流量、熔断降级或保护系统负载。
  • 结果执行:根据计算结果,Sentinel 对流量进行控制、熔断降级或保护系统负载等操作,以保障服务的稳定性。

6.Hystrix与Sentinel的区别

       Hystrix和Sentinel都是服务熔断器,用于提高分布式系统的弹性。它们的主要区别在于实现方式、适用场景和资源模型设计

       Hystrix基于命令模式设计,将外部资源的调用封装在命令对象中,通过线程池或信号量来实现隔离。它提供了丰富的配置选项,如线程池大小、超时时间等,以实现对系统资源的有力控制。Hystrix更适用于需要高并发、快速响应的场景,因为它可以快速隔离和恢复故障。

       Sentinel则基于流量控制和熔断峰级的思想,可以与Spring Cloud、qRPC、Dubbo等框架集成,它通过定义资源规则和应用策略来实现对系统资源的控制,Sentinel更适用于需要流量控制和熔断降级的场景,它可以根据系统负载和响应时间来实现自动熔断和降级操作。

       总之,Hystix和sentine,都是服务熔断器,用于提高系统的弹性。它们在实现方式、适用场景和资源模型设计等方面存在一些不同。具体选择哪个工具取决于系统的具体需求和场景。

7.Hystrix怎么实现服务容错

       尽管已经不再更新,但是Hystrix是非常经典的服务容错开源库,它提供了多种机制来保护系统:

(1)服务熔断(Circuit Breaker)

Hystrix通过设置阈值来监控服务的错误率或响应时间。当错误率或响应时间超过预设的阈值时,熔断器将会打开,后续的请求将不再发送到实际的服务提供方,而是返回预设的默认值或错误信息。这样可以快速隔离故障服务,防止故障扩散,提高系统的稳定性和可用性。

服务熔断原理:

状态机有三种状态:

(a)Closed:关闭状态(断路器关闭)

       所有请求都正常访问

(b)Open:打开状态(断路器打开)

       所有请求都会被降级。Hystix会对请求情况计数,当一定时间内失败请求百分比达到阈值,则触发熔断,断路器会完全关闭。默认失败比例的阈值是50%。请求次数最少不低于20次

(c)Half Open:半开状态

       open状态不是永久的,打开后会进入休眠时间(默认是5秒)。岁后断路器会自动进入半开状态。此时会释放1次请求通过,若这个请求是健康的,则会关闭断路器,否则继续保持打开,每次进行5秒休眠计时。

(2)服务降级(Falback)

代码示例:

import com.netflix.hystrix.contrib.javanica.annotation.HystrixCommand;

/**
* 服务降级示例
**/
@Service
public class MyService {

    @HystrixCommand(fallbackMethod = "fallbackMethod")
    public String myServiceMethod() {
        // 实际的服务调用逻辑
        // ...
    }

    public String fallbackMethod() {
        // 降级方法的逻辑,当服务调用失败时会执行此方法
        // 可以返回默认值或执行其他备用逻辑
        // ...
    }
}

服务降级原理(进阶)

       Hystrix为每个服务分配了小的线程池,当客户发送请求过来,会通过线程池创建线程来执行任务,当创建的线程池已满或者请求超时(这里和多线程线程池不一样,不存在任务队列),则启动服务降级功能

       降级指的请求故障时,不会阻塞,会返回一个友好提示(自定义),也就是说不会影响其他服务的运行

(3)请求缓存(Request Caching)

       Hystrix可以缓存对同一请求的响应结果,当下次请求相同的数据时,直接从缓存中获取,避免重复的网络请求,提高系统的性能和响应速度。

(4)请求合并(Request Collapsing)

       Hystrix可 以将多个并发的请求合并为一个批量请求,减少网络开销和资源占用。这对于一些高并发的场景可以有效地减少请求次数,提高系统的性能。

(5)实时监控和度量(Real-time Monitoring and Metrics)

       Hystrix提供了实时监控和度量功能,可以对服务的执行情况进行监控和统计,包括错误率、响应时间、并发量等指标。通过监控数据,可以及时发现和解决服务故障或性能问题。

(6)线程池隔离(Thread Poollsolation)

       Hvstrix将每个依赖服务的请求都放在独立的线程池中执行,避免因某个服务的故障导致整个系统的线程资源耗尽。通过线程池隔离,可以提高系统的稳定性和可用性。

8.Sentinel怎么实现限流的?

8.1.Sentinel通过动态管理限流规则,根据定义的规则对请求进行限流控制,具体实现步骤:

(1)定义资源:在Sentinel中,资源可以是URL、方法等,用于标识需要进行限流的请求。

代码示例:

// 原本的业务方法.
@SentinelResource(blockHandler = "blockHandlerForGetUser")
public User getUserById(String id) {
    throw new RuntimeException("getUserById command failed");
}

// blockHandler 函数,原方法调用被限流/降级/系统保护的时候调用
public User blockHandlerForGetUser(String id, BlockException ex) {
    return new User("admin");
}

(2)配置限流规则:在Sentinel的配置文件中定义资源的限流规则。规则可以包括资源名称,限流阈值,限流模式(令牌桶或漏桶)等

代码示例:

private static void initFlowQpsRule() {
    List<FlowRule> rules = new ArrayList<>();   
    FlowRule rule1 = new FlowRule();  // 创建一个流控规则
    rule1.setResource(resource);   // 设置要限流的资源名称
    rule1.setCount(20);  // 设置最大 QPS 为 20
    rule1.setGrade(RuleConstant.FLOW_GRADE_QPS);  // 设置限流的维度为 QPS
    rule1.setLimitApp("default");  // 设置限制的应用名称为 "default"
    rules.add(rule1);  // 将规则添加到规则列表中
    FlowRuleManager.loadRules(rules);  // 加载规则列表,使限流规则生效
}

(3)监控流量:Sentinel会监控每个资源的流量情况,包括请求的QPS(每秒请求树),线程数,响应时间等。

(4)限流控制:当请求到达时,Sentinel会根据资源的限流规则判断是否需要进行限流控制。如果 请求超过了限流阈值,则可以进行限制,拒绝或进行其他降级处理

8.2.Sentinel采用什么限流算法?

Sentinel使用滑动窗口限流算法来实现限流

滑动窗口限流算法是一种基于时间窗口的限流算法。它将一段时间划分为多个时间窗口,并在每个时间窗口内统计请求的数量。通过动态地调整时间窗口的大小和滑动步长,可以更精确地控制请求的通过速率

8.3.Sentinel怎么实现集群限流?

Sentinel利用了Token Server和Token Client的机制来实现集群限流

开启集群限流后,Client向Token Server发送请求,Token Server根据配置的规则决定是否限流。

9.如果 Sentinel 的异常处理规则不满足需求,应该怎么办?

       如果 Sentinel 的默认异常处理机制无法满足您的需求,您可以选择自定义异常处理规则。Sentinel允许您通过自定义实现, BlockedExceptionHandler 接口,然后将自定义的异常处理器对象交给 Spring 容器进行管理,您可以根据实际业务需求,定制化异常处理策略,例如全局兜底处理、日志打印、空指针检查等。同时,您还可以在处理器中加入自定义的业务逻辑,例如对异常进行分类、统计和反馈等。这样,您可以根据具体的应用场景和业务需求,灵活地扩展 Sentinel的异常处理能力。

10.思维导图:

11.关联文章

       如此等等的资料我都已经整理到了思维导图中,本篇属于SpringCloud篇,有需要的可以去看一下,喜欢的就留个三连再走吧~

SpringCloud:https://blog.csdn.net/TLOVEYOUTOO/article/details/145532603?spm=1001.2014.3001.5502

Spring全家桶:

https://blog.csdn.net/TLOVEYOUTOO/article/details/145532922?spm=1001.2014.3001.5502


http://www.kler.cn/a/545785.html

相关文章:

  • OpenWebUI使用DeepSeek R1满血版,DeepSeek R1 API调用
  • 《C++ Primer》学习笔记(一)
  • 【目标检测json2xml】label从COCO格式json文件转VOC格式xml文件
  • 关于post和get的请求参数问题
  • Vue 3 30天精进之旅:Day 22 - 构建和部署
  • windows 打开22端口
  • DeepSeek自然语言处理(NLP)基础与实践
  • dify.ai 配置链接到阿里云百练等云厂商的 DeepSeek 模型
  • 真正通俗易懂的Langchain入门学习(二)
  • Kotlin 扩展函数与内联函数
  • DeepSeek处理自有业务的案例:让AI给你写一份小众编辑器(EverEdit)的语法着色文件
  • 微信小程序组件间通信与传值的全面解析
  • 【Kubernetes】常用命令全解析:从入门到实战(中)
  • FastAPI 高并发与性能优化
  • CSS实现中心放大动画
  • 【AI大模型】Ollama部署本地大模型DeepSeek-R1,交互界面Open-WebUI,RagFlow构建私有知识库
  • github上创建person access token
  • 21道关于Vue3的面试题及其解析
  • 网络安全|网络安全学习方法
  • cpp--实战项目,list的模拟实现,注释超详细!