当前位置: 首页 > article >正文

Redis 篇-深入了解 Redis 中的 RESP 通信协议与内存回收(过期 key 处理、内存淘汰策略)

🔥博客主页: 【小扳_-CSDN博客】
❤感谢大家点赞👍收藏⭐评论✍

文章目录

        1.0 Redis 通信协议 - RESP 协议

        2.0 Redis 内存回收

        2.1 Redis 内存回收 - 过期 key 处理

        2.1.1 Redis 是如何知道一个 Key 是否过期呢?

        2.1.2 是不是 TTL 到期就立即删除了呢?

        2.2 Redis 内存回收 - 内存淘汰策略

        2.2.1 Redis 八种不同删除 key 的策略

        2.2.2 Redis 内存淘汰的流程图


        1.0 Redis 通信协议 - RESP 协议

        简单来说,通信协议就是对于发送命令或者接收命令格式的规范。

        Redis 是一个 CS 架构的软件,通信一般分两步:

        1)客户端向服务端发送一条命令

        2)服务端解析并执行命令,返回响应结果给客户端。

        1.1 RESP 协议 - 数据类型

        在 RESP 中,通过首字节的字符来区分不同数据类型,常用的数据类型包括 5 种:

        1)单行字符串:首字节是 "+",后面跟上单行字符串,以 CRLF("\r\n") 结尾。

举个例子:

        比如说要发送命令的格式:"+OK\r\n"。但需要注意的是,使用单行字符串发送命令,可能会导致二进制不安全问题发生。

        2)错误(Errors):首字节是 "-",与单行字符串格式一样,只是字符串是异常信息。

举个例子:

        服务端发送错误信息的格式:"-Error message\r\n" 。

        3)数值:首字节是 ":",后面跟上数字格式的字符串,以 CRLF 结尾。

举个例子:

        给服务端发送数值信息的格式:":10\r\n" 。

        4)多行字符串:首字节是 "$",表示二进制安全的字符串,最大支持 512 MB。

举个例子:

        给服务端发送多行字符串的格式:"$5\r\nhello\r\n"

需要注意的是: 

                如果大小为 0,则代表空字符串:"$0\r\n\r\n";

                如果大小为 -1,则代表不存在:"$-1\r\n";

        5)数组:首字节是 "*",后面跟上数组元素个数,再跟上元素,元素数据类型不限。

举个例子:

        给 Redis 服务端发送 "set name 童童" 的命令的格式:

        *3\r\n

        $3\r\nset\r\n

        $4\r\nname\r\n

        $6\r\n童童\r\n

字段解析:

        *3\r\n:表示的数组中有三个元素;

        $3\r\nset\r\n:数组的第一个元素是多行字符串类型,值为 set ,字节数为 3 个字节;

        $4\r\nname\r\n:数组的第二个元素也是多行字符串类型,值为 name ,字节数为 4 个字节;

        $6\r\n童童\r\n:数组的第三个元素也是多行字符串类型,值为 童童,字节数为 6 个字节;

        2.0 Redis 内存回收

        Redis 之所以性能强,最主要的原因就是基于内存存储。然而单节点的 Redis 其内存大小不宜过大,会影响持久化或主从同步性能。

        可以通过修改配置文件来设置 Redis 的最大内存:

        当内存使用达到上限时,就无法存储更多的数据了。因此,需要采用某些手段来解决内存达到上限的问题。

        一般可以通过内存回收来解决:过期 key 处理、内存淘汰机制。

        2.1 Redis 内存回收 - 过期 key 处理

        通过两个具体的问题来了解过期 Key 处理机制来解决内存不足:

        2.1.1 Redis 是如何知道一个 Key 是否过期呢?

        Redis 本身是一个典型的 key-value 内存存储数据库,因此所有的 key、value 都保存在 Dict 结构中。不过在 database 结构体中,有两个 Dict:一个用来记录 key-value;另一个用来记录 key-TTL 。

相关源码如下:

        解析其中最重要的两个字段:

        1)dict *dict:存放所有 key 及 value 的地方,也被称为 keyspace。

        2)dict *expires:存放每一个 key 及其对应的 TTL 存活时间,只包含设置 TTL 的 Key 。

相关的结构如下:

        所以,回到之前的问题:Redis 是如何知道一个 key 是否过期的?

        答案是利用两个 Dict 分别记录 Key-Value 以及 Key-TTL ,通过查询两个 Dict 来判断当前 key 是否过期的。

        2.1.2 是不是 TTL 到期就立即删除了呢?

        具体来说,Redis 处理过期 key 的方式一般来说有两种:惰性删除、周期删除。

        1)对于惰性删除来说:

        当你尝试访问一个 key 时,Redis 会检查该 key 是否已经过期。如果过期了,Redis 会将其删除并返回空值。这种方式被称为惰性删除。

相关的源码:

        2)对于周期删除来说:

        顾名思义,是通过一个定时任务,周期性的抽样部分过期的 key,然后执行删除。执行周期有两种:

        第一种:Redis 会设置一个定时任务 serverCron(),按照 server.hz 的频率来执行过期 key 清理,模式为 SLOW 。

SLOW 模式规则:

        执行频率受 server.hz 的影响,默认为 10,即每秒执行 10 次,每个执行周期 100ms 。

        执行清理耗时不超过一次执行周期的 25% 。

        逐个遍历 db,逐个遍历 db 中的 bucket,抽取 20 个 Key 判断是否过期。

        如果没达到时间上限(25 ms)并且过期 key 比例大于 10%,再进行一次抽样,否则结束。

        第二种:Redis 的每个事件循环前会调用 beforeSlepp() 函数,执行过期 key 清理,模式为 FAST 。

FAST 模式规则:

        执行频率受 beforeSleep() 调用频率影响,但两次 FAST 模式间隔不低于 2 ms 。

        执行清理耗时不超过 1ms 。

        逐个遍历 db,逐个遍历 db 中的 bucket,抽取 20 个 Key 判断是否过期。

        如果没达到时间上限(1 ms)并且过期 Key 比例大于 10%,再进行一次抽样,否则结束。

小结:

        1)RedisKey 的 TTL 记录方式:

        在 RedisDB 中通过一个 Dict 记录每个 key 的 TTL 时间。

        2)过期 key 的删除策略:

        惰性删除:每次查找 key 是判断是否过期,如果过期则删除;

        定期删除:定期抽样部分 key,判断是否过期,如果过期则删除。

        3)定期清理的两种模式:

        SLOW模式执行频率默认为每秒十次,每次不超过 25 ms 。

        FAST 模式执行频率不固定,但两次间隔不低于 2 ms,每次耗时不超过 1 ms 。

        2.2 Redis 内存回收 - 内存淘汰策略

        内存淘汰就是当 Redis 内存使用达到设置的阈值时,Redis 主动挑选部分 Key 删除从而来释放更多内存的流程。

        Redis 会在处理客户端命令的方法之前,先执行 processCommand() 中尝试做内存淘汰。

相关的源码:

        2.2.1 Redis 八种不同删除 key 的策略

        在配置文件中进行配置不同删除 key 的策略:

Redis 支持 8 种不同策略来选择要删除的 key:

        1)noeviction:不淘汰任何 key,但是内存满时不允许写入新数据,默认就是这种策略。

        2)volatile-ttl:对设置了 TTL 的 key,比较 key 的剩余 TTL 值,TTL 越小越先被淘汰。

        3)allkeys-random:对全体 key,随机进行淘汰。也就是直接从 db->dict 中随机挑选。

        4)volatile-random:对设置了 TTL 的 key,随机进行淘汰。也就是从 db->expires 中随机挑选。

        5)allkeys-lru:对全体 key,基于 LRU 算法进行淘汰。

        6)volatile-lru:对设置了 TTL 的 key,基于 LRU 算法进行淘汰。

        7)allkeys-lfu:对全体 key,基于 LFU 算法进行淘汰。

        8)volatile-lfu:对设置了 TTL 的 key,基于 LFU 算法进行淘汰。

LRU 算法:

        最少最近使用,用当前时间减去最后一次访问的时间,这个值越大则淘汰优先级越高。以秒为单位记录最近一次访问的时间,长度为 24 bit 。

LFU 算法:

        最少频率使用,会统计每个 key 的访问频率,值越小淘汰优先级越高。高 16 位以分钟为单位记录最近一次访问时间,低 8 位记录逻辑访问次数。

        2.2.2 Redis 内存淘汰的流程图

具体流程分析:

        在执行客户端发送过来的命令之前,先判断当前内存是否充足,如果内存还是很充足,那么不需要去执行删除 key 的操作。

        如果当前内存不充足时,继续判断内存策略是否为默认 noeviction 策略,也就是即使内存满了,也不会执行删除 key 的操作,会发出错误信息。

        假设不是默认策略,接着继续判断是从 dict 字典还是从 entries 字典中删除 key,该两者的区别就是有无设置 TTL。

        再紧接着,选择删除策略,假设选择了 random 策略,也就是随机选择 key 来删除。删除完之后,再判断内存是否充足,如果还是不足,那么会接着循环来删除 key,如果达到充足的内存,则直接退出删除 key 的操作。

        若选择的删除策略为:TTL、LRU、LFU 这些策略,先创建一个池,用来存放准备删除的 key,在 Redis 数据库中从 0 直到 15 的数据库进行遍历抽样选择要放入池中的 key,默认每次抽样 5 个 key。

        再接下来,根据具体选择的策略来进行将抽样 5 个 key 放入池中,每一个放入池中的 key 都以升序的方式进行排序。

        最后,将池中要确定删除的 key 进行删除,循环往复,直到内存充足为止。


http://www.kler.cn/a/329012.html

相关文章:

  • C++ lambda(匿名函数)捕获自己
  • 如何解决飞书网页文字无法复制的问题
  • Dart:字符串
  • golang通用后台管理系统09(系统操作日志记录)
  • Gin路由深入
  • 英语中do(做没做)和can(有能力/资格做)的区分
  • CentOS系统yum出现Could not retrieve mirrorlist问题
  • G502 鼠标自定义(配合 karabiner)
  • 【算法竞赛】堆
  • 前端框架中@路径别名原理和配置
  • 在线代码编辑器
  • 【数据库】在 Java 中使用 MongoDB 进行数据聚合
  • 【系统代码】招投标采购一体化管理系统,JAVA+vue
  • 设置Android studio或者IEDA自动导包
  • 滚雪球学Oracle[8.3讲]:区块链与Oracle
  • RM服务器研究(一)
  • [大语言模型-论文精读] 悉尼大学-ACL2024-提升大型语言模型的复杂视觉推理能力
  • jupyter使用pytorch
  • 详解调用钉钉AI助理消息API发送钉钉消息卡片给指定单聊用户
  • Vscode、小皮面板安装
  • 录屏软件大比拼:四款必备工具助你轻松录制精彩瞬间!
  • Java项目实战II基于Java+Spring Boot+MySQL的购物推荐网站的设计与实现(源码+数据库+文档)
  • AI绘画实现数字人2D形象生成及3D数字人视频生成
  • 【Android 14源码分析】WMS-窗口显示-第一步:addWindow
  • Spring Boot 实现动态配置导出,同时支持公式和动态下拉框渲染和性能优化案例示范
  • 大语言模型知识点分享