redis底层数据结构——简单动态字符串
文章目录
- 概述
- 什么时候用C里面的字符串
- 什么时候使用SDS
- 使用场景
- SDS定义
- SDS与C语言的字符串差异
- 常数时间复杂度获取字符串长度
- 杜绝缓冲区溢出
- 减少修改字符串时带来的内存重分配次数
- 1.空间预分配
- 2.情性空间释放
- 二进制安全
- 兼容部分C字符串函数
- 总结
开始讲述动态字符串前我们先问自己几个问题,我们知道redis是使用c语言编写的,那么redis的string数据结构底层是使用c的字符串吗?如果不是C的字符串那么是什么?为何要新增一个数据结构?新增的数据结构可以带来哪些好处?C字符串在redis里面完全消失了吗?下面的内容会回答这些问题。
概述
Redis没有直接使用C语言传统的字符串表示(以空字符结尾的字符数组,以下简称C字符串),而是自己构建了一种名为简单动态字符串(simpledynamicstring,SSDS)的抽象类型,并将SDS用作Redis的默认学符串表示。
什么时候用C里面的字符串
在Redis里面,C字符串只会作为字符串字面量(stringliteral)用在一些无须对字符串直进行修改的地方,比如打印日志。
什么时候使用SDS
当Redis需要的不仅仅是一个字符串字面量,而是一个可以被修改的字符串值时,Redis就会使用SDS来表示字符串值,比如在Redis的数据库里面,包含字符串值的键值对在底层都是由SDS实现的。
使用场景
SDS用于string的value和基础数据结构的key中,例如:
- 在客户端执行命令:
``
redis>SET msg helloworld
OK
``
那么Redis将在数据库中创建一个新的键值对,其中:键值对的键是一个字符串对象,对象的底层实现是一个保存着字符串“msg”的SDS;键值对的值也是一个字符串对象,对象的底层实现是一个保存着字符单“hello world" 的SDS。
- 在客户端执行命令:
``
redis>RPUSH fruits “apple” “banana” “cherry”
(integer)3
``
那么Redis将在数据库中创建一个新的键值对,其中:
键值对的键是一个字符串对象,对象的底层实现是一个保存了字符串“fruits”的SDS
键值对的值是一个列表对象,列表对象包含了三个字符串对象,这三个字符串对象
分别由三个SDS实现:第一个SDS保存着字符串“apple”,第二个SDS保存着字
符串"banana”,第三个SDS保存着字符串“cherry”
除了用来保存数据库中的字符串值之外,SDS还被用作缓冲区(buffer):AOF模块中的AOF缓冲区,以及客户端状态中的输人缓冲区,都是由SDS实现的。
SDS定义
``
struct Sdshdr{
// 记录buf数组中已使用字节的数量
//等于SDS所保存字符串的长度
int len;
//记录buf数组中未使用字节的数量
int free;
//字节数组,用于保存字符串
char buf[];
}
``
- free属性的值为0,表示这个SDS没有分配任何未使用空间。
- len属性的值为5,表示这个SDS保存了一个五字节长的字符串。
- buf属性是一个char类型的数组,数组的前五个字节分别保存了·R”、e”、 s,五个字符,而最后一个字节则保存了空字符·0”。
SDS与C语言的字符串差异
常数时间复杂度获取字符串长度
因为C字符串并不记录自身的长度信息,所以为了获取一个C字符串的长度,程序必须遍历整个字符串,对遇到的每个字符进行计数,直到遇到代表字符串结尾的空字符为止,这个操作的复杂度为O(N)。但是SDS由于len属性已经记录了字符串长度,所以SDS的API直接返回这个属性值就可以获取字符串长度,时间复杂度为O(1)。这是一种空间换时间的优化使得redis的string数据结构在获取长度时很快,但是修改时会比较慢,因为还要修改len的值。
杜绝缓冲区溢出
在C语言中,在内存中存在两个紧紧挨着的字符串A与B,当对A拼接上C时,由于A与B紧挨着,这时候就导致A的数据溢出到B中,B字符串被修改了。
与C字符串不同,SDS的空间分配策略完全杜绝了发生缓冲区溢出的可能性:当SDS
API需要对SDS进行修改时,API会先检查SDS的空间是否满足修改所需的要求,如果不满足的话,API会自动将SDS的空间扩展至执行修改所需的大小,然后才执行实际的修改操作,所以使用SDS既不需要手动修改SDS的空间大小,也不会出现前面所说的缓冲区溢出问题。
减少修改字符串时带来的内存重分配次数
因为C字符串并不记录自身的长度,所以对于一个包含了N个字符的C字符串来说,这个C字符串的底层实现总是一个N+1个字符长的数组(额外的一个字符空间用于保存空字符)。因为C字符串的长度和底层数组的长度之间存在着这种关联性,所以每次增长或者缩短一个C字符串,程序都总要对保存这个C字符串的数组进行一次内存重分配操作。
为了避免C字符串的这种缺陷,SDS通过未使用空间解除了字符电长度和底层数组长
度之间的关联:在SDS中,buf数组的长度不一定就是字符数量加一,数组里面可以包含未使用的字节,而这些字节的数量就由SDS的free属性记录。
通过未使用空间,SDS实现了空间预分配和情性空间释放两种优化策略
1.空间预分配
空间预分配用于优化SDS的字符串增长操作:当SDS的API对一个SDS进行修改
并且需要对SDS进行空间扩展的时候,程序不仅会为SDS分配修改所必须要的空间,还会为SDS分配额外的未使用空间。
其中,额外分配的未使用空间数量由以下公式决定:
- 如果对SDS进行修改之后,SDS的长度(也即是1en属性的值)将小于1MB
那么程序分配和1en属性同样大小的未使用空间,这时SDS1en属性的值将和
free属性的值相同。举个例子,如果进行修改之后,SDS的1en将变成13字
节,那么程序也会分配13字节的未使用空间,SDS的buf数组的实际长度将变成13+13+1=27字节(额外的一字节用于保存空字符) - 如果对SDS进行修改之后,SDS的长度将大于等于1MB,那么程序会分配1MB的未使用空间。举个例子,如果进行修改之后,SDS的1en将变成30MB,那么程序会分配1MB的未使用空间,SDS的buf数组的实示长度将为30MB+1MB+1byte
通过空间预分配策略,Redis可以减少连续执行字符串增长操作所需的内存重分配次数。
在扩展SDS空间之前,SDSAPI会先检查未使用空间是否足够,如果足够的话,API
就会直接使用未使用空间,而无须执行内存重分配。
通过这种预分配策略,SDS将连续增长N次字符申所需的内存重分配次数从必定N次
降低为最多N次。
2.情性空间释放
情性空间释放用于优化SDS的字符串缩短操作:当SDS的API需要缩短SDS保存的字符申时,程序并不立即使用内存重分配来回收缩短后多出来的字节,而是使用free属性将这些字节的数量记录起来,并等待将来使用。
通过情性空间释放策略,SDS避免了缩短字符申时所需的内存重分配操作,并为将来可能有的增长操作提供了优化。
与此同时,SDS也提供了相应的API,让我们可以在有需要时,真正地释放SDS的未使用空间,所以不用担心情性空间释放策略会造成内存浪费。
二进制安全
C字符串中的字符必须符合某种编码(比如ASCII),并且除了字符串的末尾之外,字
舒串里面不能包含空字符,否则最先被程序读人的空字符将被误认为是字符串结尾,这些限制使得C字符串只能保存文本数据,而不能保存像图片、音频、视频、压缩文件这样的二进制数据。
虽然数据库一般用于保存文本数据,但使用数据库来保存二进制数据的场景也不少见
因此,为了确保Redis可以适用于各种不同的使用场景,SDS的API都是二进制安全的
(binary-safe),所有SDSAPI都会以处理二进制的方式来处理SDS存放在buf数组里的数据,程序不会对其中的数据做任何限制、过滤、或者假设,数据在写人时是什么样的,它被读取时就是什么样。
这也是我们将SDS的buf属性称为字节数组的原因—Redis不是用这个数组来保存字符,而是用它来保存一系列二进制数据。
通过使用二进制安全的SDS,而不是C字符串,使得Redis不仅可以保存文本数据,还
可以保存任意格式的三进制数据。
兼容部分C字符串函数
虽然SDS的API都是二进制安全的,但它们一样遵循C字符串以空字符结尾的惯例这些API总会将SDS保存的数据的末尾设置为空字符,并且总会在为buf数组分配空间时多分配一个字节来容纳这个空字符,这是为了让那些保存文本数据的SDS可以重用一部分<string.h>库定义的函数。
通过遵循C字符串以空字符结尾的惯例,SDS可以在有需要时重用<string.h>函数库,从而避免了不必要的代码重复。