Redis源码剖析--整数集合

Myth丶恋晨 2022-06-08 00:22 171阅读 0赞

整数集合（intset）是集合键的底层实现之一： 当一个集合只包含整数值元素， 并且这个集合的元素数量不多时， Redis 就会使用整数集合作为集合键的底层实现。

127.0.0.1:6379> sadd numbers 1 2 3 4 5
    (integer) 5
    127.0.0.1:6379> object encoding numbers
    "intset"

这么做的好处是当集合中只有少量的整数元素的时候，采用之前介绍的其他数据结构，比如sds，都会占用比较大的内存，但如果仅保存为整数集合的话，则会更加经济。

## 整数数组数据结构 ##

整数数组的定义位于intset.h中，具体如下：

typedef struct intset {
        uint32_t encoding;  // 编码方式
        uint32_t length;   // 保存的元素个数
        int8_t contents[];  // 保存元素的数组
    } intset;

虽然 intset 结构将 contents 属性声明为 int8\_t 类型的数组， 但实际上 contents 数组并不保存任何 int8\_t 类型的值 —— contents 数组的真正类型取决于 encoding 属性的值：

#define INTSET_ENC_INT16 (sizeof(int16_t))
    #define INTSET_ENC_INT32 (sizeof(int32_t))
    #define INTSET_ENC_INT64 (sizeof(int64_t))
    
    /* Return the required encoding for the provided value. */
    static uint8_t _intsetValueEncoding(int64_t v) {
        if (v < INT32_MIN || v > INT32_MAX)
            return INTSET_ENC_INT64;
        else if (v < INT16_MIN || v > INT16_MAX)
            return INTSET_ENC_INT32;
        else
            return INTSET_ENC_INT16;
    }

可以看到一共会有三种类型，分别对应int\_16, int\_32, int\_64。

整数数组中所有的元素在数组中按值的大小从小到大有序地排列， 并且数组中不包含任何重复项。

## 整数集合操作 ##

### 创建整数集合 ###

// 初始化空的整数集合
    intset *intsetNew(void) {
        intset *is = zmalloc(sizeof(intset));
        is->encoding = intrev32ifbe(INTSET_ENC_INT16); // 默认创建int_16的编码格式
        is->length = 0;
        return is;
    }

### 插入一个元素 ###

/* Insert an integer in the intset */
    intset *intsetAdd(intset *is, int64_t value, uint8_t *success) {
        uint8_t valenc = _intsetValueEncoding(value);
        uint32_t pos;
        if (success) *success = 1;
    
        // 如果超出了当前编码格式所能表示的范围，则升级整数集合并添加元素
        if (valenc > intrev32ifbe(is->encoding)) {
            /* This always succeeds, so we don't need to curry *success. */
            return intsetUpgradeAndAdd(is,value);
        } else {
            // 如果元素已经存在于集合，success返回0
            // 如果不存在的话， 这个函数会返回元素应该插入的位置pos
            if (intsetSearch(is,value,&pos)) {
                if (success) *success = 0;
                return is;
            }
            // 否则，需要重新调整集合的大小
            is = intsetResize(is,intrev32ifbe(is->length)+1);
            // 将pos之后的数据全都向后挪动一个位子
            if (pos < intrev32ifbe(is->length)) intsetMoveTail(is,pos,pos+1);
        }
    
        _intsetSet(is,pos,value); // 添加数据到第pos位
        is->length = intrev32ifbe(intrev32ifbe(is->length)+1); // 调整元素个数
        return is;
    }

在插入元素的时候，需要根据新元素的大小来重新确定所采用的编码。如果新元素超出了原有编码的表示范围，就需要调整编码，同时调整集合中所有其他元素的编码格式。调整编码是一个不可逆的过程，就是说只能从小的编码调整到大的编码，只能升级不能降级。

### 升级过程 ###

升级整数集合并添加新元素调用的是intsetUpgradeAndAdd函数，共分为三步进行：

*  根据新元素的类型， 扩展整数集合底层数组的空间大小， 并为新元素分配空间。
 *  将底层数组现有的所有元素都转换成与新元素相同的类型， 并将类型转换后的元素放置到正确的位上， 而且在放置元素的过程中， 需要继续维持底层数组的有序性质不变。
 *  将新元素添加到底层数组里面。

/* Upgrades the intset to a larger encoding and inserts the given integer. */
    static intset *intsetUpgradeAndAdd(intset *is, int64_t value) {
        // 当前的编码
        uint8_t curenc = intrev32ifbe(is->encoding);
        // 根据新元素的值获得新的编码
        uint8_t newenc = _intsetValueEncoding(value);
        int length = intrev32ifbe(is->length);
        // 由于整数集合是一个有序集合，所以新的这个超出范围的元素，要不插入头部，要不插入尾部
        // 当value大于0的时候，就是插入到尾部，否则插入到头部，用参数prepend来标记
        int prepend = value < 0 ? 1 : 0;
    
        /* First set new encoding and resize */
        // 重新设置整数集合的编码
        is->encoding = intrev32ifbe(newenc);
        // 根据新编码调整整数集合的大小
        is = intsetResize(is,intrev32ifbe(is->length)+1);
    
    
        // 从尾部向头部进行升级，这样在挪动其中的元素的时候，不会覆盖原来的值
        while(length--)
            // 如果新元素是插入到尾部，prepend==0， 所以原来最后的元素是挪动到length位置
            // 如果新元素是插入到头部，prepend==1，所有的元素都要向后挪动一个位置，将头部空出来
            _intsetSet(is,length+prepend,_intsetGetEncoded(is,length,curenc));
    
        /* Set the value at the beginning or the end. */
        if (prepend)
            // 如果prepend==1， 插入到头部
            _intsetSet(is,0,value);
        else
            // 否则，设置最后一个位置的元素为value
            _intsetSet(is,intrev32ifbe(is->length),value);
        // 元素个数加1
        is->length = intrev32ifbe(intrev32ifbe(is->length)+1);
        return is;
    }

而整数集合现在的做法既可以让集合能同时保存三种不同类型的值， 又可以确保升级操作只会在有需要的时候进行， 这可以尽量节省内存。

### 查找元素 ###

查找的时候，需要先判断要查找的元素是否在当前编码的有效范围内，如果不在当前范围内，可以直接返回。

另外因为整数集合是一个有序集合，可以采用二分查找的办法，

uint8_t intsetFind(intset *is, int64_t value) {
        // 获得目标值的编码
        uint8_t valenc = _intsetValueEncoding(value);
        // 只有目标值的编码比当前编码小，才继续执行查找过程
        return valenc <= intrev32ifbe(is->encoding) && intsetSearch(is,value,NULL);
    }
    
    // 如果找到这个元素，返回1，同时pos表示这个值在整数集合里边的位置
    // 如果没有找到这个元素，返回0， 同时pos表示这个值可以插入的位置
    static uint8_t intsetSearch(intset *is, int64_t value, uint32_t *pos) {
        int min = 0, max = intrev32ifbe(is->length)-1, mid = -1;
        int64_t cur = -1;
    
        /* The value can never be found when the set is empty */
        // 如果集合的长度为0， 直接返回0
        if (intrev32ifbe(is->length) == 0) {
            if (pos) *pos = 0;
            return 0;
        } else {
            /* Check for the case where we know we cannot find the value, * but do know the insert position. */
            // 如果目标值大于当前最大值，肯定找不到，返回0， 同时待插入的位置pos为length
            if (value > _intsetGet(is,intrev32ifbe(is->length)-1)) {
                if (pos) *pos = intrev32ifbe(is->length);
                return 0;
            } else if (value < _intsetGet(is,0)) {
                // 如果目标址小于当前最小值，返回0， 同时待插入的位置pos为0
                if (pos) *pos = 0;
                return 0;
            }
        }
    
        // 二分查找
        while(max >= min) {
            // 得到中间位置
            mid = ((unsigned int)min + (unsigned int)max) >> 1;
            // 得到中间位置的值
            cur = _intsetGet(is,mid);
            if (value > cur) {
                min = mid+1;
            } else if (value < cur) {
                max = mid-1;
            } else {
                break;
            }
        }
    
        if (value == cur) {
            if (pos) *pos = mid;
            return 1;
        } else {
            if (pos) *pos = min;
            return 0;
        }
    }