【数据结构】哈希思想详解

前言

在C++98中，STL提供了底层为红黑树结构的一系列关联式容器，在查询时效率可达到$lo{g}_{2}N$，即最差情况下需要比较红黑树的高度次，当树中的节点非常多时，查询效率也不理想。最好的查询是，进行很少的比较次数就能够将元素找到，因此在C++11中，STL又提供了4个unordered系列的关联式容器，这四个容器与红黑树结构的关联式容器使用方式基本类似，只是其底层结构不同。

1. unordered系列关联式容器

1.1 unordered_map

1.1.1 unordered_map介绍

unordered_map文档介绍

1. unordered_map是存储<key, value>键值对的关联式容器，其允许通过keys快速的索引到与其对应的value。
2. 在unordered_map中，键值通常用于惟一地标识元素，而映射值是一个对象，其内容与此键关联。键和映射值的类型可能不同。
3. 在内部,unordered_map没有对<kye, value>按照任何特定的顺序排序, 为了能在常数范围内找到key所对应的value，unordered_map将相同哈希值的键值对放在相同的桶中。
4. unordered_map容器通过key访问单个元素要比map快，但它通常在遍历元素子集的范围迭代方面效率较低。
5. unordered_maps实现了直接访问操作符(operator[])，它允许使用key作为参数直接访问value。
6. 它的迭代器至少是前向迭代器。

1.1.2 接口说明

1. unordered_map的构造

2. unordered_map的容量

3. unordered_map的迭代器

4. unordered_map的元素访问

注意：该函数中实际调用哈希桶的插入操作，用参数key与V()构造一个默认值往底层哈希桶中插入，如果key不在哈希桶中，插入成功，返回V()，插入失败，说明key已经在哈希桶中，将key对应的value返回

5. unordered_map的查询

注意：unordered_map中key是不能重复的，因此count函数的返回值最大为1

6. unordered_map的修改操作

7. unordered_map的桶操作

1.2 unordered_set

接口与set和unordered_map类似
参见参见 unordered_set在线文档说明

unordered系列的关联式容器之所以效率比较高，是因为其底层使用了哈希结构

2. 哈希概念

顺序结构以及平衡树中，元素关键码与其存储位置之间没有对应的关系，因此在查找一个元素时，必须要经过关键码的多次比较。顺序查找时间复杂度为O(N)，平衡树中为树的高度，即O($lo{g}_{2}N$)，搜索的效率取决于搜索过程中元素的比较次数。

理想的搜索方法：可以不经过任何比较，一次直接从表中得到要搜索的元素。 如果构造一种存储结构，通过某种函数(hashFunc)使元素的存储位置与它的关键码之间能够建立一一映射的关系，那么在查找时通过该函数可以很快找到该元素。

当向该结构中：

• 插入元素
  根据待插入元素的关键码，以此函数计算出该元素的存储位置并按此位置进行存放
• 搜索元素
  对元素的关键码进行同样的计算，把求得的函数值当做元素的存储位置，在结构中按此位置取元素比较，若关键码相等，则搜索成功

该方式即为哈希(散列)方法，哈希方法中使用的转换函数称为哈希(散列)函数，构造出来的结构称为哈希表(Hash Table)(或者称散列表)

例如：数据集合{1，7，6，4，5，9}；
哈希函数设置为：hash(key) = key % capacity; capacity为存储元素底层空间总的大小。

用该方法进行搜索不必进行多次关键码的比较，因此搜索的速度比较快

按照上述方法向表中插入44会不会出现问题？
会，因为44映射的地址4已有元素，会发生冲突，这种情况称为哈希冲突

3. 哈希冲突

对于两个数据元素的关键字$k_i$和 $k_j$(i != j)，有$k_i$ != $k_j$，但有：Hash($k_i$) ==Hash($k_j$)，
即：不同关键字通过相同哈希哈数计算出相同的哈希地址，该种现象称为哈希冲突或哈希碰撞。

把具有不同关键码而具有相同哈希地址的数据元素称为“同义词”。
发生哈希冲突该如何处理呢？

4. 哈希函数

引起哈希冲突的一个原因可能是：哈希函数设计不够合理
哈希函数设计原则：

• 哈希函数的定义域必须包括需要存储的全部关键码，而如果散列表允许有m个地址时，其值域必须在0到m-1之间
• 哈希函数计算出来的地址能均匀分布在整个空间中
• 哈希函数应该比较简单

常见哈希函数：

1. 直接定址法–(常用)
   取关键字的某个线性函数为散列地址：Hash（Key）= A*Key + B
   优点：简单、均匀
   缺点：需要事先知道关键字的分布情况
   使用场景：适合查找比较小且连续的情况

2. 除留余数法–(常用)
   设散列表中允许的地址数为m，取一个不大于m，但最接近或者等于m的质数p作为除数，按照哈希函数：Hash(key) = key% p(p<=m),将关键码转换成哈希地址

3. 平方取中法
   假设关键字为1234，对它平方就是1522756，抽取中间的3位227作为哈希地址；
   再比如关键字为4321，对它平方就是18671041，抽取中间的3位671(或710)作为哈希地址
   平方取中法比较适合：不知道关键字的分布，而位数又不是很大的情况

4. 折叠法
   折叠法是将关键字从左到右分割成位数相等的几部分(最后一部分位数可以短些)，然后将这几部分叠加求和，并按散列表表长，取后几位作为散列地址。
   折叠法适合事先不需要知道关键字的分布，适合关键字位数比较多的情况

5. 随机数法
   选择一个随机函数，取关键字的随机函数值为它的哈希地址，即H(key) = random(key),其中random为随机数函数。
   通常应用于关键字长度不等时采用此法

6. 数学分析法
   设有n个d位数，每一位可能有r种不同的符号，这r种不同的符号在各位上出现的频率不一定相同，可能在某些位上分布比较均匀，每种符号出现的机会均等，在某些位上分布不均匀只有某几种符号经常出现。可根据散列表的大小，选择其中各种符号分布均匀的若干位作为散列地址。
   

假设要存储某家公司员工登记表，如果用手机号作为关键字，那么极有可能前7位都是 相同的，那么我们可以选择后面的四位作为散列地址，如果这样的抽取工作还容易出现 冲突，还可以对抽取出来的数字进行反转(如1234改成4321)、右环位移(如1234改成4123)、左环移位、前两数与后两数叠加(如1234改成12+34=46)等方法。
数字分析法通常适合处理关键字位数比较大的情况，如果事先知道关键字的分布且关键字的若干位分布较均匀的情况

注意：哈希函数设计的越精妙，产生哈希冲突的可能性就越低，但是无法避免哈希冲突

5. 哈希冲突解决

解决哈希冲突两种常见的方法是：闭散列和开散列

5.1 闭散列

5.1.1 闭散列的概念

闭散列：也叫开放定址法，当发生哈希冲突时，如果哈希表未被装满，说明在哈希表中必然还有空位置，那么可以把key存放到冲突位置中的“下一个” 空位置中去。
那如何寻找下一个空位置呢？

1. 线性探测
   
   现在需要插入元素44，先通过哈希函数计算哈希地址，hashAddr为4，因此44理论上应该插在该位置，但是该位置已经放了值为4的元素，即发生哈希冲突。
   线性探测：从发生冲突的位置开始，依次向后探测，直到寻找到下一个空位置为止

• 插入
  • 通过哈希函数获取待插入元素在哈希表中的位置
  • 如果该位置中没有元素则直接插入新元素，如果该位置中有元素发生哈希冲突，使用线性探测找到下一个空位置，插入新元素
• 删除
  采用闭散列处理哈希冲突时，不能随便物理删除哈希表中已有的元素，若直接删除元素会影响其他元素的搜索。比如删除元素4，如果直接删除掉，44查找起来可能会受影响。因此线性探测采用标记的伪删除法来删除一个元素。

线性探测优点：实现非常简单，
线性探测缺点：一旦发生哈希冲突，所有的冲突连在一起，容易产生数据“堆积”，即：不同关键码占据了可利用的空位置，使得寻找某关键码的位置需要许多次比较，导致搜索效率降低。 如何缓解呢？

2. 二次探测
   线性探测的缺陷是产生冲突的数据堆积在一块，这与其找下一个空位置有关系，因为找空位置的方式就是挨着往后逐个去找，因此二次探测为了避免该问题，找下一个空位置的方法为：$H_i$ = ($H_0$ + $i^2$ )% m, 或者：$H_i$ = ($H_0$ - $i^2$ )% m。其中：i =1,2,3…， $H_0$是通过散列函数Hash(x)对元素的关键码 key 进行计算得到的位置，m是表的大小。
   即：线性探测是基于映射的位置+1，+2，… +n，而二次探测是基于映射的位置+$1^2$，+$2^2$，… ，+$n^2$

研究表明：当表的长度为质数且表装载因子a不超过0.5时，新的表项一定能够插入，而且任何一个位置都不会被探查两次。因此只要表中有一半的空位置，就不会存在表满的问题。在搜索时可以不考虑表装满的情况，但在插入时必须确保表的装载因子a不超过0.5，如果超出必须考虑增容。

5.1.2 闭散列代码实现

思考：哈希表什么情况下进行扩容？如何扩容？

本次采用线性探测的方法

1. 数据项的定义

//元素状态
//DELETE：表中有一段连续存在的元素时，不能判断他们是探测找到的位置还是直接映射的
//如果在它们中间删除一个元素，将它设置位EMPTY，会导致探测不到后面的元素，
//因为线性探测是找到EMPTY为止
enum State {
	DELETE,
	EMPTY,
	EXIST
};

template<class K,class V>
struct HashData{
	HashData(const std::pair<K,V>& kv = std::pair<K,V>(), State st = EMPTY)
		:_kv(kv),
		_st(st)
	{}
	std::pair<K,V> _kv; //数据
	State _st; //状态
};

2. 哈希函数：将Key值转换为整型

	template<class K>
	struct HashFunc {
		size_t operator()(const K& key)
		{
			return (size_t)key;
		}
	};
	template<>
	struct HashFunc<std::string>{
		size_t operator()(const std::string& s)
		{
			size_t val = 0;
			for (auto e : s)
			{
				val *= 131;
				val += e;
			}
			return val;
		}
	};

3. 哈希表

	template <class K,class V,class Hash = HashFunc<K>>
	class HashTable {
	public:
		
		bool Insert(const std::pair<K,V>& kv)
		{
			//如果表为空，则初始化表空间
			if (_table.size() == 0)
			{
				_table.resize(10);
			}
			//负载因子为0.7，当已存数据/表大小 >= 7时扩容
			else if(_size*10 / _table.size() >= 7) 
			{
				//老板思维，创建一个新的哈希表，
				//由于提前设置好表大小，所以新的哈希表不会扩容
				//然后调用Insert(),复用了代码
				HashTable<K, V> new_hash;
				new_hash._table.resize(_table.size() * 2);
				for (size_t i = 0; i < _table.size(); i++)
				{
					if (_table[i]._st == EXIST)
					{
						new_hash.Insert(_table[i]._kv);
					}
				}
				std::swap(_table, new_hash._table);
				
			}
			size_t pos = Hash()(kv.first) % _table.size();
			size_t i = pos;
			//寻找不存在数据的位置
			while (_table[i]._st == EXIST)
			{
				//如果已有此key值，表明违反key值唯一规则
				if (_table[i]._kv.first == kv.first)
				{
					return false;
				}
				i = (i + 1) % _table.size();
			}
			_size++;
			_table[i]._kv = kv;
			_table[i]._st = EXIST;
			return true;
		}
		std::pair<K, V>* Find(const K& key)
		{
			if (_size == 0) return nullptr;
			size_t pos = Hash()(key) % _table.size();
			size_t i = pos;
			//从映射位置找到第一个为空位置
			//如果元素值匹配且存在，则找到，否则找不到
			while (_table[i]._st != EMPTY)
			{
				if (_table[i]._kv.first == key && _table[i]._st == EXIST)
				{
					return &_table[i]._kv;
				}

				i = (i + 1) % _table.size();
				//有可能整个表没有空，只有存在和删除
				//这里有一个坑，有可能表中所有项都是EXIST或者DELETE,则会死循环，需要特判
				if (i == pos) return nullptr;
			}
			return nullptr;
		}
		bool Erase(const K& key)
		{
			//如果哈希表里没有值，则直接返回
			if (_size == 0)
				return false;
			//找到映射位置
			size_t pos = Hash()(key) % _table.size();
			//线性探测
			size_t i = pos;
			while(_table[i]._st != EMPTY)
			{
				if (_table[i]._kv.first == key)
				{
					if (_table[i]._st == DELETE) return false;
					else
					{
						_size--;
						_table[i]._st = DELETE;
					}
				}
				i = (i + 1) % _table.size();
				//如果遍历一遍都没找到，说明没有
				if (i == pos)
					return false;
			}
			return false;
		}
	private:
		std::vector<HashData<K,V>> _table;
		size_t _size = 0;
	};

5.2 开散列

5.2.1 开散列概念

开散列法又叫链地址法(拉链法)，首先对关键码集合用散列函数计算散列地址，具有相同地址的关键码归于同一子集合，每一个子集合称为一个桶，各个桶中的元素通过一个单链表链接起来，各链表的头结点存储在哈希表中。


从上图可以看出，开散列中每个桶中放的都是发生哈希冲突的元素。

5.2.2 开散列代码实现

1. 数据项

template<class K,class V>
struct HashNode {
	HashNode* _next;
	std::pair<K,V> _kv;
	HashNode(const std::pair<K,V>& kv, HashNode* next = nullptr)
		:_kv(kv),
		_next(next)
	{}
};

2. 哈希表

template<class K,class V>
class HashTable {
	typedef HashNode<K, V> Node;

public:
	~HashTable()
	{
		//遍历每个桶，删除所连所有节点
		for (size_t i = 0; i < _table.size(); i++)
		{
			if (_table[i] == nullptr) continue;
			Node* cur = _table[i];
			while (cur)
			{
				Node* next = cur->_next;
				delete cur;
				cur = next;
			}
			_table[i] = nullptr;
		}
	}
	bool Insert(const std::pair<K, V>& kv)
	{
		//如果值已存在，则返回
		if (Find(kv.first) != nullptr) return false;
		//初始化表大小
		if (_table.size() == 0)
		{
			_table.resize(10,nullptr);
		}
		else if (_size == _table.size()) //节点数等于桶数时需要扩容
		{
			//老板思维，构造新表，复用Insert()来新增节点，析构来释放旧节点
			HashTable new_hash;
			new_hash._table.resize(_table.size() * 2);
			for (size_t i = 0; i < _table.size(); i++)
			{
				if (_table[i] == nullptr) continue;
				Node* cur = _table[i];
				while (cur)
				{
					new_hash.Insert(cur->_kv);
					cur = cur->_next;
				}
			}
			_table.swap(new_hash._table);
		}
		size_t pos = kv.first % _table.size();
		//如果有节点，则将新节点头插（也可以尾插，但是头插效率更高）
		Node* new_node = new Node(kv);
		new_node->_next = _table[pos];
		_table[pos] = new_node;
		_size++;
		return true;
	}
	std::pair<K, V>* Find(const K& key)
	{
		if (_size == 0) return nullptr;
		size_t pos = key % _table.size();
		Node* cur = _table[pos];
		while (cur)
		{
			if (cur->_kv.first == key) return &cur->_kv;
			cur = cur->_next;
		}
		return nullptr;
	}
	bool Erase(const K& key)
	{
		if (_size == 0) return false;
		size_t pos = key % _table.size();
		Node* prev = nullptr;
		Node* cur = _table[pos];
		while (cur)
		{
			if (cur->_kv.first == key)
			{
				if (prev == nullptr)
				{
					_table[pos] = nullptr;
				}
				else
				{
					prev->_next = cur->_next;
				}

				delete cur;
				_size--;
				return true;
			}
			prev = cur;
			cur = cur->_next;
		}
		return false;
	}
private:
	std::vector<Node*> _table;		
	size_t _size = 0;// 存储有效数据个数
};

5.2.3 开散列的增容

桶的个数是一定的，随着元素的不断插入，每个桶中元素的个数不断增多，极端情况下，可能会导致一个桶中链表节点非常多，会影响的哈希表的性能，因此在一定条件下需要对哈希表进行增容，那该条件怎么确认呢？开散列最好的情况是：每个哈希桶中刚好挂一个节点，再继续插入元素时，每一次都会发生哈希冲突，因此，在元素个数刚好等于桶的个数时，可以给哈希表增容。（STL就是这么设置的）

5.2.4 开散列的思考

1. 只能存储key为整形的元素，其他类型怎么解决？
   哈希函数采用处理余数法，被模的key必须要为整形才可以处理，此处提供将key转化为整形的方法，整形数据不需要转化
   例如：字符串转整型的哈希函数：

// key为字符串类型，需要将其转化为整形
class Str2Int
{
public:
	size_t operator()(const string& s)
	{
		const char* str = s.c_str();
		unsigned int seed = 131; // 31 131 1313 13131 131313
		unsigned int hash = 0;
		while (*str)
		{
		hash = hash * seed + (*str++);
		}
		return (hash & 0x7FFFFFFF);
	}
};

2. 除留余数法，最好模一个素数，如何每次快速取一个类似两倍关系的素数？

size_t GetNextPrime(size_t prime)
{
	const int PRIMECOUNT = 28;
	static const size_t primeList[PRIMECOUNT] =
	{
	53ul, 97ul, 193ul, 389ul, 769ul,
	1543ul, 3079ul, 6151ul, 12289ul, 24593ul,
	49157ul, 98317ul, 196613ul, 393241ul, 786433ul,
	1572869ul, 3145739ul, 6291469ul, 12582917ul,
	25165843ul,
	50331653ul, 100663319ul, 201326611ul, 402653189ul,
	805306457ul,
	1610612741ul, 3221225473ul, 4294967291ul
	};
	size_t i = 0;
	for (; i < PRIMECOUNT; ++i)
	{
		if (primeList[i] > prime)
		return primeList[i];
	}
	return primeList[i];
}

采用类似于打表的方式，将可能用到素数提前写出来，当要扩容时，在表中找到第一个大于要扩容的大小的素数，lower_bound(); (STL是这么做的）

5.3 开散列与闭散列的比较

应用链地址法处理溢出，需要增设链接指针，似乎增加了存储开销。
事实上：由于开地址法必须保持大量的空闲空间以确保搜索效率，如二次探查法要求装载因子a<=0.7，而表项所占空间又比指针大的多，所以使用链地址法反而比开地址法节省存储空间。

6. 总结

一个类型能作为Hash的Key值的两个条件：

• Key能够等于比较或者提供等于比较的仿函数
• Key类型能转换成整型取模，或者提供转换成整型的仿函数

哈希是一种思想，这种思想非常重要，在实际生活中被广泛应用，下一篇我将介绍哈希的典型应用，包括：哈希表封装成unordered_map、unordered_set，位图，布隆过滤器等等