TreeMap常见问题
文章目录
- 一. 回顾
- 二. 常见问题
- 2.1 如何用TreeMap实现一致性hash?
- 2.1.1 什么是MemCache?
- MemCache访问模型
- 2.1.2 MemCache一次写缓存的流程:
- 2.1.3 一致性hash算法的由来
- 2.1.4 一致性hash算法原理
- 2.1.5 虚拟结点
- 2.1.6 例子
一. 回顾
前面TreeMap原理(浅谈)了解了TreeMap的实现。现对TreeMap常见问题作一下总结
本文仅供自己参考,如有错误请指正
二. 常见问题
2.1 如何用TreeMap实现一致性hash?
一致性hash,笔者综合博客文章,它是源自MemCache引发的。
MemCache的详细介绍参考:MemCache详细解读
2.1.1 什么是MemCache?
MemCache是一个内存对象缓存系统。用于动态web应用以减轻数据的负载。通过在内存中缓存数据和对象减少访问数据库的次数,从而提高网站访问的速度。MemCache是一个存储键值对的HashMap
MemCache访问模型
2.1.2 MemCache一次写缓存的流程:
- 应用程序输入需要写缓存的数据
- API将Key输入路由算法模块,路由算法根据Key和MemCache集群服务器列表得到一台服务器编号
- 由服务器编号得到MemCache及其的ip地址和端口号
- API调用通信模块和指定编号的服务器通信,将数据写入该服务器,完成一次分布式缓存的写操作
2.1.3 一致性hash算法的由来
2.1.4 一致性hash算法原理
以上内容参考自 MemCache详细解读
2.1.5 虚拟结点
虚拟结点内容源自:手动实现一致性 Hash 算法
2.1.6 例子
使用TreeMap实现一致性hash算法
class Shard<S> { // S类封装了机器节点的信息 ,如name、password、ip、port等
private TreeMap<Long, S> nodes; // 虚拟节点
private List<S> shards; // 真实机器节点
private final int NODE_NUM = 100; // 每个机器节点关联的虚拟节点个数
public Shard(List<S> shards) {
super();
this.shards = shards;
init();
}
private void init() { // 初始化一致性hash环
nodes = new TreeMap<Long, S>();
for (int i = 0; i != shards.size(); ++i) { // 每个真实机器节点都需要关联虚拟节点
final S shardInfo = shards.get(i);
for (int n = 0; n < NODE_NUM; n++)
// 一个真实机器节点关联NODE_NUM个虚拟节点
nodes.put(hash("SHARD-" + i + "-NODE-" + n), shardInfo);
}
}
public S getShardInfo(String key) {
SortedMap<Long, S> tail = nodes.tailMap(hash(key)); // 沿环的顺时针找到一个虚拟节点
if (tail.size() == 0) {
return nodes.get(nodes.firstKey());
}
return tail.get(tail.firstKey()); // 返回该虚拟节点对应的真实机器节点的信息
}
/** * MurMurHash算法,是非加密HASH算法,性能很高, * 比传统的CRC32,MD5,SHA-1(这两个算法都是加密HASH算法,复杂度本身就很高,带来的性能上的损害也不可避免) * 等HASH算法要快很多,而且据说这个算法的碰撞率很低. * http://murmurhash.googlepages.com/ */
private Long hash(String key) {
ByteBuffer buf = ByteBuffer.wrap(key.getBytes());
int seed = 0x1234ABCD;
ByteOrder byteOrder = buf.order();
buf.order(ByteOrder.LITTLE_ENDIAN);
long m = 0xc6a4a7935bd1e995L;
int r = 47;
long h = seed ^ (buf.remaining() * m);
long k;
while (buf.remaining() >= 8) {
k = buf.getLong();
k *= m;
k ^= k >>> r;
k *= m;
h ^= k;
h *= m;
}
if (buf.remaining() > 0) {
ByteBuffer finish = ByteBuffer.allocate(8).order(
ByteOrder.LITTLE_ENDIAN);
// for big-endian version, do this first:
// finish.position(8-buf.remaining());
finish.put(buf).rewind();
h ^= finish.getLong();
h *= m;
}
h ^= h >>> r;
h *= m;
h ^= h >>> r;
buf.order(byteOrder);
return h;
}
}
例子源自:一致性hash-java实现treemap版
还没有评论,来说两句吧...