TreeMap常见问题

Dear 丶 2023-03-13 15:29 39阅读 0赞

文章目录

  • 一. 回顾
  • 二. 常见问题
    • 2.1 如何用TreeMap实现一致性hash?
      • 2.1.1 什么是MemCache?
          • MemCache访问模型
      • 2.1.2 MemCache一次写缓存的流程:
      • 2.1.3 一致性hash算法的由来
      • 2.1.4 一致性hash算法原理
      • 2.1.5 虚拟结点
      • 2.1.6 例子

一. 回顾

前面TreeMap原理(浅谈)了解了TreeMap的实现。现对TreeMap常见问题作一下总结

本文仅供自己参考,如有错误请指正

二. 常见问题

2.1 如何用TreeMap实现一致性hash?

一致性hash,笔者综合博客文章,它是源自MemCache引发的。

MemCache的详细介绍参考:MemCache详细解读

2.1.1 什么是MemCache?

MemCache是一个内存对象缓存系统。用于动态web应用以减轻数据的负载。通过在内存中缓存数据和对象减少访问数据库的次数,从而提高网站访问的速度。MemCache是一个存储键值对的HashMap

MemCache访问模型

在这里插入图片描述

2.1.2 MemCache一次写缓存的流程:

  1. 应用程序输入需要写缓存的数据
  2. API将Key输入路由算法模块,路由算法根据Key和MemCache集群服务器列表得到一台服务器编号
  3. 由服务器编号得到MemCache及其的ip地址和端口号
  4. API调用通信模块和指定编号的服务器通信,将数据写入该服务器,完成一次分布式缓存的写操作

2.1.3 一致性hash算法的由来

在这里插入图片描述
在这里插入图片描述

2.1.4 一致性hash算法原理

在这里插入图片描述

在这里插入图片描述
以上内容参考自 MemCache详细解读


2.1.5 虚拟结点

在这里插入图片描述

在这里插入图片描述
虚拟结点内容源自:手动实现一致性 Hash 算法

2.1.6 例子

使用TreeMap实现一致性hash算法

  1. class Shard<S> { // S类封装了机器节点的信息 ,如name、password、ip、port等
  2. private TreeMap<Long, S> nodes; // 虚拟节点
  3. private List<S> shards; // 真实机器节点
  4. private final int NODE_NUM = 100; // 每个机器节点关联的虚拟节点个数
  5. public Shard(List<S> shards) {
  6. super();
  7. this.shards = shards;
  8. init();
  9. }
  10. private void init() { // 初始化一致性hash环
  11. nodes = new TreeMap<Long, S>();
  12. for (int i = 0; i != shards.size(); ++i) { // 每个真实机器节点都需要关联虚拟节点
  13. final S shardInfo = shards.get(i);
  14. for (int n = 0; n < NODE_NUM; n++)
  15. // 一个真实机器节点关联NODE_NUM个虚拟节点
  16. nodes.put(hash("SHARD-" + i + "-NODE-" + n), shardInfo);
  17. }
  18. }
  19. public S getShardInfo(String key) {
  20. SortedMap<Long, S> tail = nodes.tailMap(hash(key)); // 沿环的顺时针找到一个虚拟节点
  21. if (tail.size() == 0) {
  22. return nodes.get(nodes.firstKey());
  23. }
  24. return tail.get(tail.firstKey()); // 返回该虚拟节点对应的真实机器节点的信息
  25. }
  26. /** * MurMurHash算法,是非加密HASH算法,性能很高, * 比传统的CRC32,MD5,SHA-1(这两个算法都是加密HASH算法,复杂度本身就很高,带来的性能上的损害也不可避免) * 等HASH算法要快很多,而且据说这个算法的碰撞率很低. * http://murmurhash.googlepages.com/ */
  27. private Long hash(String key) {
  28. ByteBuffer buf = ByteBuffer.wrap(key.getBytes());
  29. int seed = 0x1234ABCD;
  30. ByteOrder byteOrder = buf.order();
  31. buf.order(ByteOrder.LITTLE_ENDIAN);
  32. long m = 0xc6a4a7935bd1e995L;
  33. int r = 47;
  34. long h = seed ^ (buf.remaining() * m);
  35. long k;
  36. while (buf.remaining() >= 8) {
  37. k = buf.getLong();
  38. k *= m;
  39. k ^= k >>> r;
  40. k *= m;
  41. h ^= k;
  42. h *= m;
  43. }
  44. if (buf.remaining() > 0) {
  45. ByteBuffer finish = ByteBuffer.allocate(8).order(
  46. ByteOrder.LITTLE_ENDIAN);
  47. // for big-endian version, do this first:
  48. // finish.position(8-buf.remaining());
  49. finish.put(buf).rewind();
  50. h ^= finish.getLong();
  51. h *= m;
  52. }
  53. h ^= h >>> r;
  54. h *= m;
  55. h ^= h >>> r;
  56. buf.order(byteOrder);
  57. return h;
  58. }
  59. }

例子源自:一致性hash-java实现treemap版

发表评论

表情:
评论列表 (有 0 条评论,39人围观)

还没有评论,来说两句吧...

相关阅读

    相关 Java TreeMap

    TreeMap TreeSet源码里实现的是TreeMap,TreeMap只是比TreeSet多了一个键值。 TreeMap集合按照是可排序、不重复、的键值对集合。(默