NameNode 和和 SecondaryNameNode工作机制

Bertha 。 2022-08-31 07:22 232阅读 0赞

## 1、引入问题：NameNode 中的元数据是存储在哪里的？ ##

首先，我们做个假设，如果存储在 NameNode 节点的磁盘中，因为经常需要进行随机访问，还有响应客户请求，必然是效率过低。因此，元数据需要存放在内存中。但如果只存在内存中，一旦断电，元数据丢失，整个集群就无法工作了。**因此产生在磁盘中备份元数据的FsImage**。

这样又会带来新的问题，当在内存中的元数据更新时，如果同时更新FsImage，就会导致效率过低，但如果不更新，就会发生一致性问题，一旦 NameNode 节点断电，就会产生数据丢失。\*\*因此，引入 Edits 文件（只进行追加操作，效率很高）。每当元数据有更新或者添加元数据时，修改内存中的元数据并追加到 Edits 中。\*\*这样，一旦 NameNode 节点断电，可以通过 FsImage 和 Edits 的合并，合成元数据。

但是，如果长时间添加数据到 Edits 中，会导致该文件数据过大，效率降低，而且一旦断电，恢复元数据需要的时间过长。因此，需要定期进行 FsImage 和 Edits 的合并，如果这个操作由NameNode节点完成，效率过低。**因此，引入一个新节点SecondaryNamenode，专门用于 FsImage 和 Edits 的合并。**

## 2、namenode和SecondaryNameNode工作机制 ##

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3pob3U0NDExNzgx_size_16_color_FFFFFF_t_70]  
**第一 阶段：NameNode 启动**  
（1）第一次启动 NameNode 格式化后，创建 Fsimage 和 Edits 文件。如果不是第一次启动，直接加载编辑日志和镜像文件到内存。  
（2）客户端对元数据进行增删改的请求。  
（3）NameNode 记录操作日志，更新滚动日志。  
（4）NameNode 在内存中对元数据进行增删改。

**第二 阶段：Secondary NameNode 工作**  
（1）Secondary NameNode 询问 NameNode 是否需要 CheckPoint。直接带回 NameNode是否检查结果。  
（2）Secondary NameNode 请求执行 CheckPoint。  
（3）NameNode 滚动正在写的 Edits 日志。  
（4）将滚动前的编辑日志和镜像文件拷贝到 Secondary NameNode。  
（5）Secondary NameNode 加载编辑日志和镜像文件到内存，并合并。  
（6）生成新的镜像文件 fsimage.chkpoint。  
（7）拷贝 fsimage.chkpoint 到 NameNode。  
（8）NameNode 将 fsimage.chkpoint 重新命名成 fsimage。

## 3、Fsimage和Edits概念 ##

NameNode被格式化之后，将在/opt/module/hadoop-3.1.3/data/tmp/dfs/name/current目录中产生如下文件  
（1）Fsimage文件：HDFS文件系统元数据的一个永久性的检查点，其中包含HDFS文件系统的所有目录和文件inode的序列化信息。

fsimage_0000000000000000000
    fsimage_0000000000000000000.md5
    seen_txid
    VERSION

（2）Edits文件：存放HDFS文件系统的所有更新操作的路径，文件系统客户端执行的所有写操作首先会被记录到Edits文件中。  
（3）seen\_txid文件保存的是一个数字，就是最后一个edits\_的数字  
（4）每次NameNode启动的时候都会将Fsimage文件读入内存，加载Edits里面的更新操作，保证内存中的元数据信息是最新的、同步的，可以看成NameNode启动的时候就将Fsimage和Edits文件进行了合并。

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3pob3U0NDExNzgx_size_16_color_FFFFFF_t_70]: /images/20220829/f4d89f4f98ce46669e2e687920c13bae.png