hdfs-数据流之写入

r囧r小猫 2022-11-30 12:34 184阅读 0赞

根据下图介绍HDFS的写入流程。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTgwNDA0OQ_size_16_color_FFFFFF_t_70][]

# 步骤 #

### 1. create ###

客户端通过对`DistributedFileSystem`对象调用`create()`方法来发起创建文件流程。

### 2. create ###

`DistributedFileSystem`对象对`namenode`创建一个RPC调用，在文件系统中的命名空间中创建一个文件，此时还没有对此文件创建相应的数据块。`namenode`执行各种检查确保这个文件不存在以及客户端有新建该文件的权限。如果检查通过`namenode`就会创建这个文件并添加一条记录。否则，文件创建失败并向客户端抛出`IOException`异常。`DistributedFileSystem`对象向客户端返回一个`FSDataOutputStream`对象。

### 3. write ###

客户端获得`FSDataOutputStream`对象后，开始写入数据。和读取数据一样`FSDataOutputStream`封装了`DFSOutputStream`对象，该对象负责处理`datanode`和`namenode`之间的通讯。

### 4. write packet ###

`DFSOutputStream`将写入的数据分成一个个的数据包并写入内部队列，称为“数据队列”。`DataStreamer`处理数据队列，它的挑选出一组合适存储数据的`datanode`，`namenode`根据这些信息来分配新的数据块。假设副本数为3，则写入需要涉及3个`datanode`。`DataStreamer`将数据包流式写入第一个`datanode`中，并且第一个会将数据转发给第二个`datanode`。同样，第二个也会将数据转发给第三个`datanode`。

### 5. ack packet ###

`DFSOutputStream`也维护着一个内存数据包队列来等待`datanode`收到数据的确认回执，称为“确认队列”。收到所有`datanode`确认信息后，该数据包才会从确认队列删除。如果任何`datanode`写入数据中发生故障，则执行以下操作。

1.  关闭错误的写入流。确认把队列中的所有数据包都添加回数据队列的最前端，等待重新发送，确保故障发生节点以后的`datanode`不会漏掉任何一个数据包。
2.  当前数据块可能已经正常写入一些节点，则对这些数据块指定一个新的标识，并将该表示传递给`namenode`，便于故障`datanode`可以删除存储的部分数据块。
3.  删除故障的`datanode`，选择两个正常的`datanode`构建一条新的管线。余下的数据块写入管线中正常的`datanode`。`namenode`注意到块副本量不足时，会在另一个节点上创建一个新的副本。

### 6. close ###

客户端完成数据的写入后，对数据流调用`close()`方法。

### 7. complete ###

通知`namenode`所有文件写入完成后完成写入操作。

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTgwNDA0OQ_size_16_color_FFFFFF_t_70]: /images/20221123/cf05286573f24f6aaf77b33c18ceb3de.png