ReduceTask阶段

旧城等待， 2022-02-17 16:28 236阅读 0赞

### ReduceTask阶段 ###

*  1.图解
 *  2.数据输出介绍
 *  3.设置ReduceTask并行度（个数）
 *  4.注意事项

# 1.图解 #

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM5NjU3OTA5_size_16_color_FFFFFF_t_70]  
**Copy阶段**：ReduceTask从各个MapTask上远程拷贝一片数据，并针对某一片数据，如果其大小超过一定阈值，则写到磁盘上，否则直接放到内存中。  
**Merge阶段**：在远程拷贝数据的同时，ReduceTask启动了两个后台线程对内存和磁盘上的文件进行合并，以防止内存使用过多或磁盘上文件过多。  
**Sort阶段**：按照MapReduce语义，用户编写reduce()函数输入数据是按key进行聚集的一组数据。为了将key相同的数据聚在一起，Hadoop采用了基于排序的策略。由于各个MapTask已经实现对自己的处理结果进行了局部排序，因此，ReduceTask只需对所有数据进行一次归并排序即可。  
**Reduce阶段**：reduce()函数将计算结果写到HDFS上。

# 2.数据输出介绍 #

OutputFormat是MapReduce输出的基类，所有实现MapReduce输出都实现了 OutputFormat接口。  
**文本输出TextOutputFormat**：默认的输出格式是TextOutputFormat，它把每条记录写为文本行。它的键和值可以是任意类型，因为TextOutputFormat调用toString()方法把它们转换为字符串。  
**SequenceFileOutputFormat**：将SequenceFileOutputFormat输出作为后续 MapReduce任务的输入，这便是一种好的输出格式，因为它的格式紧凑，很容易被压缩  
**自定义OutputFormat**：为了实现控制最终文件的输出路径和输出格式，可以自定义OutputFormat。

# 3.设置ReduceTask并行度（个数） #

ReduceTask的并行度同样影响整个job的执行并发度和执行效率，但与MapTask的并发数由切片数决定不同，Reducetask数量的决定是可以直接手动设置：

//默认值是1，手动设置为4
    job.setNumReduceTasks(4);

# 4.注意事项 #

1.  ReduceTask=0，表示没有Reduce阶段，输出文件个数和Map个数一致
2.  ReduceTask默认值就是1，所以输出文件个数为一个
3.  如果数据分布不均匀，就有可能在Reduce阶段产生数据倾斜
4.  ReduceTask数量并不是任意设置，还要考虑业务逻辑需求，有些情况下，需要计算全局汇总结果，就只能有1个ReduceTask
5.  具体多少个ReduceTask，需要根据集群性能而定
6.  如果分区数不是1，但是ReduceTask为1，是否执行分区过程。答案是：不执行分区过程。因为在MapTask的源码中，执行分区的前提是先判断reduceNum个数是否大于1。不大于1肯定不执行

***版权声明：本博客为记录本人自学感悟，转载需注明出处！  
[https://me.csdn.net/qq\_39657909][https_me.csdn.net_qq_39657909]***

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM5NjU3OTA5_size_16_color_FFFFFF_t_70]: /images/20220217/96391374d3584cbdaea7c32009e9c798.png
[https_me.csdn.net_qq_39657909]: https://me.csdn.net/qq_39657909