SparkCore-RDD的概述，特性，核心属性，执行原理介绍

淡淡的烟草味﹌ 2022-12-04 09:21 165阅读 0赞

### 文章目录 ###

*  RDD的概述、特性
 *  核心属性
 *   *   *  分区列表
         *  分区计算函数
         *  RDD之间的依赖关系
         *  分区器（可选）
         *  首选位置（可选）
 *  执行原理

# RDD的概述、特性 #

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzMyNzI3MDk1_size_16_color_FFFFFF_t_70_pic_center]

RDD（Resilient Distributed Dataset）叫做弹性分布式数据集，是Spark中最基本的一种数据处理的模型。

代码中是一个抽象类，它代表一个弹性的、不可变、可分区、里面的元素可并行计算的集合。

RDD 是 Spark 提供的最重要的抽象概念，它是一种有容错机制的特殊数据集合，可以分布在集群的结点上，以函数式操作集合的方式进行各种并行操作。

本质上是一个只读的分区记录集合。每个 RDD 可以分成多个分区，每个分区就是一个数据集片段。一个 RDD 的不同分区可以保存到集群中的不同结点上，从而可以在集群中的不同结点上进行并行计算

*  弹性
    
     *  存储的弹性：计算过程中内存不够时，它会和磁盘进行数据交换（内存与磁盘的自动切换）
     *  容错的弹性：数据丢失可以自动恢复；
     *  计算的弹性：计算出错重试机制；
     *  分片的弹性：可以根据数据的变化，多次改变分区的数量，已最后一次提交的job分区为结果；
 *  分布式（可分区）：每个 RDD 可以分成多个分区，每个分区就是一个数据集片段，一个 RDD 的不同分区可以保存到集群中的不同结点上，从而可以在集群中的不同结点上进行并行计算
 *  数据集：RDD封装了计算逻辑，并不保存数据
 *  数据抽象：RDD是一个抽象类，需要子类具体实现
 *  不可变：RDD封装的是计算逻辑（不是数据），每个RDD一旦生成，是不可以改变的，若要对其修改逻辑，就会产生新的RDD

小结：一个 RDD 可以简单的理解为一个分布式的元素集合，

每个 RDD 可以分成多个分区，每个分区可以在集群中不同的节点上进行计算；

RDD 表示只读的数据集，对 RDD 进行改动，只能通过 RDD 的转换操作，得到新的 RDD，并不会对原本的 RDD 有任何影响；

在 Spark 中，所有的工作都是以操作 RDD 为主，要么是创建 RDD，要么是转换已经存在 RDD 成为新的 RDD，要么在 RDD 上去执行一些操作来得到一些计算结果；

# 核心属性 #

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzMyNzI3MDk1_size_16_color_FFFFFF_t_70_pic_center 1]  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzMyNzI3MDk1_size_16_color_FFFFFF_t_70_pic_center 2]

### 分区列表 ###

RDD中的分区，即数据集的基本组成单位，每个分区可以运行在不同节点上；

对于RDD来说，每个分片都会被一个计算任务处理，并决定并行计算的粒度，是实现分布式计算的重要属性。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzMyNzI3MDk1_size_16_color_FFFFFF_t_70_pic_center 3]

### 分区计算函数 ###

一个计算每个分区的函数。Spark中RDD的计算是以分片为单位的，相同的计算逻辑应用在不同分区中（即每个分区的计算逻辑是相同的）；

每个RDD都会实现compute函数以达到这个目的。compute函数会对迭代器进行复合，不需要保存每次计算的结果  
![在这里插入图片描述][2020090720150740.png_pic_center]

### RDD之间的依赖关系 ###

当需求中需要将多个计算模型进行组合时，就需要将多个RDD建立依赖关系；

RDD的每次转换都会生成一个新的RDD，所以RDD之间就会形成类似于流水线一样的前后依赖关系。

在部分分区数据丢失时，Spark可以通过这个依赖关系重新计算丢失的分区数据，而不是对RDD的所有分区进行重新计算。  
![在这里插入图片描述][20200907201622447.png_pic_center]

### 分区器（可选） ###

RDD的分区函数，即对数据的分区规则。主要有两种分区函数，一个是`基于哈希的HashPartitioner（默认）`，另外一个是`基于范围的RangePartitioner`。

只有key-value类型的RDD，才会有Partitioner，非key-value的RDD的Parititioner的值是None。

Partitioner函数不但决定了RDD本身的分区数量，也决定了parent RDD Shuffle输出时的分区数量。  
![在这里插入图片描述][20200907202640495.png_pic_center]

### 首选位置（可选） ###

计算数据的位置 （本地化级别），可以设置数据读取的偏好位置，用来将Task发送给指定的节点，就近原则（节省网络IO）

对于一个HDFS文件来说，这个列表保存的就是每个Partition所在的块的位置。

按照“移动数据不如移动计算”的理念，Spark在进行任务调度的时候，会尽可能地将计算任务分配到其所要处理数据块的存储位置。  
![在这里插入图片描述][20200907203635172.png_pic_center]

# 执行原理 #

TODO

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzMyNzI3MDk1_size_16_color_FFFFFF_t_70_pic_center]: /images/20221123/30f741c6c2034df9a1bc0058c94070c5.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzMyNzI3MDk1_size_16_color_FFFFFF_t_70_pic_center 1]: /images/20221123/20a6918636224a6da1bab33bb58b0ac1.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzMyNzI3MDk1_size_16_color_FFFFFF_t_70_pic_center 2]: /images/20221123/21fec4c6907c4e099ee8d1d33a900166.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzMyNzI3MDk1_size_16_color_FFFFFF_t_70_pic_center 3]: /images/20221123/b6aae61f730e4623b48f7d5fda74fb64.png
[2020090720150740.png_pic_center]: /images/20221123/8b6bfacf3d11441789b0789249d5d4a9.png
[20200907201622447.png_pic_center]: /images/20221123/138a987cfc5c4663b1a0567770e17d84.png
[20200907202640495.png_pic_center]: /images/20221123/febd452ab3c54893be3ed11433fc8774.png
[20200907203635172.png_pic_center]: /images/20221123/3c8b3f2107f14f9491fa26744cd1dd4f.png