大数据Spark教程从入门到精通第一篇：Spark概述

小鱼儿 2024-05-24 12:57 92阅读 0赞

## 一：Spark概述 ##

### 1：Spark是什么？ ###

Spark 是一种基于内存的快速、通用、可扩展的大数据分析计算引擎。

### 2：Spark和Hadoop ###

这两个都是计算框架，都有自己的生态圈

Hadoop.是由java语言编写的，在分布式服务器集群上存储海量数据并运行分布式分析应用的开源框架

作为 Hadoop分布式文件系统，HDFS 处于 Hadoop生态圈的最下层，存储着所有的数据，支持着Hadoop的所有服务。它的理论基础源于 Google 的TheGoogleFileSystem 这篇论文，它是 GFS 的开源实现。

MapReduce ,是一种编程模型，Hadoop 根据 Google 的 MapReduce 论文将其实现，作为 Hadoop,的分布式计算模型，是 Hadoop,的核心。基于这个框架，分布式并行程序的编写变得异常简单。综合了HDFS 的分布式存储和 MapReduce的分布式计算，Hadoop在处理海量数据时，性能横向扩展变得非常容易。

HBase是对 Google 的 Bigtable的开源实现，但又和 Bigtable 存在许多不同之处。HBase,是一个基于 HDFS 的分布式数据库，擅长实时地随机读/写超大规模数据集。它也是 Hadoop非常重要的组件

Spark 是一种由 Scala,语言开发的快速、通用、可扩展的大数据分析引擎

Spark Core 中提供了 Spark 最基础与最核心的功能

Spark SQL 是 Spark 用来操作结构化数据的组件。通过 SparkSQL，用户可以使用SOL 或者 Apache Hive 版本的 SOL 方言(HOL)来查询数据

Spark Streaming 是 Spark 平台上针对实时数据进行流式计算的组件，提供了丰富的处理数据流的 API。

Hadoop的 MR 框架和 Spark 框架都是数据处理框架，那么我们在使用时如何选择呢?

Hadoop MapReduce(设计初衷是为了一次性数据运算)由于其设计初衷并不是为了满足循环迭代式数据流处理，因此在多并行运行的数据可复用场景(如:机器学习、图挖掘算法、交互式数据挖掘算法)中存在诸多计算效率等问题。所以 Spark 应运而生，Spark 就是在传统的 MapReduce 计算框架的基础上，利用其计算过程的优化，从而大大加快了数据分析、挖掘的运行和读写速度，并将计算单元缩小到更适合并行计算和重复使用的 RDD 计算模型

一次性数据计算：从存储设备中读取数据，进行逻辑操作，然后结果重新存储到介质中。

机器学习中 ALS、凸优化梯度下降等。这些都需要基于数据集或者数据集的衍生数据反复查询反复操作。MR 这种模式不太合适，即使多 MR 串行处理，性能和时间也是个问题。数据的共享依赖于磁盘。另外一种是交互式数据挖掘，MR 显然不擅长。而Spark 所基于的 scala,语言恰恰擅长函数的处理。

Spark 是一个分布式数据快速分析项目。它的核心技术是弹性分布式数据集(ResilientDistributed Datasets)，提供了比 MapReduce 丰富的模型，可以快速在内存中对数据集进行多次迭代，来支持复杂的数据挖掘算法和图形计算算法。Spark和 Hadoop的根本差异是多个作业之间的数据通信问题：Spark 多个作业之间数据通信是基于内存，而 Hadoop,是基于磁盘。

Spark Task 的启动时间快。Spark 采用 fork 线程的方式，而 Hadoop,采用创建新的进程的方式。  
Spark 只有在 shuffle 的时候将数据写入磁盘，而 Hadoop,中多个 MR 作业之间的数据交互都要依赖于磁盘交互

Spark 的缓存机制比 HDFS 的缓存机制高效。