大数据01

电玩女神 2022-06-01 06:24 229阅读 0赞

## 1、大数据 ##

> 大数据（big data），指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。\[1\] 
> 
> 在[维克托·迈尔-舍恩伯格][-]及肯尼斯·库克耶编写的《[大数据时代][Link 1]》\[2\]  中大数据指不用随机分析法（[抽样调查][Link 2]）这样捷径，而采用所有数据进行分析处理。大数据的5V特点（IBM提出）：Volume（大量）、Velocity（高速）、Variety（多样）、Value（低价值密度）、Veracity（真实性）

## 2、数据仓库 ##

> 企业的数据处理大致分为两类。一类是操作型处理，也叫联机事务处理（OnLine Transaction Processing，OLTP），它是针对具体业务在数据库联机的日常操作，通常对少数记录进行查询、修改。用户较为关心操作的响应时间、数据的安全性、完整性和并发支持的用户数等问题。传统的数据库系统作为数据管理的主要手段，主要用于操作型处理。另一类是分析型处理，一般针对某些主题的历史数据进行分析，支持管理决策。
> 
> （1）处理性能。日常业务涉及频繁、简单的数据存取，因此对操作型处理的性能要求较高，需要数据库在很短时间内做出响应。与操作型处理不同，分析型处理对系统的响应并不要求那么苛刻。有的分析甚至可能需要几个小时，耗费大量的系统资源。  
> （2）数据集成。企业的操作型处理通常较为分散，传统数据库面向应用的特性使数据集成困难。数据分散，缺乏一致性，外部数据和非结构化数据的存在使得很难得到全面、准确的数据；而分析型处理是面向主题的，经过加工和集成后的数据全面、准确，可以有效支持分析。  
> （3）数据更新。操作型处理主要由原子事务组成，数据更新频繁，需要并行控制和恢复机制。但分析型处理包含复杂的查询，大部分是只读操作。过时的数据往往会导致错误的决策，因此对分析型处理数据需要定期刷新。  
> （4）数据时限。操作型处理主要服务于日常的业务操作，因此只关注当前的数据。而对于决策分析而言，对历史数据的分析处理则是必要的，这样才能准确把握企业的发展趋势，从而制定正确的决策。  
> （5）数据综合。操作型处理系统通常只有简单的统计功能。操作型处理积累了大量的细节数据，对这些数据进行不同程度的汇总和聚集有助于以后的分析处理。
> 
> **数据仓库的概念**  
>  从本质上讲，设计数据仓库的初衷是为操作型系统过渡到决策支持系统提供一种工具或整个企业范围内的数据集成环境，并尝试解决数据流相关的各种问题。这些问题包括如何从传统的操作型处理系统中提取与决策主题相关的数据，如何经过转换把分散的、不一致的业务数据转换成集成的、低噪声的数据等。  
> Bill Inmon 认为数据仓库就是面向主题的（Subject-Oriented ）、集成的（Integrated）、非易失的（Non-Volatile）和时变的（Time-Variant ）数据集合，用以支持管理决策 。数据仓库不是可以买到的产品，而是一种面向分析的数据存储方案。对于数据仓库的概念可以从两个层次理解：首先，数据仓库用于支持决策，面向分析型数据处理，不同于提高业务效率的操作型数据库；其次，数据仓库对分布在企业中的多个异构数据源集成，按照决策主题选择数据并以新的数据模型存储。此外，存储在数据仓库中的数据一般不能修改。  
> 数据仓库主要有以下特征。
> 
> 1．面向主题  
>  在操作型数据库中，各个业务系统可能是相互分离的。而数据仓库是面向主题的。逻辑意义上，每一个商业主题对应于企业决策包含的分析对象。从图3.1 中可以看出，一个保险公司的数据仓库的主题可能有顾客、政策、保险金和索赔等。
> 
>  ![img][]  
>  操作型处理对数据的划分并不适用于决策分析。而基于主题组织的数据则不同，它们被划分为各自独立的领域，每个领域有各自的逻辑内涵但互不交叉，在抽象层次上对数据进行完整、一致和准确的描述。一些主题相关的数据通常分布在多个操作型系统中。
> 
> 2．集成性  
>  不同操作型系统之间的数据一般是相互独立、异构的。而数据仓库中的数据是对分散的数据进行抽取、清理、转换和汇总后得到的，这样保证了数据仓库内的数据关于整个企业的一致性。图3.2 说明一个保险公司综合数据的简单处理过程，其中数据仓库中与“保险”主题有关的数据来自于多个不同的操作型系统。这些系统内部数据的命名可能不同，数据格式也可能不同。把不同来源的数据存储到数据仓库之前，需要去除这些不一致。
> 
>  ![img][img 1]  
> 3．数据的非易失性  
>  操作型数据库主要服务于日常的业务操作，使得数据库需要不断地对数据实时更新，以便迅速获得当前最新数据，不至于影响正常的业务运作。在数据仓库中只要保存过去的业务数据，不需要每一笔业务都实时更新数据仓库，而是根据商业需要每隔一段时间把一批较新的数据导入数据仓库。事实上，在一个典型的数据仓库中，通常不同类型数据的更新发生的频率是不同的。例如产品属性的变化通常每个星期更新一次，地理位置上的变化通常一个月更新一次，销售数据每天更新一次。  
> 数据非易失性主要是针对应用而言。数据仓库的用户对数据的操作大多是数据查询或比较复杂的挖掘，一旦数据进入数据仓库以后，一般情况下被较长时间保留。数据仓库中一般有大量的查询操作，但修改和删除操作很少。因此，数据经加工和集成进入数据仓库后是极少更新的，通常只需要定期的加载和更新。
> 
> 4．数据的时变性  
>  数据仓库包含各种粒度的历史数据。数据仓库中的数据可能与某个特定日期、星期、月份、季度或者年份有关。数据仓库的目的是通过分析企业过去一段时间业务的经营状况，挖掘其中隐藏的模式。虽然数据仓库的用户不能修改数据，但并不是说数据仓库的数据是永远不变的。分析的结果只能反映过去的情况，当业务变化后，挖掘出的模式会失去时效性。因此数据仓库的数据需要更新，以适应决策的需要。从这个角度讲，数据仓库建设是一个项目，更是一个过程 。数据仓库的数据随时间的变化表现在以下几个方面。  
> （1）数据仓库的数据时限一般要远远长于操作型数据的数据时限。  
> （2）操作型系统存储的是当前数据，而数据仓库中的数据是历史数据。  
> （3）数据仓库中的数据是按照时间顺序追加的，它们都带有时间属性。  
> 数据仓库主要包括数据的提取、转换与装载（ETL ）、元数据、数据集市和操作数据存储等部分，常用的数据仓库结构如图3.3 所示。

## 3、ETL与DataMine区别 ##

> ETL，是英文 Extract-Transform-Load 的缩写，用来描述将数据从来源端经过抽取（extract）、转换（transform）、加载（load）至目的端的过程。ETL一词较常用在[数据仓库][Link 3]，但其对象并不限于数据仓库。
> 
> 两者的具体**区别**在于：  
> （其实数据分析的范围广，包含了数据挖掘，在这里区别主要是指统计分析）
> 
> （1）**数据量上**：数据分析的数据量可能并不大，而数据挖掘的数据量极大。
> 
> （2）**约束上**：数据分析是从一个假设出发，需要自行建立方程或模型来与假设吻合，而数据挖掘不需要假设，可以自动建立方程。
> 
> （3）**对象上**：数据分析往往是针对数字化的数据，而数据挖掘能够采用不同类型的数据，比如声音，文本等。
> 
> （4）**结果上**：数据分析对结果进行解释，呈现出有效信息，数据挖掘的结果不容易解释，对信息进行价值评估，着眼于预测未来，并提出决策性建议。  
> 数据分析是把数据变成信息的工具，数据挖掘是把信息变成认知的工具，如果我们想要从数据中提取一定的规律（即认知）往往需要数据分析和数据挖掘结合使用。

## 4、Hadoop ##

> [Hadoop][]是一个由Apache基金会所开发的[分布式系统][Link 4]基础架构。
> 
> 用户可以在不了解分布式底层细节的情况下，开发分布式程序。充分利用集群的威力进行高速运算和存储。
> 
> \[1\]  Hadoop实现了一个[分布式文件系统][Link 5]（Hadoop Distributed File System），简称HDFS。HDFS有高[容错性][Link 6]的特点，并且设计用来部署在低廉的（low-cost）硬件上；而且它提供高吞吐量（high throughput）来访问[应用程序][Link 7]的数据，适合那些有着超大数据集（large data set）的应用程序。HDFS放宽了（relax）POSIX的要求，可以以流的形式访问（streaming access）文件系统中的数据。
> 
> Hadoop的框架最核心的设计就是：HDFS和MapReduce。HDFS为海量的数据提供了存储，则MapReduce为海量的数据提供了计算
> 
> ### 优点 ###
> 
> Hadoop是一个能够对大量数据进行[分布式处理][Link 8]的[软件][Link 9]框架。 Hadoop 以一种可靠、高效、可伸缩的方式进行数据处理。
> 
> Hadoop 是可靠的，因为它假设计算元素和存储会失败，因此它维护多个工作数据副本，确保能够针对失败的节点重新[分布处理][Link 10]。
> 
> Hadoop 是高效的，因为它以并行的方式工作，通过[并行处理][Link 11]加快处理速度。
> 
> Hadoop 还是可伸缩的，能够处理 [PB][] 级数据。
> 
> 此外，Hadoop 依赖于社区服务，因此它的成本比较低，任何人都可以使用。
> 
> Hadoop是一个能够让用户轻松架构和使用的[分布式计算][Link 12]平台。用户可以轻松地在Hadoop上开发和运行处理海量数据的[应用程序][Link 7]。它主要有以下几个优点：
> 
> 1.  **高可靠性**。Hadoop按位存储和处理数据的能力值得人们信赖。
> 2.  **高扩展性**。Hadoop是在可用的计算机集簇间分配数据并完成计算任务的，这些集簇可以方便地扩展到数以千计的节点中。
> 3.  **高效性**。Hadoop能够在节点之间动态地移动数据，并保证各个节点的[动态平衡][Link 13]，因此处理速度非常快。
> 4.  **高容错性**。Hadoop能够自动保存数据的多个副本，并且能够自动将失败的任务重新分配。
> 5.  **低成本**。与一体机、商用数据仓库以及QlikView、Yonghong Z-Suite等数据集市相比，hadoop是开源的，项目的软件成本因此会大大降低。
> 
> Hadoop带有用[Java][]语言编写的框架，因此运行在 Linux 生产平台上是非常理想的。Hadoop 上的[应用程序][Link 7]也可以使用其他语言编写，比如 [C++][C]。
> 
> **hadoop大数据处理的意义**
> 
> Hadoop得以在大数据处理应用中广泛应用得益于其自身在数据提取、变形和加载(ETL)方面上的天然优势。Hadoop的分布式架构，将大数据处理引擎尽可能的靠近存储，对例如像ETL这样的批处理操作相对合适，因为类似这样操作的批处理结果可以直接走向存储。Hadoop的MapReduce功能实现了将单个任务打碎，并将碎片任务(Map)发送到多个节点上，之后再以单个数据集的形式加载(Reduce)到数据仓库里。\[1\]\[ \]
> 
> ## 核心架构 ##
> 
> [![img][img 2]][img_img 2]
> 
> MapReduce
> 
> \[4\]
> 
> ### HDFS ###
> 
> 对外部客户机而言，[HDFS][]就像一个传统的分级文件系统。可以创建、删除、移动或[重命名][Link 14]文件，等等。但是 HDFS 的架构是基于一组特定的节点构建的（参见图 1），这是由它自身的特点决定的。这些节点包括 NameNode（仅一个），它在 HDFS 内部提供元数据服务；DataNode，它为 HDFS 提供存储块。由于仅存在一个 NameNode，因此这是 HDFS 的一个缺点（单点失败）。
> 
> 存储在 HDFS 中的文件被分成块，然后将这些块复制到多个计算机中（DataNode）。这与传统的 RAID 架构大不相同。块的大小（通常为 64MB）和复制的块数量在创建文件时由客户机决定。NameNode 可以控制所有文件操作。HDFS 内部的所有通信都基于标准的 [TCP/IP][TCP_IP] 协议。
> 
> ### NameNode ###
> 
> NameNode 是一个通常在 [HDFS][] 实例中的单独机器上运行的[软件][Link 9]。它负责管理文件系统[名称空间][Link 15]和控制外部客户机的访问。NameNode 决定是否将文件映射到 DataNode 上的复制块上。对于最常见的 3 个复制块，第一个复制块存储在同一机架的不同节点上，最后一个复制块存储在不同机架的某个节点上。注意，这里需要您了解集群架构。
> 
> 实际的 I/O[事务][Link 16]并没有经过 NameNode，只有表示 DataNode 和块的文件映射的元数据经过 NameNode。当外部客户机发送请求要求创建文件时，NameNode 会以块标识和该块的第一个副本的 DataNode IP 地址作为响应。这个 NameNode 还会通知其他将要接收该块的副本的 DataNode。
> 
> NameNode 在一个称为 FsImage 的文件中存储所有关于文件系统[名称空间][Link 15]的信息。这个文件和一个包含所有事务的[记录文件][Link 17]（这里是 EditLog）将存储在 NameNode 的本地文件系统上。FsImage 和 EditLog 文件也需要复制副本，以防文件损坏或 NameNode 系统丢失。
> 
> NameNode本身不可避免地具有SPOF（Single Point Of Failure）单点失效的风险，主备模式并不能解决这个问题，通过Hadoop Non-stop namenode才能实现100% uptime可用时间。
> 
> ### DataNode ###
> 
> DataNode 也是一个通常在 [HDFS][]实例中的单独机器上运行的软件。Hadoop 集群包含一个 NameNode 和大量 DataNode。DataNode 通常以机架的形式组织，机架通过一个[交换机][Link 18]将所有系统连接起来。Hadoop 的一个假设是：机架内部[节点][Link 19]之间的传输速度快于机架间节点的传输速度。
> 
> DataNode 响应来自 HDFS 客户机的读写请求。它们还响应来自 NameNode 的创建、删除和复制块的命令。NameNode 依赖来自每个 DataNode 的定期心跳（heartbeat）消息。每条消息都包含一个块报告，NameNode 可以根据这个报告验证块映射和其他文件系统元数据。如果 DataNode 不能发送心跳消息，NameNode 将采取修复措施，重新复制在该节点上丢失的块。

[-]: https://baike.baidu.com/item/%E7%BB%B4%E5%85%8B%E6%89%98%C2%B7%E8%BF%88%E5%B0%94-%E8%88%8D%E6%81%A9%E4%BC%AF%E6%A0%BC
[Link 1]: https://baike.baidu.com/item/%E5%A4%A7%E6%95%B0%E6%8D%AE%E6%97%B6%E4%BB%A3/15434499
[Link 2]: https://baike.baidu.com/item/%E6%8A%BD%E6%A0%B7%E8%B0%83%E6%9F%A5
[img]: /images/20220601/ea0217fa09af472fbef479998bfee61d.png
[img 1]: /images/20220601/4b7a46866b464f6daddfbec6d8bc1a22.png
[Link 3]: https://baike.baidu.com/item/%E6%95%B0%E6%8D%AE%E4%BB%93%E5%BA%93
[Hadoop]: https://baike.baidu.com/item/Hadoop
[Link 4]: https://baike.baidu.com/item/%E5%88%86%E5%B8%83%E5%BC%8F%E7%B3%BB%E7%BB%9F
[Link 5]: https://baike.baidu.com/item/%E5%88%86%E5%B8%83%E5%BC%8F%E6%96%87%E4%BB%B6%E7%B3%BB%E7%BB%9F
[Link 6]: https://baike.baidu.com/item/%E5%AE%B9%E9%94%99%E6%80%A7
[Link 7]: https://baike.baidu.com/item/%E5%BA%94%E7%94%A8%E7%A8%8B%E5%BA%8F
[Link 8]: https://baike.baidu.com/item/%E5%88%86%E5%B8%83%E5%BC%8F%E5%A4%84%E7%90%86
[Link 9]: https://baike.baidu.com/item/%E8%BD%AF%E4%BB%B6
[Link 10]: https://baike.baidu.com/item/%E5%88%86%E5%B8%83%E5%A4%84%E7%90%86
[Link 11]: https://baike.baidu.com/item/%E5%B9%B6%E8%A1%8C%E5%A4%84%E7%90%86
[PB]: https://baike.baidu.com/item/PB/399855
[Link 12]: https://baike.baidu.com/item/%E5%88%86%E5%B8%83%E5%BC%8F%E8%AE%A1%E7%AE%97/85448
[Link 13]: https://baike.baidu.com/item/%E5%8A%A8%E6%80%81%E5%B9%B3%E8%A1%A1
[Java]: https://baike.baidu.com/item/Java
[C]: https://baike.baidu.com/item/C%2B%2B
[img 2]: https://gss0.bdstatic.com/-4o3dSag_xI4khGkpoWK1HF6hhy/baike/s%3D220/sign=3b51e7877e1ed21b7dc929e79d6fddae/8326cffc1e178a8205c409d5f503738da877e8cf.jpg
[img_img 2]: /images/20220601/bef272ae9f4049dfb798709ed19f0cdb.png
[HDFS]: https://baike.baidu.com/item/HDFS
[Link 14]: https://baike.baidu.com/item/%E9%87%8D%E5%91%BD%E5%90%8D
[TCP_IP]: https://baike.baidu.com/item/TCP%2FIP
[Link 15]: https://baike.baidu.com/item/%E5%90%8D%E7%A7%B0%E7%A9%BA%E9%97%B4
[Link 16]: https://baike.baidu.com/item/%E4%BA%8B%E5%8A%A1
[Link 17]: https://baike.baidu.com/item/%E8%AE%B0%E5%BD%95%E6%96%87%E4%BB%B6
[Link 18]: https://baike.baidu.com/item/%E4%BA%A4%E6%8D%A2%E6%9C%BA
[Link 19]: https://baike.baidu.com/item/%E8%8A%82%E7%82%B9