Hive笔记1-简介

忘是亡心i 2022-03-02 12:36 220阅读 0赞

## 简介 ##

参考资料：

*  [Hive详细介绍及简单应用][Hive]
 *  [hive核心基本概念][hive]
 *  [Hive简介、什么是Hive、为什么使用Hive、Hive的特点、Hive架构图、Hive基本组成、Hive与Hadoop的关系、Hive与传统数据库对比、Hive数据存储（来自学习资料）][Hive_Hive_Hive_Hive_Hive_Hive_Hive_Hadoop_Hive_Hive]
 *  [Hive入门及常用指令][Hive 1]
 *  [Hive教程][Hive 2]
 *  [Hive学习路线图][Hive 3]

Hive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表，并提供类SQL查询功能。

**为什么使用Hive**

1.  直接使用hadoop所面临的问题
    
     *  人员学习成本太高
     *  项目周期要求太短
     *  MapReduce实现复杂查询逻辑开发难度太大
2.  使用Hive的好处
    
     *  操作接口采用类SQL语法，提供快速开发的能力。
     *  避免了去写MapReduce，减少开发人员的学习成本。
     *  扩展功能很方便。

**Hive的特点**

1.  可扩展
    
    Hive可以自由的扩展集群的规模，一般情况下不需要重启服务。
2.  延展性
    
    Hive支持用户自定义函数，用户可以根据自己的需求来实现自己的函数。
3.  容错
    
    良好的容错性，节点出现问题SQL仍可完成执行。

Hive的适应场景：只适合做**海量离线数据**的统计分析

### **1、Hive与Hadoop的关系** ###

Hive利用HDFS存储数据，利用MapReduce查询数据

![70][]

### **2、Hive与传统数据库对比** ###

**![70 1][]**

1.  **查询语言**。由于 SQL 被广泛的应用在数据仓库中，因此，专门针对 Hive 的特性设计了类 SQL 的查询语言 HQL。熟悉SQL 开发的开发者可以很方便的使用 Hive 进行开发。
2.  数据存储位置。Hive 是建立在 Hadoop 之上的，**所有 Hive 的数据都是存储在 HDFS 中的**。而数据库则可以将数据保存在块设备或者本地文件系统中。
3.  **数据格式**。**Hive 中没有定义专门的数据格式**，数据格式可以由用户指定，用户定义数据格式需要指定三个属性：列分隔符（通常为空格、”\\t”、”\\x001″）、行分隔符（”\\n”）以及读取文件数据的方法（Hive 中默认有三个文件格式 TextFile，SequenceFile 以及 RCFile）。由于在加载数据的过程中，不需要从用户数据格式到 Hive 定义的数据格式的转换，因此，Hive 在加载的过程中不会对数据本身进行任何修改，而只是将数据内容复制或者移动到相应的 HDFS 目录中。而在数据库中，不同的数据库有不同的存储引擎，定义了自己的数据格式。所有数据都会按照一定的组织存储，因此，数据库加载数据的过程会比较耗时。
4.  **数据更新**。由于 Hive 是针对数据仓库应用设计的，而数据仓库的内容是读多写少的。因此，**Hive 中不支持对数据的改写和添加**，所有的数据都是在加载的时候中确定好的。而数据库中的数据通常是需要经常进行修改的，因此可以使用 `INSERT INTO ... VALUES` 添加数据，使用 `UPDATE... SET` 修改数据。
5.  **索引**。之前已经说过，Hive 在加载数据的过程中不会对数据进行任何处理，甚至不会对数据进行扫描，因此也没有对数据中的某些 Key 建立索引。Hive 要访问数据中满足条件的特定值时，需要暴力扫描整个数据，因此访问延迟较高。由于 MapReduce 的引入， **Hive 可以并行访问数据**，因此即使没有索引，对于大数据量的访问，Hive 仍然可以体现出优势。数据库中，通常会针对一个或者几个列建立索引，因此对于少量的特定条件的数据的访问，数据库可以有很高的效率，较低的延迟。由于数据的访问延迟较高，决定了 **Hive 不适合在线数据查询**。
6.  **执行**。Hive 中大多数查询的执行是**通过 Hadoop 提供的 MapReduce 来实现的**，而数据库通常有自己的执行引擎。
7.  **执行延迟**。之前提到，Hive 在查询数据的时候，由于没有索引，需要扫描整个表，因此延迟较高。另外一个导致Hive 执行延迟高的因素是 MapReduce 框架。由于MapReduce 本身具有较高的延迟，因此在利用 MapReduce 执行 Hive 查询时，也会有较高的延迟。相对的，数据库的执行延迟较低。当然，这个低是有条件的，即数据规模较小，当数据规模大到超过数据库的处理能力的时候，Hive 的并行计算显然能体现出优势。
8.  **可扩展性**。由于 Hive 是建立在 Hadoop 之上的，因此 Hive 的可扩展性是和 Hadoop 的可扩展性是一致的（世界上最大的 Hadoop 集群在 Yahoo!，2009年的规模在 4000 台节点左右）。而数据库由于 ACID 语义的严格限制，扩展行非常有限。目前最先进的并行数据库 Oracle 在理论上的扩展能力也只有 100 台左右。
9.  **数据规模**。由于 Hive 建立在集群上并可以利用 MapReduce 进行并行计算，因此可以支持很大规模的数据；对应的，数据库可以支持的数据规模较小。

*总结：hive具有sql数据库的外表，但应用场景完全不同，hive只适合用来做批量数据统计分析*

### **3、Hive的数据存储** ###

1.  Hive中所有的数据都存储在 HDFS 中，没有专门的数据存储格式（可支持Text，SequenceFile，ParquetFile，RCFILE等）
    
    SequenceFile是hadoop中的一种文件格式：文件内容是以序列化的kv对象来组织的。
2.  只需要在创建表的时候告诉 Hive 数据中的列分隔符和行分隔符，Hive 就可以解析数据。
3.  Hive 中包含以下数据模型：DB、Table，External Table，Partition，Bucket。
    
     *  db：在hdfs中表现为`${hive.metastore.warehouse.dir}`目录下一个文件夹
     *  table：在hdfs中表现所属db目录下一个文件夹
     *  external table：外部表, 与table类似，不过其数据存放位置可以在任意指定路径
        
         *  普通表: 删除表后, 会删除元数据和数据;
         *  External外部表删除后, 只删除元数据，不删除数据
        
        ![Center][]
     *  partition：在hdfs中表现为table目录下的子目录
        
        Hive分区表的作用：让你做统计的时候少统计，把我们的数据放在多个文件夹里边，我们统计时候，可以指定分区，这样范围就会小一些，这样就减少了运行的时间
     *  bucket：桶, 在hdfs中表现为同一个表目录下根据hash散列之后的多个文件, 会根据不同的文件把数据放到不同的文件中
        
        好处：1、方便抽样；2、提高join查询效率

### 4、HQL和SQL的差异点 ###

*  select distinct 后必须指定字段名
 *  子查询不能在select中使用
 *  HQL中没有UNION，可使用distinct+ union all 实现 UNION；
 *  HQL以分号分隔，必须在每个语句结尾写上分号；
 *  HQL中字符串的比较比较严格，区分大小写及空格，因此在比较时建议upper(trim(a))=upper(trim(b))
 *  日期判断，建议使用to\_date(),如：to\_date(orderdate)=‘2016-07-18’
 *  关键字必须在字段名上加\`\`符号，如select `exchange` from xxdb.xxtb;
 *  数据库和表/视图之间仅有1个点，如xx\_db.xx\_tb;
 *  HQL不支持update/delete
    
    实际采用union all + left join (is null)变相实现update。思路：
    
    1.  取出增量数据；
    2.  使用昨日分区的全量数据通过主键左连接增量数据，并且只取增量表中主键为空的数据（即，取未发生变化的全量数据）；
    3.  合并1、2的数据覆盖至最新的分区，即实现了update；
    
    HQL delete采用not exists/left join(is null)的方法变相实现。
    
    1.  取出已删除的主键数据（表B）；
    2.  使用上一个分区的全量数据（表A）通过主键左连接A，并且只取A中主键为空的数据，然后直接insert overwrite至新的分区；

### 5、Hive架构 ###

#### **架构图** ####

![70 2][]

Jobtracker是hadoop1.x中的组件，它的功能相当于： Resourcemanager+AppMaster

TaskTracker 相当于： Nodemanager + yarnchild

#### **基本组成及各组件的基本功能** ####

1.  用户接口：包括 CLI、JDBC/ODBC、WebGUI。其中，CLI为shell命令行；JDBC/ODBC是Hive的JAVA实现，与传统数据库JDBC类似；WebGUI是通过浏览器访问Hive。
2.  元数据存储Metastore：通常是存储在关系数据库如 mysql , derby中。Hive 中的元数据包括表的名字，表的列和分区及其属性，表的属性（是否为外部表等），表的数据所在目录等。
3.  解释器、编译器、优化器、执行器。完成 HQL 查询语句从词法分析、语法分析、编译、优化以及查询计划的生成。生成的查询计划存储在 HDFS 中，并在随后有 MapReduce 调用执行。
    
     *  解释器：把HQL语句转换成一颗抽象语法树
     *  编译器：把抽象语法树转换成一系列MR程序。Hive的底层有一系列的MR模板（Operation：GroupByOperation， JoinOperation）
     *  优化器：执行这一系列MR程序的优化
     *  执行器：组织相应的资源提交给Hadoop集群

### 6、Hive工作原理 ###

下图描述了Hive 和Hadoop之间的工作流程。

![How Hive Works][]

1.  **Execute Query**：Hive接口，如命令行或Web UI发送查询驱动程序（任何数据库驱动程序，如JDBC，ODBC等）来执行。
2.  **Get Plan**：在驱动程序帮助下查询编译器，分析查询检查语法和查询计划或查询的要求。
3.  **Get Metadata**：编译器发送元数据请求到Metastore（任何数据库）。
4.  **Send Metadata**：Metastore发送元数据，以编译器的响应。
5.  **Send Plan**：编译器检查要求，并重新发送计划给驱动程序。到此为止，查询解析和编译完成。
6.  **Execute Plan**：驱动程序发送的执行计划到执行引擎。
7.  **Execute Job**和**Metadata Ops**： 在内部，执行作业的过程是一个MapReduce工作。执行引擎发送作业给JobTracker，在名称节点并把它分配作业到TaskTracker，这是在数据节点。在这里，查询执行MapReduce工作。与此同时，在执行时，执行引擎可以通过Metastore执行元数据操作。
8.  **Fetch Result**：执行引擎接收来自数据节点的结果。
9.  **Send Results**：执行引擎发送这些结果值给驱动程序。
10. **Send Results**：驱动程序将结果发送给Hive接口。

### 7、Hive学习路线图 ###

![hadoop-hive-roadmap.png][]

### 8、使用Hive注意事项 ###

1.  使用单独的数据库存储元数据
2.  定义合理的表分区和键
3.  设置合理的bucket数据量
4.  进行表压缩
5.  定义外部表使用规范
6.  合理的控制Mapper, Reducer数量

[Hive]: https://blog.csdn.net/l1212xiao/article/details/80432759
[hive]: https://blog.csdn.net/freefish_yzx/article/details/77150248
[Hive_Hive_Hive_Hive_Hive_Hive_Hive_Hadoop_Hive_Hive]: https://yq.aliyun.com/articles/100911?spm=5176.10695662.1996646101.searchclickresult.355ee3dezQ6Gw6
[Hive 1]: https://blog.csdn.net/ddydavie/article/details/80667727
[Hive 2]: https://www.yiibai.com/hive/
[Hive 3]: http://blog.fens.me/hadoop-hive-roadmap/
[70]: /images/20220302/152af32d945e49c3a0f3cb79f1889581.png
[70 1]: /images/20220302/e6ff73b32575465fa17211bd66fb2611.png
[Center]: /images/20220302/8e52a34968914db5bcbe2365bdfc886d.png
[70 2]: /images/20220302/814c7929b34b4cf6a9e25f9bb36aa301.png
[How Hive Works]: /images/20220302/de1ad75b12f9493798d8158af02811ca.png
[hadoop-hive-roadmap.png]: /images/20220302/47f67233bc43468bbb9bd41cdf684859.png