大数据之Hive DML 数据操作 完整使用（第五章）

矫情吗；* 2022-09-10 15:15 271阅读 0赞

大数据之Hive DML 数据操作 完整使用

  • 一、数据导入
    • 1、向表中装载数据（Load）
      • 1）语法
      • 2）实操案例
  • 二、通过查询语句向表中插入数据（Insert）
    • 1）创建一张表
    • 2）基本插入数据
    • 3）基本模式插入（根据单张表查询结果）
    • 4）多表（多分区）插入模式（根据多张表查询结果）
  • 三、创建表时通过 Location 指定加载数据路径
    • 1）上传数据到 hdfs 上
    • 2）创建表，并指定在 hdfs 上的位置
    • 3）查询数据
  • 四、 Import 数据到指定 Hive 表中
  • 五、数据导出
    • 1、Insert 导出
      • 1）将查询的结果导出到本地
      • 2）将查询的结果格式化导出到本地
      • 3）将查询的结果导出到 HDFS 上(没有 local)
    • 2、Hadoop 命令导出到本地
    • 3、Hive Shell 命令导出
    • 4、Export 导出到 HDFS 上
    • 5、清除表中数据（Truncate）

一、数据导入

1、向表中装载数据（Load）

1）语法

  1. hive> load data [local] inpath '数据的 path' [overwrite] into table
  2. student [partition (partcol1=val1,…)];

（1）load data:表示加载数据
（2）local:表示从本地加载数据到 hive 表；否则从 HDFS 加载数据到 hive 表
（3）inpath:表示加载数据的路径
（4）overwrite:表示覆盖表中已有数据，否则表示追加
（5）into table:表示加载到哪张表
（6）student:表示具体的表
（7）partition:表示上传到指定分区

2）实操案例

（0）创建一张表

  1. hive (default)> create table student(id string, name string) row format 
  2. delimited fields terminated by '\t';

（1）加载本地文件到 hive

  1. hive (default)> load data local inpath 
  2. '/opt/module/hive/datas/student.txt' into table default.student;

（2）加载 HDFS 文件到 hive 中
上传文件到 HDFS

  1. hive (default)> dfs -put /opt/module/hive/data/student.txt 
  2. /user/hadoop/hive;

加载 HDFS 上数据

  1. hive (default)> load data inpath '/user/hadoop/hive/student.txt' into 
  2. table default.student;

（3）加载数据覆盖表中已有的数据
上传文件到 HDFS

  1. hive (default)> dfs -put /opt/module/data/student.txt /user/hadoop/hive;

加载数据覆盖表中已有的数据

  1. hive (default)> load data inpath '/user/hadoop/hive/student.txt' 
  2. overwrite into table default.student;

二、通过查询语句向表中插入数据（Insert）

1）创建一张表

  1. hive (default)> create table student_par(id int, name string) row format 
  2. delimited fields terminated by '\t';

2）基本插入数据

  1. hive (default)> insert into table student_par 
  2. values(1,'wangwu'),(2,'zhaoliu');

3）基本模式插入（根据单张表查询结果）

  1. hive (default)> insert overwrite table student_par
  2.  select id, name from student where month='201709';

4）多表（多分区）插入模式（根据多张表查询结果）

  1. hive (default)> from student
  2.  insert overwrite table student partition(month='201707')
  3.  select id, name where month='201709'
  4.  insert overwrite table student partition(month='201706')
  5.  select id, name where month='201709';

insert into：以追加数据的方式插入到表或分区，原有数据不会删除
insert overwrite：会覆盖表中已存在的数据
注意：insert 不支持插入部分字段

三、创建表时通过 Location 指定加载数据路径

1）上传数据到 hdfs 上

  1. hive (default)> dfs -mkdir /student;
  2. hive (default)> dfs -put /opt/module/datas/student.txt /student;

2）创建表，并指定在 hdfs 上的位置

  1. hive (default)> create external table if not exists student5(
  2.  id int, name string
  3.  )
  4.  row format delimited fields terminated by '\t'
  5.  location '/student;

3）查询数据

  1. hive (default)> select * from student5;

四、 Import 数据到指定 Hive 表中

注意：先用 export 导出后，再将数据导入

  1. hive (default)> import table student2
  2. from '/user/hive/warehouse/export/student';

五、数据导出

1、Insert 导出

1）将查询的结果导出到本地

  1. hive (default)> insert overwrite local directory 
  2. '/opt/module/hive/data/export/student'
  3. select * from student;

2）将查询的结果格式化导出到本地

  1. hive(default)>insert overwrite local directory 
  2. '/opt/module/hive/data/export/student1'
  3. ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t'
  4. select * from student;

3）将查询的结果导出到 HDFS 上(没有 local)

  1. hive (default)> insert overwrite directory '/user/hadoop/student2'
  2.  ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t' 
  3.  select * from student;

2、Hadoop 命令导出到本地

  1. hive (default)> dfs -get /user/hive/warehouse/student/student.txt
  2. /opt/module/data/export/student3.txt;

3、Hive Shell 命令导出

基本语法：（hive -f/-e 执行语句或者脚本 > file）

  1. [hadoop@hadoop102 hive]$ bin/hive -e 'select * from default.student;' >
  2. /opt/module/hive/data/export/student4.txt;

4、Export 导出到 HDFS 上

  1. (defahiveult)> export table default.student 
  2. to '/user/hive/warehouse/export/student';

export 和 import 主要用于两个 Hadoop 平台集群之间 Hive 表迁移。

5、清除表中数据（Truncate）

注意：Truncate 只能删除管理表，不能删除外部表中数据

  1. hive (default)> truncate table student;

发表评论

表情：
评论列表 （有 0 条评论，271人围观）

还没有评论，来说两句吧...

相关阅读