hive执行job的时候报错:hadoop.hive.ql.exec.tez.TezTask

墨蓝 2022-06-06 08:58 500阅读 0赞

这几天刚安装好ambari集成下的hadoop生态环境,对大部分配置都不熟悉,基本都是按默认的来,但是在用hive发现了不少问题,以下是两点困扰了较久的问题,不比比,直接上过程:
    1.在服务器进入hive的时候输入hive指令,会卡在界面上,不会进入hive数据库,也没有报错,只是有个警告,说是hive.custom-extensions.root不存在,然后博主就这个在ambari管理界面下的hive配置里面找到对应的配置,改成对应的hdfs下的路径,但是并没有用,然后查看yarn application管理界面,发现有一个paalication一直卡死在运行中,但是进度不动,所以后面的指令一直都会卡着,但是在界面上并没有杀死进程的功能,我们进入服务器对应的机器下,使用yarn的指令,杀死该进程yarn application -kill 对应的applicationid,然后回来执行hive,就可以进入数据库了.但是第一次进入花了10分钟,这个问题不知道是不是其他配置的问题导致的,有待考究.
    2.执行count(*)查询时报错:hadoop.hive.ql.exec.tez.TezTask
    执行select * from table的时候是不会进行mapreduce工作的,只是在hive数据库单独查询,一般是没有问题的,但是select count(*) from table 就会执行mapreuce,生成一个job跟hdfs进行交互,楼主也会一直卡死,然后进程一直堵在那里,后面的操作都进行不了,同理也是直接删除了那个卡死的进程id,设置timeout配置,时间加长,然后重启hive跟tez即可

1.在服务器进入hive的时候输入hive指令,会卡在界面上,不会进入hive数据库,也没有报错,只是有个警告,说是hive.custom-extensions.root不存在,然后博主就这个在ambari管理界面下的hive配置里面找到对应的配置,改成对应的hdfs下的路径,但是并没有用,然后查看yarn application管理界面,发现有一个paalication一直卡死在运行中,但是进度不动,所以后面的指令一直都会卡着,但是在界面上并没有杀死进程的功能,我们进入服务器对应的机器下,使用yarn的指令,杀死该进程yarn application -kill 对应的applicationid,然后回来执行hive,就可以进入数据库了.但是第一次进入花了10分钟,这个问题不知道是不是其他配置的问题导致的,有待考究.  
2.执行count(\*)查询时报错:hadoop.hive.ql.exec.tez.TezTask  
执行select \* from table的时候是不会进行mapreduce工作的,只是在hive数据库单独查询,一般是没有问题的,但是select count(\*) from table 就会执行mapreuce,生成一个job跟hdfs进行交互,楼主也会一直卡死,然后进程一直堵在那里,后面的操作都进行不了,同理也是直接删除了那个卡死的进程id,设置timeout配置,时间加长,然后重启hive跟tez即可