JobHistory 我就是我 2022-05-16 11:21 108阅读 0赞 # **JobHistory** # ### **JobHistory是什么** ### * JobHistory用来记录已经finished的mapreduce运行日志,日志信息存放于HDFS目录中,默认情况下没有开启此功能,需要在mapred-site.xml、yarn-site.xml配置,并手动启动。 ### **JobHistory怎么用** ### * mapred-site.xml配置中添加 <property> <name>mapreduce.jobhistory.address</name> <value>hadoop01:10020</value> <description>MapReduce JobHistory Server IPC host:port</description> </property> <property> <name>mapreduce.jobhistory.webapp.address</name> <value>hadoop01:19888</value> <description>MapReduce JobHistory Server Web UI host:port</description> </property> <property> <name>mapreduce.jobhistory.done-dir</name> <value>/history/done</value> </property> <property> <name>mapreduce.jobhistory.intermediate-done-dir</name> <value>/history/done_intermediate</value> </property> * yarn-site.xml配置中添加 <property> <name>yarn.log-aggregation-enable</name> <value>true</value> </property> * 手动启动 1. 定位到hadoop的sbin下 2. sh mr-jobhistory-daemon.sh start historyserver ### **执行一个mapreduce实例** ### * 定位到hadoop的/share/hadoop/mapreduce下 * 执行一个实例 * hadoop jar hadoop-mapreduce-examples-2.6.0-cdh5.7.0.jar pi 2 3 ### **查看日志** ### * ![hAnw3KI.png][] * ![w4wMGtq.png][] * ![r8X2frt.png][] * ![TOaHD97.png][] * ![SpW9TEj.png][] [hAnw3KI.png]: https://i.imgur.com/hAnw3KI.png [w4wMGtq.png]: https://i.imgur.com/w4wMGtq.png [r8X2frt.png]: https://i.imgur.com/r8X2frt.png [TOaHD97.png]: https://i.imgur.com/TOaHD97.png [SpW9TEj.png]: https://i.imgur.com/SpW9TEj.png
相关 (13)Hadoop JobHistory a)配置nodemanage的LogAggregation功能(yarn-site.xml) yarn.log-aggregation-enable true 绝地灬酷狼/ 2022年09月30日 00:57/ 0 赞/ 25 阅读
相关 JobHistory JobHistory JobHistory是什么 JobHistory用来记录已经finished的mapreduce运行日志,日志信息存放于HDFS目录中, 我就是我/ 2022年05月16日 11:21/ 0 赞/ 109 阅读
相关 Yarn的JobHistory目录权限问题导致MapReduce作业异常 1.问题描述 Hive的MapReduce作业无法正常运行,日志如下: 0: jdbc:hive2://localhost:10000>select count(\) fr ゝ一世哀愁。/ 2022年02月13日 17:38/ 0 赞/ 353 阅读
还没有评论,来说两句吧...