MapReduce on Yarn 作业日志级别设置

  使用配置
内容纲要

概要描述


在 TDH 使用中,会有提交 MapReduce 任务到 Yarn 上的场景,有时在调试任务时为了分析定位原因需要调整作业的日志级别。Yarn 作业默认日志级别是 INFO,我们可以根据本文方法来调整作业的 Map、Reduce、ApplicationMaster 的日志级别为其他。

详细说明


  • 本文在 Centos 7.2,TDH 6.2.2 环境上测试通过

  • 涉及配置项

配置项 说明 配置文件 默认值 可选值
mapreduce.map.log.level map task 日志级别 mapred-site.xml INFO OFF, FATAL, ERROR, WARN, INFO, DEBUG, TRACE and ALL
mapreduce.reduce.log.level reduce task 日志级别 mapred-site.xml INFO OFF, FATAL, ERROR, WARN, INFO, DEBUG, TRACE and ALL
yarn.app.mapreduce.am.log.level MR ApplicationMaster 日志级别 mapred-site.xml INFO OFF, FATAL, ERROR, WARN, INFO, DEBUG, TRACE and ALL
  • 示例
    修改 MR 任务作业日志级别为 WARN
  1. 打开 TDH Manager 并进入 Yarn 的配置页面,通过 “添加自定义参数” 添加以上 3 个参数
    file
    file

  2. 配置服务并重启 Yarn
    file

  3. 重新下载 TDH-Client,并提交测试任务验证
    如果需要使用 TDH-Client 通过命令提交 MapReduce 任务来验证,一定要重新下载 TDH-Client 来更新客户端配置;
    如果通过其他方式来验证,也请同步更新对应 Client 的 mapred-site.xml 配置文件;
    如图可以看到日志级别成功调整为 WARN。
    file


附:mapred-default 参数说明

这篇文章对您有帮助吗?

平均评分 0 / 5. 次数: 0

尚无评价,您可以第一个评哦!

非常抱歉,这篇文章对您没有帮助.

烦请您告诉我们您的建议与意见,以便我们改进,谢谢您。