Spark on YARN :yarn-cluster模式如何查看日志

Spark on YARN 两种模式yarn-cluster yarn-client
一:yarn-client 在运行时是可以看到日志的
而yarn-cluster是看不懂的,那么问题来了,如何查看日志呢

[hadoop@hadoop001 shell]$ yarn logs -applicationId application_1545664455577_0006

application_1545664455577_0006这个是在hadoop控制台上寻找

Spark on YARN :yarn-cluster模式如何查看日志_第1张图片

完成后
当这个application正常或者由于某种原因异常结束后,yarn默认会将所有日志归集到hdfs上,所以yarn也提供了一个查询已结束application日志的方法,即
yarn logs -applicationId application_1521424748238_0057,结果里面会包含所有executor的日志,可能会比较多,建议将结果重定向到一个文件再详细查看。

日志过大时添加参数:
yarn logs -applicationId application_1540869695351_0146 --size_limit_mb -1

你可能感兴趣的:(Spark on YARN :yarn-cluster模式如何查看日志)