当前位置:  开发笔记 > 大数据 > 正文

错误时纱线上的火花运行两次

如何解决《错误时纱线上的火花运行两次》经验,为你挑选了1个好方法。

我使用在纱线上产生火花的模型,遇到问题时,火花将自动重新启动。

无论成功或失败,我都想准确运行一次。

是否可以设置任何conf或api?

我正在使用Spark 1.5版。



1> code..:

您必须将spark.yarn.maxAppAttempts属性设置为1。默认值yarn.resourcemanager.am.max-attempts是默认值2。

通过代码设置属性:

SparkConf conf = new SparkConf();
conf.set("spark.yarn.maxAppAttempts", "1");

通过spark-submit提交作业时设置:

--conf spark.yarn.maxAppAttempts = 1

推荐阅读
手机用户2402851335
这个屌丝很懒,什么也没留下!
DevBox开发工具箱 | 专业的在线开发工具网站    京公网安备 11010802040832号  |  京ICP备19059560号-6
Copyright © 1998 - 2020 DevBox.CN. All Rights Reserved devBox.cn 开发工具箱 版权所有