星火流正常关机

问题描述:

我看到有两个地方配置正常关机的选项:星火流正常关机

  1. 在定义火花的conf:

“spark.streaming.stopGracefullyOnShutdown”,“真”。

  1. 当停止流上下文:
  2. JavaStreamingContext SCC;

    scc.stop(真,真)

    。这两个选项之间的差异?

    感谢

开始=>

第一种方式

sparkConf.set(“spark.streaming.stopGracefullyOnShutdown","true") 

火花配置这个参数设置为true,确保在新的Spark版本的 适当的正常关机(1.4起) 应用。此外,我们不应该使用第一个明确的关机钩 方法或在驱动程序中调用ssc.stop方法以及此 参数。我们可以设置这个参数,然后调用方法 ssc.start()ssc.awaitTermination()。无需拨打ssc.stop 方法。否则应用程序可能在关机期间挂起

第二种方式 scc.stop(true,true)

scc.stop()方法的第一个boolean变量是停止 相关火花背景下,而第二boolean变量为流媒体方面的 正常关机

这已明确提及herechandan prakash

希望这有助于!

+0

我想补充说,要在纱线上运行时完成正常关机,必须提供一种机制来发出关机信号。例如,Spark应用程序应轮询文件,队列或其他输入源,然后正常停止。 –

+0

如果我从主节点运行驱动程序,我假设我可以为gracefull关闭运行SIGTERM? – NirKa

+0

感谢您的支持。 我加入sparkConf优美的语句,但现在,当我在火花执行SIGTERM时,立即关闭,我也得到有关预写日志的警告:在写记录”抛出的异常:BatchCleanupEvent(ArrayBuffer(1502800045000毫秒))写入WriteAheadLog 它有意义吗? – NirKa