1. 程式人生 > >優雅關閉Spark Stream任務(改進)

優雅關閉Spark Stream任務(改進)

參考:https://cloud.tencent.com/developer/article/1122470

採用的是原文上HTTP模式,在此基礎上做了一點點改進。

為什麼要做改進:發現傳送http請求,並收到回覆(StreamingContext已被關閉)後,程式並沒有停止,是因為程式有http server這個deamon子程序還沒有被關閉,所以需要在一段時間後關閉子程序。

所有原始碼(附帶spark兩種任務的簡單框架搭建及具體使用):

實現程式碼打包

目前優雅關閉方式有一種缺點,那就是關閉時間很長,如果時間間隔設為30分鐘,那麼關閉時間要1小時。。