1. 程式人生 > >解決spark-shell輸出日誌資訊過多

解決spark-shell輸出日誌資訊過多

當我們執行spark-shell的時候,會出現如下介面,如果覺得顯示資訊過多可通過修改conf資料夾下的log4j.properties檔案讓其只顯示警告資訊,而不顯示所有的資訊1
spark-shell

解決方案

進入到spark目錄/conf資料夾下,此時有一個log4j.properties.template檔案,我們執行如下命令將其拷貝一份為log4j.properties,並對log4j.properties檔案進行修改。

cp log4j.properties.template log4j.properties
vim log4j.properties

修改前
如上圖所示,將log4j.rootCategory=INFO, console

中的INFO改為WARN,儲存退出即可。
效果如下所示:
修改後
同樣,該方法也適用於pyspark

  1. Spark快速大資料分析,卡勞(Karau,H.)