JAVA程式碼如何設定SPARK的日誌列印級別
問題場景:在使用spark sql 增加where條件過濾時,會出現列印很多的被過濾掉的記錄(幾十萬條),導致跑spark sql 特別慢!
var df2 = sqc.sql("SELECT * FROM T_COMMISIONRATEDEF WHERE T_INSURANCETYPE = '630' ORDER BY T_INSURANCETYPE DESC " )
執行時,列印截圖:
解決方法:
設定spark 的日誌級別,不列印過濾INFO資訊
1)程式碼中使用呢代理設定:關鍵參考程式碼如下
import org.apache.log4j.Level
import org.apache.log4j.Level
Logger.getLogger("org.apache.spark").setLevel(Level.ERROR)
Logger.getLogger("org.apache.hadoop").setLevel(Level.ERROR)
Logger.getLogger("org.apache.zookeeper").setLevel(Level.ERROR)
程式碼截圖:
相關推薦
JAVA程式碼如何設定SPARK的日誌列印級別
問題場景:在使用spark sql 增加where條件過濾時,會出現列印很多的被過濾掉的記錄(幾十萬條),導致跑spark sql 特別慢! var df2 = sqc.sql("SELECT * FROM T_COMMISIONRATEDEF WHERE T_INSURANCETYPE = '
printk除錯之設定日誌列印級別
日誌列印注意事項: 1. 日誌輸出是有代價的,特別是在嵌入式系統,或者對執行時序要求較高的應用場景。因此 a) 只有在需要的地方加入,不能濫用 b) 一定要有一個全域性的開關,在不需要或者產品釋出的時候,關閉輸出,或者降低日誌輸出
設定日誌列印級別
tomcat 日誌資訊分 為 兩 類 :一是執行中的日誌,它主要 記錄 執行的一些資訊,尤其是一些異常 錯誤 日誌資訊 。二是 訪問 日誌資訊,它 記錄 的 訪問 的 時間 , IP , 訪問 的 資 料等相 關 資訊。2.1 訪問日誌的配置預設 tomcat 不記錄訪
java springMVC SSM 操作日誌 4級別聯動 文件管理 頭像編輯 shiro redis
java 下拉聯動 頭像裁剪 圖片裁剪 springmvc 官網 http://www.fhadmin.org/ A代碼編輯器,在線模版編輯,仿開發工具編輯器,pdf在線預覽,文件轉換編碼 B 集成代碼生成器 [正反雙向](單表、主表、明細表、樹形表,快速開發利器)+快速表單構
android java 程式碼設定 TextView drawableLeft
TextView 能實現一張圖配上文字,這樣就不用ImageView +TextView,在xml 設定: android:drawableLeft="@drawable/xxx" 但是如果
Tomcat - 怎麼控制某個類或者包下的日誌列印級別
問題與分析 Tomcat是使用自己的日誌實現tomcat-juli.jar來列印日誌資訊的,日誌會被列印到catalina.out裡,除去你在專案裡自己使用的日誌框架外,由System.out,System.err或者printStackTrace()打印出來的資訊則是會被輸入到catalina.out裡,
android 動態java程式碼設定背景以及字型等顏色
動態設定顏色 今天碰到個奇怪的事情,在設定動態設定TextView以及Button背景顏色的時候在java程式碼中設定編譯執行時候竟然出現的顏色和我color檔案中設定的顏色不一樣,而我在xml中設定的顏色完全正確。不多說上程式碼: 之前設定顏色程式碼:
java程式碼設定手機來電黑名單自動結束通話
今天講的是電話的黑名單自動結束通話的功能,所以現在跟著我的步驟來吧! 一、首先切換到project區間去,在main的資料夾裡面創一個aidl資料夾,把官網中下的兩個資料夾cope到這個aidl資料夾裡面去,再重新編譯兩次,第一次會報錯,不用管,再編譯一次就這可以,編譯兩次
java程式碼風格與日誌
一、程式碼風格 程式碼風格實際上就是合理使用縮排、空格、換行,目的是讓程式碼可讀性更強。大家記憶時記清楚用什麼樣的縮排,哪些時候使用空格,哪些時候使用換行,單行程式碼不要太長就可以,這部分內容通過兩三次的回顧很容易養成習慣,因為是編碼中最長用到的。 可參考以下程式碼:
Android使用Java程式碼設定selector或drawable,以及使用自定義控制元件方式使用它
鎮樓圖~~! TextView再給個selecotor 這種東西不要太簡單,但是這種東西我不想重複去寫N個Selector ! so~ /** * 獲取Selector * @param normalDraw *
log4j日誌列印級別動態調整
1,為什麼日誌列印級別要動態調整? 隨著專案越來越大,訪問量也越來越高,遇到問題時想要排查,可是日誌一開啟卻刷的太快太快,不好排查問題,有的時候甚至因為短時間列印日誌太多,嚴重影響了效能,這個時候日誌的列印級別的動態調整就相當有必要了,在不重啟專案的情況,不改動程式碼的情況下,通過Apollo動態配置就可
[Spark--編碼]--如何設定日誌的列印級別
以下三種方式可以選擇有一種,但就經測試,最靠譜的方式是第三種結合第一種使用。 1、通過配置檔案 #log4j.rootLogger=WARN,console log4j.rootLogger=DEBUG, stdout # console log4j.appender.
設定Tomcat控制檯日誌列印的級別
org.apache.catalina.core.ContainerBase.[Catalina].level = INFO org.apache.catalina.core.ContainerBase.[Catalina].handlers = java.util.logging.ConsoleHandl
億級別記錄的mongodb分頁查詢java程式碼實現
1.準備環境 1.1 mongodb下載 1.2 mongodb啟動 C:\mongodb\bin\mongod --dbpath D:\mongodb\data 1.3 視覺化mongo工具Robo 3T下載 2.準備資料 <d
Eclipse下設定tomcat,修改Java程式碼不必重啟tomcat
以前一直都是使用MyEclipse,在新公司原來專案比較大,使用MyEclipse無論是啟動還是在編碼過程中都非常慢,優化了也是。所以換了Eclipse,速度雖然提高了,但是有點非常不友好,就是不管我怎麼修改Java程式碼,哪怕只有僅僅一行程式碼都需要重新啟動,才能使修改程式碼生效,而這點MyEcl
Spark日誌級別修改
摘要 在學習使用Spark的過程中,總是想對內部執行過程作深入的瞭解,其中DEBUG和TRACE級別的日誌可以為我們提供詳細和有用的資訊,那麼如何進行合理設定呢,不復雜但也絕不是將一個INFO換為TRACE那麼簡單。 主要問題 調整Spark日誌級別的配置檔案是$SPARK_HOME/c
java程式碼實現LogBack動態輸出日誌【無配置檔案純程式碼】
需求: 需要傳入某一個檔案或者類或者方法的名字,生成對應日誌檔案,且每一個傳入名字的檔案單獨有一個資料夾,子資料夾為日期,日期資料夾裡面包含warn.log,error.log,debug.log,info.log。通過過濾器實
poi 列印格式程式碼設定
偷個懶,直接上程式碼吧,大家每一行我都寫註釋了的,更具需求可以自己設計自己的表格 @Action(value="outProductAction_print") public String print() throws Exception{ //H
java最簡單實現Log列印和生成日誌檔案
導包 1.commons-logging.jar包 下載 2.log4j.jar包 下載 配置log4j 1.在src根目錄下建立一個log4j.properties檔案。 檔案全部內容如下: log4j.rootLogger=CONSOLE,stdout
java多執行緒交替列印奇數偶數 別人的程式碼
1. 要列印的資源 1 package com.mytest.thread; 2 3 /** 4 * 要列印的資源 5 * 6 */ 7 public class Num { 8 int i = 1; 9 // 兩個執