1. 程式人生 > >Spark的Application和依賴的公共jar包單獨存放

Spark的Application和依賴的公共jar包單獨存放

    在Spark做大資料分析的時候,我們需要將依賴的第三方jar包或者我們自己寫的公共包單獨放在不同的地方,這樣可以保持有一份公共的jar包庫,當有新的開發任務或者要部署到其其他伺服器的時候,只要把這些jar包拷貝過去就行。
    比如我在我的伺服器上建立兩個目錄,一個是commonlib,一個是driverlib,我們可以將依賴的第三方jar包,比如mysql的驅動jar包放在commonlib資料夾下,可以將我們的Application的jar包放在driverlib下,提交任務的時候設定spark.executor.extraClassPath設定為commonlib,將spark.driver.extraClasspath設定為driverlib就可以了。