1. 程式人生 > >spark-submit 應用程序第三方jar文件

spark-submit 應用程序第三方jar文件

div 文件比較 變量 通過 pre mysql nbsp shell spark

第一種方式:打包到jar應用程序

操作:將第三方jar文件打包到最終形成的spark應用程序jar文件中

應用場景:第三方jar文件比較小,應用的地方比較少

第二種方式:spark-submit 參數 --jars

操作:使用spark-submit提交命令的參數: --jars

要求:

1、使用spark-submit命令的機器上存在對應的jar文件

2、至於集群中其他機器上的服務需要該jar文件的時候,通過driver提供的一個http接口來獲取該jar文件的(例如:http://192.168.187.146:50206/jars/mysql-connector-java-5.1.27-bin.jar Added By User)

## 配置參數:--jars JARS
如下示例:
$ bin/spark-shell --jars /opt/cdh-5.3.6/hive/lib/mysql-connector-java-5.1.27-bin.jar

應用場景:要求本地必須要有對應的jar文件

第三種方式:spark-submit 參數 --packages

操作:使用spark-submit提交命令的參數: --packages

## 配置參數:--packages  jar包的maven地址
如下示例:
$ bin/spark-shell --packages  mysql:mysql-connector-java:5.1
.27 --repositories http://maven.aliyun.com/nexus/content/groups/public/ ## --repositories 為mysql-connector-java包的maven地址,若不給定,則會使用該機器安裝的maven默認源中下載 ## 若依賴多個包,則重復上述jar包寫法,中間以逗號分隔 ## 默認下載的包位於當前用戶根目錄下的.ivy/jars文件夾中

應用場景:本地可以沒有,集群中服務需要該包的的時候,都是從給定的maven地址,直接下載

第四種方式:添加到spark的環境變量

操作:更改Spark的配置信息:SPARK_CLASSPATH, 將第三方的jar文件添加到SPARK_CLASSPATH環境變量中

註意事項:要求Spark應用運行的所有機器上必須存在被添加的第三方jar文件

A.創建一個保存第三方jar文件的文件夾:
 命令:$ mkdir external_jars

B.修改Spark配置信息
 命令:$ vim conf/spark-env.sh
修改內容:SPARK_CLASSPATH=$SPARK_CLASSPATH:/opt/cdh-5.3.6/spark/external_jars/*

C.將依賴的jar文件copy到新建的文件夾中
命令:$ cp /opt/cdh-5.3.6/hive/lib/mysql-connector-java-5.1.27-bin.jar ./external_jars/

應用場景:依賴的jar包特別多,寫命令方式比較繁瑣,被依賴包應用的場景也多的情況下

備註:(只針對spark on yarn(cluster)模式)

spark on yarn(cluster),如果應用依賴第三方jar文件

最終解決方案:將第三方的jar文件copy到${HADOOP_HOME}/share/hadoop/common/lib文件夾中(Hadoop集群中所有機器均要求copy)

spark-submit 應用程序第三方jar文件