1. 程式人生 > 其它 >初識spark 之 讀寫MySql資料

初識spark 之 讀寫MySql資料

需求

1、使用spark讀取MySql庫資料;
2、使用spark讀取MySql庫資料,並寫入另一張表。

實現程式碼

 1 package com.lzh.sql.資料載入儲存
 2 
 3 import org.apache.spark.SparkConf
 4 import org.apache.spark.sql.{SaveMode, SparkSession}
 5 
 6 object conMySql {
 7   def main(args: Array[String]): Unit = {
 8     val sparkConf = new SparkConf().setMaster("local[*]").setAppName("conMySql")
9 val spark = SparkSession.builder().config(sparkConf).getOrCreate() 10 11 // 讀取MySql資料 12 val df = spark.read 13 .format("jdbc") 14 .option("url", "jdbc:mysql://bigdata01:3336/hive") // dbc:mysql://地址:埠/資料庫名 15 .option("driver", "com.mysql.jdbc.Driver") // 驅動,固定 16 .option("user", "root") //
使用者 17 .option("password", "123") // 密碼 18 .option("dbtable", "tmp_20220531") // 19 .load() 20 21 // 儲存資料到MySql 22 df.write 23 .format("jdbc") 24 .option("url", "jdbc:mysql://bigdata01:3336/hive") // dbc:mysql://地址:埠/資料庫名 25 .option("driver", "com.mysql.jdbc.Driver") // 驅動,固定
26 .option("user", "root") // 使用者 27 .option("password", "123") // 密碼 28 .option("dbtable", "tmp_20220531_2") // 追加到表,若表不存在,則新建。 29 .mode(SaveMode.Append) // 資料儲存模式,追加 30 .save() 31 } 32 }