初識spark 之 讀寫MySql資料
阿新 • • 發佈:2022-05-31
需求
1、使用spark讀取MySql庫資料;2、使用spark讀取MySql庫資料,並寫入另一張表。
實現程式碼
1 package com.lzh.sql.資料載入儲存 2 3 import org.apache.spark.SparkConf 4 import org.apache.spark.sql.{SaveMode, SparkSession} 5 6 object conMySql { 7 def main(args: Array[String]): Unit = { 8 val sparkConf = new SparkConf().setMaster("local[*]").setAppName("conMySql")9 val spark = SparkSession.builder().config(sparkConf).getOrCreate() 10 11 // 讀取MySql資料 12 val df = spark.read 13 .format("jdbc") 14 .option("url", "jdbc:mysql://bigdata01:3336/hive") // dbc:mysql://地址:埠/資料庫名 15 .option("driver", "com.mysql.jdbc.Driver") // 驅動,固定 16 .option("user", "root") //使用者 17 .option("password", "123") // 密碼 18 .option("dbtable", "tmp_20220531") // 表 19 .load() 20 21 // 儲存資料到MySql 22 df.write 23 .format("jdbc") 24 .option("url", "jdbc:mysql://bigdata01:3336/hive") // dbc:mysql://地址:埠/資料庫名 25 .option("driver", "com.mysql.jdbc.Driver") // 驅動,固定26 .option("user", "root") // 使用者 27 .option("password", "123") // 密碼 28 .option("dbtable", "tmp_20220531_2") // 追加到表,若表不存在,則新建。 29 .mode(SaveMode.Append) // 資料儲存模式,追加 30 .save() 31 } 32 }