1. 程式人生 > >Hive-DML資料操作

Hive-DML資料操作

1、資料匯入

1.1、向表中裝載資料(Load)

1)、語法:hive>load data [local] inpath '/opt/module/datas/student.txt' [overwrite] into table student [partition (partcol1=val1,…)];

(1)load data:表示載入資料

(2)local:表示從本地載入資料到 hive 表;否則從 HDFS 載入資料到 hive 表

(3)inpath:表示載入資料的路徑

(4)into table:表示載入到哪張表

(5)student:表示具體的表

(6)overwrite:表示覆蓋表中已有資料,否則表示追加

(7)partition:表示上傳到指定分割槽

2)、實操案例

(0)建立一張表

hive (default)> create table student(id string, name string) row format delimited fields terminated by '\t';

(1)載入本地檔案到

hive hive (default)> load data local inpath '/opt/module/datas/student.txt' into table default.student;

(2)載入 HDFS 檔案到 hive 中

上傳檔案到 HDFS

hive (default)> dfs -put /opt/module/datas/student.txt /user/atguigu/hive;

載入 HDFS 上資料

hive (default)>load data inpath '/user/atguigu/hive/student.txt' into table default.student;

(3)載入資料覆蓋表中已有的資料

上傳檔案到 HDFS

hive (default)> dfs -put /opt/module/datas/student.txt /user/atguigu/hive;

載入資料覆蓋表中已有的資料

hive (default)>load data inpath '/user/atguigu/hive/student.txt' overwrite into table default.student;

1.2、通過查詢語句向表中插入資料(Insert)

1)建立一張分割槽表 hive (default)> create table student(id string, name string) partitioned by (month string) row format delimited fields terminated by '\t';

2)基本插入資料

hive (default)> insert into table student partition(month='201709') values('1004','wangwu');

3)基本模式插入(根據單張表查詢結果)

hive (default)> insert overwrite table student partition(month='201708') select id, name from student where month='201709';

4)多插入模式(根據多張表查詢結果)

hive (default)> from student

insert overwrite table student partition(month='201707') select id, name where month='201709'

insert overwrite table student partition(month='201706') select id, name where month='201709';

1.3、Import 資料到指定 Hive 表中

hive (default)> import table student2 partition(month='201709') from '/user/hive/warehouse/export/student';

2、資料匯出

2.1、Insert 匯出

1)、將查詢的結果匯出到本地:

hive (default)> insert overwrite local directory '/opt/module/datas/export/student' select * from student;

2)將查詢的結果格式化匯出到本地

hive (default)> insert overwrite local directory '/opt/module/datas/export/student1'

ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t' COLLECTION ITEMS TERMINATED BY '\n'

select * from student;

3)將查詢的結果匯出到 HDFS 上(沒有 local)

hive (default)> insert overwrite directory '/user/atguigu/hive/warehouse/student2'

ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t' COLLECTION ITEMS TERMINATED BY '\n'

select * from student;

2.2、Hadoop 命令匯出到本地

hive (default)> dfs -get /user/hive/warehouse/student/month=201709/000000_0 /opt/module/datas/export/student3.txt;

2.3、Hive Shell 命令匯出

[[email protected] hive]$ bin/hive -e 'select * from default.student;' > /opt/module/datas/export/student4.txt;

2.4、Export 匯出到 HDFS 上

hive (default)> export table default.student to '/user/hive/warehouse/export/student';

2.5、Sqoop 匯出

3、清除表中資料(Truncate)

注意:Truncate 只能刪除管理表,不能刪除外部表中資料

hive (default)> truncate table student;