Hadoop Hive sql語法詳解5--HiveQL與SQL區別

阿新 • • 發佈：2019-01-14

1.hive內聯支援什麼格式？
2.分號字元注意什麼問題？
3.hive中empty是否為null?
4.hive是否支援插入現有表或則分割槽中？
5.hive是否支援INSERT INTO 表 values（）？

1、Hive不支援等值連線
•SQL中對兩表內聯可以寫成：
•select * from dual a,dual b where a.key = b.key;
•Hive中應為
•select * from dual a join dual b on a.key = b.key;
而不是傳統的格式：
SELECT t1.a1 as c1, t2.b1 as c2FROM t1, t2
WHERE t1.a2 = t2.b2

2、分號字元
•分號是SQL語句結束標記，在HiveQL中也是，但是在HiveQL中，對分號的識別沒有那麼智慧，例如：
•select concat(key,concat(';',key)) from dual;
•但HiveQL在解析語句時提示：
FAILED: Parse Error: line 0:-1 mismatched input '<EOF>' expecting ) in function specification
•解決的辦法是，使用分號的八進位制的ASCII碼進行轉義，那麼上述語句應寫成：
•select concat(key,concat('\073',key)) from dual;

3、IS [NOT] NULL
•SQL中null代表空值, 值得警惕的是, 在HiveQL中String型別的欄位若是空(empty)字串, 即長度為0, 那麼對它進行IS NULL的判斷結果是False.

4、Hive不支援將資料插入現有的表或分割槽中，
僅支援覆蓋重寫整個表，示例如下：

INSERT OVERWRITE TABLE t1
SELECT * FROM t2;

複製程式碼

5、hive不支援INSERT INTO 表 Values（）, UPDATE, DELETE操作
這樣的話，就不要很複雜的鎖機制來讀寫資料。
INSERT INTO syntax is only available starting in version 0.8。INSERT INTO就是在表或分割槽中追加資料。

6、hive支援嵌入mapreduce程式，來處理複雜的邏輯
如：

FROM (
MAP doctext USING 'python wc_mapper.py' AS (word, cnt)
FROM docs
CLUSTER BY word
) a
REDUCE word, cnt USING 'python wc_reduce.py';

複製程式碼

--doctext: 是輸入
--word, cnt: 是map程式的輸出

--CLUSTER BY: 將wordhash後，又作為reduce程式的輸入

並且map程式、reduce程式可以單獨使用，如：

FROM (
FROM session_table
SELECT sessionid, tstamp, data
DISTRIBUTE BY sessionid SORT BY tstamp
) a
REDUCE sessionid, tstamp, data USING 'session_reducer.sh';

複製程式碼

-DISTRIBUTE BY: 用於給reduce程式分配行資料

7、hive支援將轉換後的資料直接寫入不同的表，還能寫入分割槽、hdfs和本地目錄
這樣能免除多次掃描輸入表的開銷。

FROM t1
INSERT OVERWRITE TABLE t2
SELECT t3.c2, count(1)
FROM t3
WHERE t3.c1 <= 20
GROUP BY t3.c2
INSERT OVERWRITE DIRECTORY '/output_dir'
SELECT t3.c2, avg(t3.c1)
FROM t3
WHERE t3.c1 > 20 AND t3.c1 <= 30
GROUP BY t3.c2
INSERT OVERWRITE LOCAL DIRECTORY '/home/dir'
SELECT t3.c2, sum(t3.c1)
FROM t3
WHERE t3.c1 > 30
GROUP BY t3.c2;

複製程式碼
實際例項

建立一個表
CREATE TABLE u_data (
userid INT,
movieid INT,
rating INT,
unixtime STRING)
ROW FORMAT DELIMITED
FIELDS TERMINATED BY '/t'
STORED AS TEXTFILE;

下載示例資料檔案，並解壓縮
wget http://www.grouplens.org/system/files/ml-data.tar__0.gz
tar xvzf ml-data.tar__0.gz

載入資料到表中:
LOAD DATA LOCAL INPATH 'ml-data/u.data'
OVERWRITE INTO TABLE u_data;

統計資料總量:
SELECT COUNT(1) FROM u_data;

現在做一些複雜的資料分析:
建立一個 weekday_mapper.py: 檔案，作為資料按周進行分割
import sys
import datetime

for line in sys.stdin:
line = line.strip()
userid, movieid, rating, unixtime = line.split('/t')

生成資料的周資訊
weekday = datetime.datetime.fromtimestamp(float(unixtime)).isoweekday()
print '/t'.join([userid, movieid, rating, str(weekday)])

使用對映指令碼
//建立表，按分割符分割行中的欄位值
CREATE TABLE u_data_new (
userid INT,
movieid INT,
rating INT,
weekday INT)
ROW FORMAT DELIMITED
FIELDS TERMINATED BY '/t';
//將python檔案載入到系統
add FILE weekday_mapper.py;

將資料按周進行分割
INSERT OVERWRITE TABLE u_data_new
SELECT
TRANSFORM (userid, movieid, rating, unixtime)
USING 'python weekday_mapper.py'
AS (userid, movieid, rating, weekday)
FROM u_data;

SELECT weekday, COUNT(1)
FROM u_data_new
GROUP BY weekday;

處理Apache Weblog 資料
將WEB日誌先用正則表示式進行組合，再按需要的條件進行組合輸入到表中
add jar ../build/contrib/hive_contrib.jar;

CREATE TABLE apachelog (
host STRING,
identity STRING,
user STRING,
time STRING,
request STRING,
status STRING,
size STRING,
referer STRING,
agent STRING)
ROW FORMAT SERDE 'org.apache.hadoop.hive.contrib.serde2.RegexSerDe'
WITH SERDEPROPERTIES (
"input.regex" = "([^ ]*) ([^ ]*) ([^ ]*) (-|//[[^//]]*//]) ([^ /"]*|/"[^/"]*/") (-|[0-9]*) (-|[0-9]*)(?: ([^ /"]*|/"[^/"]*/") ([^ /"]*|/"[^/"]*/"))?",
"output.format.string" = "%1$s %2$s %3$s %4$s %5$s %6$s %7$s %8$s %9$s"
)
STORED AS TEXTFILE;

Hadoop Hive sql語法詳解5--HiveQL與SQL區別

Hadoop Hive sql語法詳解5--HiveQL與SQL區別

008-Hadoop Hive sql語法詳解3-DML 操作:元數據存儲

017-Hadoop Hive sql語法詳解7-去重排序、數據傾斜

016-Hadoop Hive sql語法詳解6-job輸入輸出優化、數據剪裁、減少job數、動態分區

Hadoop Hive sql語法詳解

Hadoop Hive sql語法詳解3--DML 操作:元資料儲存

Hadoop Hive sql語法詳解1-認識hive及DDL操作

Hive sql語法詳解

DockerFile 編譯語法詳解(5)

quartz詳解5-quartz與spring結合

【Boost】boost庫asio詳解2——strand與io_service區別

mysql-5.7.9 shutdown 語法詳解

Hibernate學習之hql 與sql hql 語法詳解

Thinking in BigData（八）大資料Hadoop核心架構HDFS+MapReduce+Hbase+Hive內部機理詳解

Oracle create tablespace 創建表空間語法詳解

hadoop生態圈的詳解

Hive UDAF開發詳解

[持續交付實踐] pipeline：pipeline 使用之語法詳解

SQL*Loader 詳解

Nginx Rewrite語法詳解

Hadoop Hive sql語法詳解5--HiveQL與SQL區別

相關推薦