hive中null和'','NULL'
employee表
hive>desc employee;
empid string
deptid string
salary string
查詢employee
hive>select * from employee
1 NULL NULL
hive 中null實際在HDFS中預設儲存為'\N'
即employee中的資料在HDFS中為
1 \N \N
驗證,插入'\N'
hive>insert into table employee select '2','\\N','\\N' from employee limit 1;
其中多一個斜槓是轉義的作用
查詢employee
hive>select * from employee
1 NULL NULL
2 NULL NULL
此時hive中與null有關的函式,如nvl,coalesce,is null等判斷是否為null是為true
hive>select nvl(empid,'A'),nvl(deptid,'B'),nvl(salary,'C') from employee
1 B C
2 B C
但是null或NULL和''會被hive當做字串處理。
hive>insert into table employee select '3','','' from employee limit 1;
查詢:
hive>select * from employee;
1 NULL NULL
2 NULL NULL
3
hive>insert into table employee select '4','null','NULL' from employee limit 1;
查詢
hive>select * from employee;
1 NULL NULL
2 NULL NULL
3
4 null NULL
注意:1,2同一行的NULL與4行的NULL或null不一樣。4行的NULL或null為字串
此時hive中與null有關的函式,如nvl,coalesce,is null等判斷''和null(字串)或NULL(字串)是否為null是為false
hive> select empid ,nvl(deptid,'E'),nvl(salary,'F') from employee;
1 E F
2 E F
3
4 null NULL
hive>select * from employee where deptid='';
3
hive>select * from employee where deptid='null' and salary ='NULL';
4 null NULL
hive>select * from employee where deptid is null;
1 NULL NULL
2 NULL NULL
可以通過
ALTER TABLE table_name SET SERDEPROPERTIES('serialization.null.format' = 定義描述符);
修改空值描述符
如果將''定義為NULL
ALTER TABLE employee SET SERDEPROPERTIES('serialization.null.format' = '');
查詢employee
hive>select * from employee;
1 \N \N
2 \N \N
3 NULL NULL
4 null NULL
和前面的select比較發現''變成了NULL,而\N露出了真面目,4行的NULL或null為字串沒變化
驗證,將''插入到emloyee
hive> insert into table employee select '5','','' from employee limit 1;
查詢
hive>select * from employee;
1 \N \N
2 \N \N
3 NULL NULL
4 null NULL
5 NULL NULL
注意:3,5同一行的NULL與4行的NULL或null不一樣。4行的NULL或null為字串
此時HDFS中如此儲存
1 \N \N
2 \N \N
3
4 null NULL
5
此時
hive> select empid ,nvl(deptid,'E'),nvl(salary,'F') from employee;
1 \N \N
2 \N \N
3 E F
4 null NULL
5 E F
總結hive中null的定義的意義在於:oracle資料匯出後原表中的null會變成'',然後匯入到hive中也變成了''。但是hive中關於NULL的一些函式如nvl,coalesce和is null卻無法使用,因為hive預設\N才代表NULL。在hive中通過
ALTER TABLE SET SERDEPROPERTIES('serialization.null.format' = '');修改''代表NULL,改造儲存過程中就不需要改nvl等語句。