1. 程式人生 > >Hive命令列及引數配置

Hive命令列及引數配置

1 . Hive  命令列

    輸入$HIVE_HOME/bin/hive –H 或者 –help 可以顯示幫助選項:

    說明:

      1、 -i 初始化 HQL 檔案。

      2、 -e 從命令列執行指定的 HQL

      3、 -f 執行 HQL 指令碼

      4、 -v 輸出執行的 HQL 語句到控制檯

      5、 -p <port> connect to Hive Server on port number

      6、 -hiveconf x=y Use this to set hive/hadoop configuration variables.

    例如:

      $HIVE_HOME/bin/hive -e 'select * from tab1 a'

      $HIVE_HOME/bin/hive -f /home/my/hive-script.sql

      $HIVE_HOME/bin/hive -f hdfs://<namenode>:<port>/hive-script.sql

      $HIVE_HOME/bin/hive -i /home/my/hive-init.sql

      $HIVE_HOME/bin/hive -e 'select a.col from tab1 a'

        --hiveconf hive.exec.compress.output=true

        --hiveconf mapred.reduce.tasks=32

2 . Hive 引數配置

  開發 Hive 應用時,不可避免地需要設定 Hive 的引數。設定 Hive 的引數可以調優 HQL 程式碼的執行效率,或幫助定位問題。然而實踐中經常遇到的一個問題是,為什麼設定的引數沒有起作用?這通常是錯誤的設定方式導致的。

  對於一般引數,有以下三種設定方式:

    配置檔案 (全域性有效)

    命令列引數 (對 hive 啟動例項有效)

    引數宣告 (對 hive 的連線 session 有效)

  配置檔案

    使用者自定義配置檔案:$HIVE_CONF_DIR/hive-site.xml

    預設配置檔案:$HIVE_CONF_DIR/hive-default.xml

    使用者自定義配置會覆蓋預設配置。

    另外,Hive 也會讀入 Hadoop 的配置,因為 Hive 是作為 Hadoop 的客戶端啟動的,Hive 的配置會覆蓋 Hadoop 的配置。

    配置檔案的設定對本機啟動的所有 Hive 程序都有效。

  命令列引數

    啟動 Hive(客戶端或 Server 方式)時,可以在命令列新增-hiveconf 來設定引數

      例如:bin/hive -hiveconf hive.root.logger=INFO,console

    設定對本次啟動的 Session(對於 Server 方式啟動,則是所有請求的 Sessions)有效。

  引數宣告

    可以在 HQL 中使用 SET 關鍵字設定引數,這一設定的作用域也是 session 級的。

      比如:

      set hive.exec.reducers.bytes.per.reducer=<number> 每個 reduce task 的平均負載資料量

      set hive.exec.reducers.max=<number> 設定 reduce task 數量的上限

      set mapreduce.job.reduces=<number> 指定固定的 reduce task 數量

    但是,這個引數在必要時<業務邏輯決定只能用一個 reduce task> hive 會忽略

    上述三種設定方式的優先順序依次遞增。即引數宣告覆蓋命令列引數,命令列引數覆蓋配置檔案設定。注意某些系統級的引數,例如 log4j 相關的設定,必須用前兩種方式設定,因為那些引數的讀取在 Session 建立以前已經完成了。