Linux-centos下安裝hue視覺化以及與hdfs、hive、hbase和mysql的整合
1. Hue概述及版本下載
1)概述
Hue是一個開源的Apache Hadoop UI系統,最早是由Cloudera Desktop演化而來,由Cloudera貢獻給開源社群,它是基於Python Web框架Django實現的。通過使用Hue我們可以在瀏覽器端的Web控制檯上與Hadoop叢集進行互動來分析處理資料,例如操作HDFS上的資料,執行MapReduce Job等等。
2)下載
CDH版本下載
官網下載
2. 編譯安裝
1)解壓
tar -zxf hue-3.9.0-cdh5.5.0.tar.gz -C /opt/modules/
2)安裝依賴包(下面的包可能多了幾個)
yum install ant asciidoc cyrus-sasl-devel cyrus-sasl-gssapi cyrus-sasl-plain gcc gcc-c++ krb5-devel libtidy libffi-devel libxml2-devel libxslt-devel make mysql mysql-devel openldap-devel python-devel sqlite-devel gmp-devel openssl-devel mysql-devel
3)編譯
cd hue-3.9.0-cdh5.5.0
make apps
3. Hue基本配置與服務啟動
1)修改配置檔案(vi $HUE_HOME/desktop/conf/hue.ini)
# 祕鑰
secret_key=jFE93j;2[290-eiw.KEiwN2s3['d;/.q[eIW^y#e=+Iei*@Mn < qW5o
# host port
http_host=node7
http_port=8888
# 時區
time_zone=Asia/Shanghai
2)新增hue使用者修改desktop.db 檔案許可權和所屬使用者(不能為root使用者)
chmod o+w desktop/desktop.db
adduser hue
chown -R hue:hue
3)啟動Hue服務
/opt/modules/hue-3.9.0-cdh5.5.0/build/env/bin/supervisor
4)檢視Hue web介面
訪問地址:http://node7:8888
4. Hue與HDFS整合,HDFS安裝參考部落格
1)修改core-site.xml配置檔案,新增如下內容
<property>
<name>hadoop.proxyuser.hue.hosts</name>
<value>*</value>
</property>
<property>
<name>hadoop.proxyuser.hue.groups</name>
<value>*</value>
</property>
2)修改hue.ini配置檔案
fs_defaultfs=hdfs://node5:9000<span style="white-space:pre;"> </span>// hdfs預設路徑
webhdfs_url=http://node5:50070/webhdfs/v1
hadoop_hdfs_home=/opt/modules/hadoop-2.5.0
hadoop_bin=/opt/modules/hadoop-2.5.0/bin
hadoop_conf_dir=/opt/modules/hadoop-2.5.0/etc/hadoop
3)將core-site.xml配置檔案分發到其他節點
scp core-site.xml node6:/opt/modules/hadoop-2.5.0/etc/hadoop
scp core-site.xml node7:/opt/modules/hadoop-2.5.0/etc/hadoop
4)重新啟動hue
/opt/modules/hue-3.9.0-cdh5.5.0/build/env/bin/supervisor
5)訪問url
地址:http://node7:8888/filebrowser/
5. Hue與YARN整合,YARN安裝參考部落格
1)修改hue.ini配置檔案
resourcemanager_host=zxl2
resourcemanager_port=8032
submit_to=true
resourcemanager_api_url=http://node5:8088
proxy_api_url=http://node5:8088
history_server_api_url=http://node5:19888
2)重新啟動hue
/opt/modules/hue-3.9.0-cdh5.5.0/build/env/bin/supervisor
6. Hue與Hive整合,Hive安裝參考部落格
1)修改hue.ini配置檔案
hive_server_host=node7
hive_server_port=10000
hive_conf_dir=/opt/modules/hive-0.13.1-bin/conf
2)重新啟動hue
/opt/modules/hue-3.9.0-cdh5.5.0/build/env/bin/supervisor
7. Hue與mysql整合,mysql安裝參考部落格
1)修改hue.ini配置檔案
nice_name="My SQL DB" // 隨意配置
name=metastore // 資料庫名
engine=mysql
host=node7
port=3306
user=root
password=1234
注意:[[[mysql]]]前的##要刪掉
2)重新啟動hue
/opt/modules/hue-3.9.0-cdh5.5.0/build/env/bin/supervisor
8. Hue與HBase整合,HBase安裝參考部落格
1)修改hue.ini配置檔案
hbase_clusters=(Cluster|node5:9090) // 隨意配置叢集中某一臺hbase
hbase_conf_dir=/opt/modules/hbase-0.98.6-cdh5.3.0/conf
2)HBase中啟動thrift服務
bin/hbase-daemon.sh start thrift
9. Hue使用注意事項
1)hive 啟動使用後臺啟動
nohup bin/hiveserver2 &
2)hue使用穩定版本:hue-3.7.0-cdh5.3.6
原文:https://blog.csdn.net/u011254180/article/details/80178771