1. 程式人生 > 實用技巧 >CDH 6 安裝筆記

CDH 6 安裝筆記

環境準備

  • 三個Linux節點,一個管理節點,兩個受管節點
  • 每個節點配置好JDK1.8環境
  • CM版本6.3.1
  • CDH版本6.2.0
  • 設定主機名:cdh001,cdh002,cdh003
  • 每個節點配置host檔案以下內容

xxx.xxx.xxx.xxx cdh001

xxx.xxx.xxx.xxx cdh002

xxx.xxx.xxx.xxx cdh003

安裝過程

配置yum本地源

wget https://archive.cloudera.com/cm6/6.3.1/redhat7/yum/cloudera-manager.repo
mv cloudera-manager.repo /etc/yum.repos.d/
rpm --import https://archive.cloudera.com/cm6/6.3.1/redhat7/yum/RPM-GPG-KEY-cloudera

安裝Cloudera Manager

管理節點執行以下安裝命令:

yum install -y cloudera-manager-daemons
yum install -y cloudera-manager-agent
yum install -y cloudera-manager-server

daemons若安裝成功,如圖所示:

其他節點執行以下安裝命令:

yum install -y cloudera-manager-daemons
yum install -y cloudera-manager-agent

注:yum支援斷點續傳,如果斷了重新執行即可。

配置資料庫:

CREATE DATABASE cmf DEFAULT CHARACTER SET utf8 DEFAULT COLLATE utf8_general_ci;
CREATE DATABASE cmf DEFAULT CHARACTER SET utf8 DEFAULT COLLATE utf8_general_ci;
CREATE DATABASE hive DEFAULT CHARACTER SET utf8 DEFAULT COLLATE utf8_general_ci;
CREATE DATABASE hue DEFAULT CHARACTER SET utf8 DEFAULT COLLATE utf8_general_ci;
CREATE DATABASE oozie DEFAULT CHARACTER SET utf8 DEFAULT COLLATE utf8_general_ci;

配置MySQL的驅動包

mkdir /usr/share/java
cp 你的路徑/mysql-connector-java-5.1.48.jar  /usr/share/java
cd /usr/share/java
mv mysql-connector-java-5.1.48.jar mysql-connector-java.jar

線上或離線下載CDH包,放置到下面的路徑

/opt/cloudera/parcel-repo/

修改Server和Agent的配置

vi  /etc/cloudera-scm-server/db.properties

檢視Server啟動日誌

tail -200f /var/log/cloudera-scm-server/cloudera-scm-server.log

檢視server狀態

systemctl status cloudera-scm-server

檢視agent狀態

systemctl restart cloudera-scm-agent

重啟server和agent的命令如下:

systemctl restart cloudera-scm-server
systemctl restart cloudera-scm-agent

管理叢集

在server和agent啟動後,登入如下地址進入web管理介面,預設使用者名稱、密碼:admin/admin

http://主節點ip:7180/cmf

首次登入,按嚮導step by step,進行配置,如圖所示:

按嚮導配置完成,就ok了。

附錄

報錯:Couldn't open file /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7

在執行

yum install -y cloudera-manager-agent時,若出現錯誤提示Couldn't open file /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7,執行以下命令後再次嘗試就能通過了。

cd /etc/pki/rpm-gpg
wget https://archive.fedoraproject.org/pub/epel/RPM-GPG-KEY-EPEL-7

報錯:org.apache.hadoop.hdfs.server.namenode.SafeModeException: Cannot create directory

報這個錯,需要把安全模式關掉,執行以下命令:

hdfs dfsadmin -safemode leave

如果執行上述命令報錯:

safemode: Access denied for user root. Superuser privilege is required。

則需要修改/etc/passwd 中的/sbin/nologin -->/bin/bash

在管理端無法新增節點的問題

檢查你的hosts檔案,確認主機被正確地配置。