1. 程式人生 > >cdh5.3.10_hadoop環境遷移之主機IP修改

cdh5.3.10_hadoop環境遷移之主機IP修改

cdh5.3.10_hadoop環境遷移
主機遷移後hadoop叢集調整:
1、修改/etc/hosts(三臺主機均需要修改)
修改前:
[[email protected] ~]# cat /etc/hosts
127.0.0.1 localhost.localdomain localhost.localdomain localhost4 localhost4.localdomain4 localhost
::1 localhost.localdomain localhost.localdomain localhost6 localhost6.localdomain6 localhost

10.117.130.207 hadoop-master
10.117.130.208 hadoop-slave1
10.117.130.209 hadoop-slave2
[

[email protected] ~]# 
修改後:
[[email protected] ~]# cat /etc/hosts
127.0.0.1 localhost.localdomain localhost.localdomain localhost4 localhost4.localdomain4 localhost
::1 localhost.localdomain localhost.localdomain localhost6 localhost6.localdomain6 localhost

10.117.130.110 hadoop-master
10.117.130.111 hadoop-slave1
10.117.130.112 hadoop-slave2
[

[email protected] ~]#

2、修改ntp時鐘同步(三臺主機均需要修改)
修改前:
[[email protected] ~]# cat /etc/ntp.conf 
server 10.117.130.207 prefer
修改後:
[[email protected] ~]# cat /etc/ntp.conf 
server 10.117.130.110 prefer

3、修改mysql中hadoop相關配置(僅在master節點修改)
修改前:
[[email protected] data]# mysql -u root -p 
Enter password: 
Welcome to the MySQL monitor. Commands end with ; or \g.
Your MySQL connection id is 58
Server version: 5.6.29 MySQL Community Server (GPL)

Copyright (c) 2000, 2016, Oracle and/or its affiliates. All rights reserved.

Oracle is a registered trademark of Oracle Corporation and/or its
affiliates. Other names may be trademarks of their respective
owners.

Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.

mysql> show databases;
+--------------------+
| Database           |
+--------------------+
| information_schema |
| am                 |
| hive               |
| mysql              |
| oozie              |
| performance_schema |
| rm                 |
| scm                |
| test               |
+--------------------+
9 rows in set (0.00 sec)


mysql> use scm;
Reading table information for completion of table and column names
You can turn off this feature to get a quicker startup with -A


Database changed
mysql> show tables;
+--------------------------------+
| Tables_in_scm                  |
+--------------------------------+
| AUDITS                         |
| CLIENT_CONFIGS                 |
| CLIENT_CONFIGS_TO_HOSTS        |
| CLUSTERS                       |
| CLUSTERS_AUD                   |
| CLUSTER_ACTIVATED_RELEASES     |
| CLUSTER_ACTIVATED_RELEASES_AUD |
| CLUSTER_MANAGED_RELEASES       |
| CLUSTER_UNDISTRIBUTED_RELEASES |
| CM_PEERS                       |
| CM_VERSION                     |
| COMMANDS                       |
| COMMAND_SCHEDULES              |
| CONFIGS                        |
| CONFIGS_AUD                    |
| CONFIG_CONTAINERS              |
| CREDENTIALS                    |
| GLOBAL_SETTINGS                |
| HOSTS                          |
| HOSTS_AUD                      |
| HOST_TEMPLATES                 |
| HOST_TEMPLATE_TO_ROLE_CONF_GRP |
| METRICS                        |
| PARCELS                        |
| PARCEL_COMPONENTS              |
| PROCESSES                      |
| PROCESS_ACTIVE_RELEASES        |
| RELEASES                       |
| RELEASES_AUD                   |
| REVISIONS                      |
| ROLES                          |
| ROLES_AUD                      |
| ROLE_CONFIG_GROUPS             |
| ROLE_CONFIG_GROUPS_AUD         |
| ROLE_STALENESS_STATUS          |
| SCHEMA_VERSION                 |
| SERVICES                       |
| SERVICES_AUD                   |
| SNAPSHOT_POLICIES              |
| USERS                          |
| USER_ROLES                     |
| USER_SETTINGS                  |
+--------------------------------+
42 rows in set (0.00 sec)


mysql> mysql> select * from HOSTS;
+---------+-------------------------+--------------------------------------+---------------+----------------+----------+--------+---------------------+-------------------+--------------------+------------+-----------+----------------------+-------------+-------------------+----------------+
| HOST_ID | OPTIMISTIC_LOCK_VERSION | HOST_IDENTIFIER                      | NAME          | IP_ADDRESS     | RACK_ID  | STATUS | CONFIG_CONTAINER_ID | MAINTENANCE_COUNT | DECOMMISSION_COUNT | CLUSTER_ID | NUM_CORES | TOTAL_PHYS_MEM_BYTES | PUBLIC_NAME | PUBLIC_IP_ADDRESS | CLOUD_PROVIDER |
+---------+-------------------------+--------------------------------------+---------------+----------------+----------+--------+---------------------+-------------------+--------------------+------------+-----------+----------------------+-------------+-------------------+----------------+
|       1 |                      14 | 135caa69-b742-467b-bf08-6742781a1b2c | hadoop-master | 10.117.130.207 | /default | NA     |                   1 |                 0 |                  0 |          1 |         4 |          12626055168 | NULL        | NULL              | NULL           |
|       2 |                      13 | de481baa-e125-4c35-8538-aa3bf7229f33 | hadoop-slave1 | 10.117.130.208| /default | NA     |                   1 |                 0 |                  0 |          1 |         4 |          12626055168 | NULL        | NULL              | NULL           |
|       3 |                      11 | 6af8fa7f-1ce1-47cd-a1a6-6d8ef91c77f2 | hadoop-slave2 | 10.117.130.209 | /default | NA     |                   1 |                 0 |                  0 |          1 |         4 |          12626055168 | NULL        | NULL              | NULL           |
+---------+-------------------------+--------------------------------------+---------------+----------------+----------+--------+---------------------+-------------------+--------------------+------------+-----------+----------------------+-------------+-------------------+----------------+
3 rows in set (0.00 sec)
mysql> update HOSTS set ip_address= '10.117.130.110' where host_id=1;
Query OK, 1 row affected (0.00 sec)
mysql> update HOSTS set ip_address= '10.117.130.111' where host_id=2;
Query OK, 1 row affected (0.00 sec)
mysql> update HOSTS set ip_address= '10.117.130.112' where host_id=3;
Query OK, 1 row affected (0.00 sec)
Rows matched: 1 Changed: 1 Warnings: 0

mysql> select * from HOSTS;
+---------+-------------------------+--------------------------------------+---------------+----------------+----------+--------+---------------------+-------------------+--------------------+------------+-----------+----------------------+-------------+-------------------+----------------+
| HOST_ID | OPTIMISTIC_LOCK_VERSION | HOST_IDENTIFIER                      | NAME          | IP_ADDRESS     | RACK_ID  | STATUS | CONFIG_CONTAINER_ID | MAINTENANCE_COUNT | DECOMMISSION_COUNT | CLUSTER_ID | NUM_CORES | TOTAL_PHYS_MEM_BYTES | PUBLIC_NAME | PUBLIC_IP_ADDRESS | CLOUD_PROVIDER |
+---------+-------------------------+--------------------------------------+---------------+----------------+----------+--------+---------------------+-------------------+--------------------+------------+-----------+----------------------+-------------+-------------------+----------------+
|       1 |                      14 | 135caa69-b742-467b-bf08-6742781a1b2c | hadoop-master | 10.117.130.110 | /default | NA     |                   1 |                 0 |                  0 |          1 |         4 |          12626055168 | NULL        | NULL              | NULL           |
|       2 |                      13 | de481baa-e125-4c35-8538-aa3bf7229f33 | hadoop-slave1 | 10.117.130.111 | /default | NA     |                   1 |                 0 |                  0 |          1 |         4 |          12626055168 | NULL        | NULL              | NULL           |
|       3 |                      11 | 6af8fa7f-1ce1-47cd-a1a6-6d8ef91c77f2 | hadoop-slave2 | 10.117.130.112 | /default | NA     |                   1 |                 0 |                  0 |          1 |         4 |          12626055168 | NULL        | NULL              | NULL           |
+---------+-------------------------+--------------------------------------+---------------+----------------+----------+--------+---------------------+-------------------+--------------------+------------+-----------+----------------------+-------------+-------------------+----------------+
3 rows in set (0.00 sec)


mysql>

mysql> commit;
Query OK, 0 rows affected (0.00 sec)
mysql>

4、重啟cdh-hadoop的服務
[[email protected] data]# /opt/cloudera-manager/cm-5.3.10/etc/init.d/cloudera-scm-server restart
鍋滄 cloudera-scm-server錛 [紜畾]
Starting cloudera-scm-server: [紜畾]
[[email protected] data]# /opt/cloudera-manager/cm-5.3.10/etc/init.d/cloudera-scm-agent restart
Stopping cloudera-scm-agent: [紜畾]
姝e湪鍚姩 cloudera-scm-agent錛 [紜畾]
[[email protected] data]
[[email protected] ~]# /opt/cloudera-manager/cm-5.3.10/etc/init.d/cloudera-scm-agent start
姝e湪鍚姩 cloudera-scm-agent錛 [紜畾]
[[email protected] ~]# 
[[email protected] ~]# /opt/cloudera-manager/cm-5.3.10/etc/init.d/cloudera-scm-agent start
姝e湪鍚姩 cloudera-scm-agent錛 [紜畾]
[[email protected] ~]#

5、登入cdh叢集web管理頁面
http://10.117.130.110:7180/cmf/home
首先保證CDH第一個服務即主機一項是正常的
看到部分服務提示配置資訊過舊:需要重新部署客戶端配置 此時點選連結按照頁面提示重新部署客戶端配置即可

6、重新部署cdh部分服務的客戶端配置後重啟cdh服務,cdh恢復正常



注意:由於cdh三臺虛擬主機是映象過來的,cdh相關服務檔案或程序有狀態保留,需要查殺相關程序
本次處理中,碰到節點2重啟agent客戶端程序一直在執行,問題出在9000埠相應的程序佔用,導致cdh識別節點2出現問題
[[email protected] ~]# /opt/cloudera-manager/cm-5.3.10/etc/init.d/cloudera-scm-agent start
cloudera-scm-agent is already running
[[email protected] ~]# netstat -nap | grep 9000
tcp 0 0 10.117.130.111:9000 0.0.0.0:* LISTEN 12510/python 
tcp 0 0 10.117.130.111:44223 10.117.130.111:9000 TIME_WAIT - 
[[email protected] ~]# kill -9 0
Connection to hadoop-slave1 closed.
[[email protected] ~]# netstat -nap | grep 9000
[[email protected] ~]# /opt/cloudera-manager/cm-5.3.10/etc/init.d/cloudera-scm-agent start
姝e湪鍚姩 cloudera-scm-agent錛 [紜畾]
[[email protected] ~]# netstat -nap | grep 9000
tcp 0 0 10.117.130.112:9000 0.0.0.0:* LISTEN 3689/python 
tcp 0 0 10.117.130.112:50759 10.117.130.112:9000 TIME_WAIT - 
[[email protected] ~]#

相關推薦

cdh5.3.10_hadoop環境遷移主機IP修改

cdh5.3.10_hadoop環境遷移 主機遷移後hadoop叢集調整: 1、修改/etc/hosts(三臺主機均需要修改) 修改前: [[email protected] ~]# cat /etc/hosts 127.0.0.1 localhost.loca

環境遷移Oracle資料庫遷移

因環境升級變更,現需要將舊的開發測試環境中的資料遷移到新的開發環境中。以下是本次資料遷移工作的過程記錄。 第一步:連線登入舊的資料庫環境,檢視業務使用者的預設表空間是哪些。 select username, default_tablespace from dba_user

V-5-3 Vmware VDI環境安裝Horizon View Agent

vmware horizon view agent vdi 1.操作系統準備安裝vmware tool可以在這裏刪除C盤下的頁面文件(pagefile.sys),它們占用了大量的空間,在克隆虛擬機的時候會浪費掉大量空間。系統將會在運行時生成它。2.加域模板主機不需要固定IP地址,否則所有的克隆出來

LAMP環境搭配配置apache虛擬主機

apache 虛擬主機 apache主配置文件/usr/local/apache2.4/conf/httpd.conf 定義網站根目錄 DocumentRoot "/usr/local/apache2.4/htdocs" 定義網站域名 ServerName www.example.com:80 定

Linux雲伺服器初學六——伺服器的克隆祕鑰連線和IP主機修改

第一步 我們可採用伺服器克隆的方式生成一個新的伺服器,我採用的是vmware的克隆功能。 第二步 我們需要更改主機名稱: vim /etc/sysconfig/network HOSTNAME=XXX —-XXX即為你的主機名稱 hostna

細說Mammut大資料系統測試環境Docker遷移

歡迎訪問網易雲社群,瞭解更多網易技術產品運營經驗。 前言 最近幾個月花了比較多精力在專案的測試環境Docker遷移上,從最初的docker“門外漢”到現在組裡的同學(大部分測試及少數的開發)都可以熟練地使用docker環境開展測試工作,中間也積累了一些經驗和踩過不少坑,藉此2017覆盤的機會,總結一下整個環

細說Mammut大數據系統測試環境Docker遷移

演進 擴展 固定 mesos enc ase 活躍度 systemd 獲取 歡迎訪問網易雲社區,了解更多網易技術產品運營經驗。前言最近幾個月花了比較多精力在項目的測試環境Docker遷移上,從最初的docker“門外漢”到現在組裏的同學(大部分測試及少數的開發)都可以熟練地

Spring Cloud:多環境配置、註冊中心安全認證、容器宿主機IP註冊

記錄一下搭建 Spring Cloud 過程中踩過的一些坑。寫這篇隨筆時候不知道為什麼想到了看過的一個短片《斷崖》,看的時候真的感受到了女主的絕望和無助。感覺自己就像女主一樣,我在自己技術水平的坑裡努力的爬著,好的是我爬出來了,壞的是外面還有一個更大的坑!!!人生路漫漫,且爬且珍惜! Spring 版本

LVS負載均衡虛擬主機IP隧道模式

  本文包含LVS負載均衡的IP隧道模式的工作原理,以及如何使用它以大大提高伺服器叢集的擴充套件性。 IP隧道-IP tunneling IP隧道(IP封裝)是一種將IP資料報封裝到IP資料報中的技術,它允許將預定IP地址的資料報包裝並重定向到另一個IP地址,IP

【3D-slicer環境搭建】vs2013 + qt5.3.2 環境搭建

開啟http://download.qt.io/archive/網址 下載qt及外掛,具體詳見 http://blog.csdn.net/haodemei2010/article/details/45484389

Linux 網路程式設計通過IP或者主機名獲取資訊

struct hostent { char *h_name; /* 主機的正式名稱*/ char **h_aliases; /* 主機的別名列表*/ int h_addrtype; /* 主機的地址型

Android進階路(一) -- AS 3.0NDK環境搭建及hello world

通過一段找實習的經歷,以及快應用、小程式、web app等移動開發模式的衝擊,深深為安卓原生開發的未來感到擔憂,希望接入人工智慧API和物聯網井噴能給安卓開發帶來新的生機吧。當然,作為小白我是不用擔心這麼多的,做自己喜歡的事就好了,於是拋開雜念,繼續學習安卓。NDK開發環境的

[原創]ObjectARX開發環境搭建VS2010+ObjectARX2012Wizard+Addin工具條問題修復

系統 右鍵 9.png line cls sid 新建 使用 開發環境 目前ObjectARX版本越來越高,也越來越簡化開發,如果需要同時開發低版本和高版本的ARX程序,就需要搭建批量編譯環境,以滿足ARX開發的需要。 批量編譯的搭建網絡上已經有了很多的教程,基本上都是基於

js常見知識點3.面向對象繼承、設計模式

環境 設計 方法 nbsp -- div 細節 外部 接口實現 一、面向對象的三大特征   建議回復:    封裝:屏蔽內部細節、調用外部接口實現對應功能(函數調用)   繼承:子類繼承父類中的屬性和方法   多態(js中不存在多態的概念) 二、繼承   建議回復: 

React Native環境配置Windows版本搭建

services 就會 wrapper function 新建項目 之前 path ont 系統 接近年底了,回想這一年都做了啥,學習了啥,然後突然發現,這一年買了不少書,看是看了,就沒有完整看完的。悲催。然後,最近項目也不是很緊了,所以抽空學習了H5。自學啃書還是很無趣的

內部排序(3)——插入排序折半插入排序

復雜 span oid pre 時間 查找 insert -1 順序 因為插入排序的基本思想是在一個有序序列中插入一個新的記錄,則能夠利用"折半查找"查詢插入位置,由此得到的插入排序算法為"折半插入排序"。算法例如以下: void BInsertSort ()  {

【安裝Python環境“安裝 setuptools ”時出現的問題以及解決辦法

ace python環境 str ots tar oot bsp users 默認 安裝Python環境時,還需要安裝“setuptools 與 pip”,但是安裝setuptools時出現了幾個問題,如下: setuptools 與 pip 下載地址如下:https://

Vulkan Tutorial 01 開發環境搭建Windows

異常 方案 party return info auto 行程 while nload 操作系統:Windows8.1 顯卡:Nivida GTX965M 開發工具:Visual Studio 2017 相信很多人在開始學習Vulkan開發的起始階段都會在開發環境的配置上

Node.js安裝及環境配置Windows篇

npm安裝 data- 緩存 裏的 環境配置 cmd命令 服務 string ext 1、本機系統:Windows 10 Pro(64位)2、Node.js:v6.9.2LTS(64位) 二、安裝Node.js步驟 1、下載對應你系統的Node.js版本:https:/

三、環境搭建 Windows10 安裝 Apache2.4.23

地址 管理員 解壓 技術 項目 可能 配置 httpd 安裝步驟 操作系統:Windows10 家庭中文版 Apache版本:2.4.23 下載地址:http://pan.baidu.com/s/1nuB6cjf 參考文檔:win7(64位)php5.5-Apache2.4