Centos7下Hortonworks的Ambari-server和Hadoop叢集平臺重灌.
Ambari是apache的頂級專案, 是一套類似一鍵包安裝hadoop叢集的快速部署工具.
本文是因為配置kerberos 授權的時候, 需要加安裝一些功能, 比如tez的時候, 某個包(pig 安裝失敗,) 導致禁用kerberos 無效.
進而陷入死迴圈不得不重灌. 因為是物理機沒有回滾機制. 所以記錄下重灌的步驟.
我這裡因為是叢集, 所以需要配置centos7的ambari, HDP和HDP-UTILS的本地源,
簡單寫一下. 找一臺國外的速度快的centos7的機器,
yum install yum-utils createrepo yum-plugin-priorities
cd /etc/yum.repos .d/
wget repo_file
wget http://public-repo-1.hortonworks.com/ambari/centos7/2.x/updates/2.2.1.0/ambari.repo
http://public-repo-1.hortonworks.com/ambari/centos7/2.x/updates/2.2.1.0/ambari-2.2.1.0-centos7.tar.gz
wget http://public-repo-1.hortonworks.com/HDP/centos7/2.x/updates/2.4.0.0/hdp.repo
http://public-repo-1. hortonworks.com/HDP/centos7/2.x/updates/2.4.0.0/HDP-2.4.0.0-centos7-rpm.tar.gz
http://public-repo-1.hortonworks.com/HDP-UTILS-1.1.0.20/repos/centos7/HDP-UTILS-1.1.0.20-centos7.tar.gz
cd /tmp
mkdir ambari
mkdir hdp
reposync -r repo_soft_name
reposync -r Updates-ambari-2.2.1.0
reposync -r HDP-2.4.0.0
reposync -r HDP-UTILS-1.1 .0.20
把包傳回本地,並解壓到某個目錄下, 然後安裝apache 或者nginx提供web伺服器功能的工具.
install apache or others web services
Repository Base URL
Ambari Base URL http://<web.server>/ambari/<OS>/Updates-ambari-2.2.1.0
HDP Base URL http://<web.server>/hdp/<OS>/HDP-<latest.version>
HDP-UTILS Base URL http://<web.server>/hdp/<OS>/HDP-UTILS-<version>
建立repofile
createrepo filepath
createrepo Updates-ambari-2.2.1.0
createrepo HDP-2.4.0.0
createrepo HDP-UTILS-1.1.0.20
編輯本地的repo.file, 增加三個對應的repofile,
分別是ambari.repo, HDP.repo, HDP-UTILS.repo
vim /etc/yum.repos.d/repo.file
touch ambari.repo HDP.repo HDP-UTILS.repo
分別加入下面的內容
#VERSION_NUMBER=2.2.1.00
[Updates-ambari-2.2.1.0]
name=ambari-2.2.1.0 - Updates
baseurl=http://<web.server>/ambari_repo_rpms/centos7/Updates-ambari-2.2.1.0
gpgcheck=0
gpgkey=http://public-repo-1.hortonworks.com/ambari/centos7/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins
enabled=1
priority=1
make gpgcheck=0
[HDP-2.4]
name=HDP-2.4
baseurl=http://<web.server>/hdp_repo_rpms/centos7/HDP-2.4.0.0/
path=/
enabled=1
gpgcheck=0
[HDP-UTILS-1.1.0.20]
name=HDP-UTILS-1.1.0.20
baseurl=http://<web.server>/hdp_repo_rpms/centos7/HDP-UTILS-1.1.0.20/
#baseurl=http://public-repo-1.hortonworks.com/HDP-UTILS-1.1.0.20/repos/centos7/
path=/
enabled=1
gpgcheck=0
接下來yum clean metadata後就可以開始重新安裝了.
需要刪除掉以下的包
yum remove -y hadoop_* zookeeper* ranger* hbase_* ranger* hbase_* ambari-* hadoop_* zookeeper_* hbase* range* pig* hive* tez* mysql-* bigtop-* tuned-* ambari-* apache-maven* postgresql*
同時需要刪除對應的目錄和配置, 資料備份
cd /usr/lib/
rm -rf hadoop hbase zookeeper hcatalog hive ambari-* storm ams-hbase flume hadoop-* falcon* slider* pgsql*
cd /var/lib/
rm -rf ambari-* hadoop-* pgsql oozie* hive* falcon* slider*
cd /var/log/
rm -rf hadoop hbase spark tuned ambari-* zookeeper hadoop-* hive* oozie* storm* kafka* falcon* slider*
find ./ -type f | grep -E "[a-z]+-[0-9]+" | xargs rm
cd /etc/
rm -rf hadoop hbase hive* ambari-* spark tez tuned zookeeper maven* oozie* storm* ams-* hadoop-* falcon* slider*
rm -rf /hadoop/*
cd /usr/share
rm -rf apache-maven HDP-oozie maven-* falcon*
rm /usr/hdp
cd /usr/bin
rm -rf mvnyjp
ls -la | grep hdp | awk '{ print $9 }' | xargs rm
cd /home #刪除對應的使用者目錄
rm -rf oozie mapred zookeeper storm yarn hive spark tez kafka hcat hdfs hbase ams ambari-* knox
cd /var/spool/mail
rm -rf ambari-* ams hadoop hbase hcat hdfs hive kafka knox mapred oozie slider spark storm tez yarn zookeeper
cd /
rm -rf kafka-logs hadoop
cd /tmp
rm -rf hadoop* hsperfdata* Jetty* hbase* ambari* jetty* MIME* ehcache* oozie* hive
cd /usr/lib/python2.6/site-packages
rm -rf ambari* resource_*
ps aux | grep ambari | awk '{ print NR=$2 }' | xargs kill -9
yum clean metadata
yum repolist
接下來刪除裡面對應的使用者和組.
vim /etc/passwd
vim /etc/group
然後就可以重啟下然後開始重新安裝了.
相關推薦
Centos7下Hortonworks的Ambari-server和Hadoop叢集平臺重灌.
Ambari是apache的頂級專案, 是一套類似一鍵包安裝hadoop叢集的快速部署工具. 本文是因為配置kerberos 授權的時候, 需要加安裝一些功能, 比如tez的時候, 某個包(pig 安裝失敗,) 導致禁用kerberos 無效. 進而
Centos7下python2.x 和python3.x共存
help arc 3.x lsd its oct 2.7 pil 安裝路徑 摘要 目前centos7系統自帶的Python版本是2.7.5,這個版本唄系統中的很多程序鎖依賴,所有我們不可能去刪除它。如果這個時候我們還想用python3.x 版本,其實這裏有兩個方式,一個是
Centos7下的Openssl和CA
tap 需要 密文 rtb nmf 密碼 cux next sse 一、Openssl常用命令:# openssl ? # 查看openssl的命令及子命令 # man enc # 可以直接查看子命令幫助加密:# openssl enc -des3 -e -sa
CentOS7下安裝pip和pip3
usr -s local OS 檢查 命令 直接 安裝 inux 1、首先檢查linux有沒有安裝python-pip包,直接執行 yum install python-pip 2、沒有python-pip包就執行命令 yum -y install epel-release
CentOS7下安裝Python3和Python2並存
python3 python yum (一)簡述剛安裝的centos7.4版本默認是安裝Python2.7,由於一些命令需要使用的原因,比如yum等,使用的是2.7.5版本的,由於現在很多庫包括django都是使用Python3,因此,有這樣的需求:yum使用python2.7版本,django和其他
CentOS7下jenkins遷移和升級以及解決磁盤空間滿的問題下
done init.d pidfile mtime 磁盤空間 查找 centos -o root jenkins遷移和升級 查看jenkins安裝包以及路徑[root@Jenkins ~]# rpm -ql jenkins/etc/init.d/jenkins/etc/lo
centos7下mongoDB安裝和配置
profile sta 後臺 守護 .cn 保存 配置 oca 命名 2018-10-31更新 yum –y install mongodb-org 找不到這個包,清華源: https://mirrors.tuna.tsinghua.edu.cn/help/mongodb/
大資料之(1)Centos7上搭建全分散式Hadoop叢集
本文介紹搭建一個Namenode兩個DataNode的Hadoop全分散式叢集的全部步驟及方法。具體環境如下: 一、環境準備 3個Centos7虛擬機器或者3個在一個區域網內的實際Centos7機器,機器上已安裝JDK1.8,至於不會安裝Centos7或者JDK1.8的同
【轉載】CentOS7下用yum快速搭建LAMP平臺(應用於安裝zabbix)
實驗環境: [[email protected]7 html]# cat /etc/redhat-release CentOS release 7.3.1611 (AltArch) [[email protected]-7 html]# uname -a Linux
centos7下mongodb安裝和配置 (轉載)
1、下載安裝包 curl -O https://fastdl.mongodb.org/linux/mongodb-linux-x86_64-3.2.12.tgz 2、解壓 tar -zxvf mongodb-linux-x86_64-3.2.12.tgz
centos7下基於docker部署ceph叢集及遇到的問題
Ceph是一個統一的分散式儲存系統,提供較好的效能、可靠性和可擴充套件性。 本文使用三臺伺服器進行安裝,vm1,vm2,vm4,及每臺伺服器上所要安裝的內容 vm1 vm2 vm3 monitor monitor monitor
用kubeadm在centos7下搭建k8s 1.12叢集
在搭建的過程中遇到一個難題 本地將下載的映象包,匯入到本地並打好tag後,執行 kubeadm init命令,還會一直去拉取映象,不知道原因? [[email protected] log]# kubeadm init I1113 15:31:40.17659
CentOs7下Nginx+tomcat實現小叢集
廢話不多說,由於本人只有三臺可用伺服器,所以搭建一個簡單的nginx+tomcat小叢集。很簡單,僅供學習參考 準備: 三臺雲伺服器或者三臺虛擬機器均可(系統為centos7),原理相近。由於在window下叢集十分簡單,所以演示CentOs7下實現小叢
centos7下安裝nginx和設定開機啟動
首先安裝一些必須的庫 yum -y install make zlib zlib-devel gcc-c++ libtool openssl openssl-devel 安裝 PCRE w
Linux系統:centos7下搭建Nginx和FastDFS檔案管理中介軟體
一、FastDFS簡介 1、基礎概念 FastDFS是一個開源的輕量級分散式檔案系統,它對檔案進行管理,功能包括:檔案儲存、檔案同步、檔案上傳、檔案下載等,解決了大容量儲存和負載均衡的問題。 2、環境概覽 1、預設存在Gcc編譯環境,Centos7虛擬機器 2、安裝LibFastCommon環境 3、Fas
ubutnu和win7雙系統重灌win7之後恢復GRUB2引導
http://www.huomo.cn/os/article-1ac95.html KIWI的部落格第一帖:恢復grub引導雙系統 前言:ubuntu和win7的雙系統有很多種安裝方法,許多人用的wubi安裝,但是由於wubi安裝對本機的影響比較大,所以不推薦wubi安裝。
Win10+Ubuntu雙系統UEFI啟動方式下GRUB消失直接進入Windows以及重灌時grub-install致命錯誤解決方法
問題描述: 雙系統安裝十分順利,我是先裝Windows再裝Ubuntu,成功後開機可以看到Grub載入程式,看似已經成功但是進入Windows後再開機就看不見Grub載入程式,無論是你重啟還是關機。重灌Ubuntu發現一到安裝grub-install時就fatal er
Windows平臺下結合 tortoiseSVN 和 VisualSVN Server 搭建SVN服務器並實現 web 站點同步
tar 效果 sql services 文檔 src 版本 att file 1. tortoiseSVN 關於 tortoiseSVN 的安裝使用詳見博文 TortoiseSVN的安裝及其簡單使用。 2. VisualSVN Server 關於 VisualS
CentOS7.4下 VNC Server的搭建和客戶端的連接配置
all centos connect linux water view con -- ref CentOS7.4下 VNC Server的搭建和客戶端的連接配置 服務器版本:CentOS Linux release 7.4.1708 (Core) yum方式安裝VN
CentOS7下靜態ip地址分配(Hadoop叢集搭建)
作業系統是CentOS 在搭建Hadoop過程中,發現每一次啟動虛擬機器,ip地址就會變化。 這是由於一開始安裝CentOS的時候,有一個自動連線乙太網,他會自動給你分配ip地址,但是我們往往需要的是另一個。 首先看我的主機對映, 可以看到131,132,133 對應是,主機,