環境搭建-CentOS集群搭建
環境搭建-CentOS集群搭建
寫在前面
最近有許多小夥伴問我,大數據的hadoop分布式集群該如何去搭建。所以,想著,就寫一篇博客,幫助到更多剛入門大數據的人。本博客會一步一步帶你實現一個Hadoop的搭建。跟著博客上面的步驟,很詳細的。你很快就會有一個自己的hadoop集群啦。
我是在自己的windows機器上使用virtualBox來虛擬三臺機器,作為實驗的環境。
實驗環境
Windows 宿主機:Windows 10 (其余也是可以的)
VirtualBox 版本:VirtualBox 5.1.22
CentOS 版本:CentOS 6.9
Xshell 版本:Xshell 5
可能許多的小夥伴,會因為找軟件比較麻煩。我這裏直接分享在了我的百度雲的鏈接,方便大家下載:
鏈接:http://pan.baidu.com/s/1c24gbUK 密碼:8h1r
接下來,我們就開始創建虛擬機
使用VirtualBox創建虛擬機
使用VirtualBox創建三臺CentOS作為項目實驗集群。
跟著下面的步驟就好:
打開virtualBox軟件,我們new一個:
接下來,我們點擊設置按鈕
設置我們的存儲,把我們的鏡像添加進去
設置我們的網絡連接(很重要)
上面的設置完成之後,我們就可以開啟,開始安裝centos了
接下來的兩項默認就好,這裏需要註意一下
設置時區為亞洲,上海
設置密碼,我這裏為了方便,直接設置為123456
由於密碼安全太低,這裏選擇不管如何都使用就好
磁盤分區,默認就好
等待它自己安裝,這個時候,你也可以按照這個步驟再去新建兩臺機器
會出現reboot的按鈕,重啟就好
重啟之後,我們輸入賬號密碼,進入:
一開始是沒有ip的,是需要我們設置的,
設置IP
設置 網卡onboot=yes即可,自動獲取
[root@localhost ~]# cd /etc/sysconfig/network-scripts/ [root@localhost network-scripts]# [root@localhost network-scripts]# vi ifcfg-eth0 DEVICE=eth0 HWADDR=08:00:27:72:EC:EE TYPE=Ethernet UUID=6b262313-ddd5-4a97-bb75-771ea5621f91 ONBOOT=yes NM_CONTROLLED=yes BOOTPROTO=dhcp #:wq 保存退出
重新啟動網絡
[root@localhost network-scripts]# service network restart
測試,去ping百度:
到這裏我們的centos就安裝好了,說明一下,網絡一定要連通,不然,後面,會比較麻煩。
依據,這個操作,我們再重新新建兩臺機器。
使用Xshell連接我們的服務器
xshell這個軟件還是很好用得,
新建連接
接下來,就是輸入用戶和密碼,輸入就好。
這裏把下面的框選上,這樣以後就不用輸賬號密碼了
上面就表示登錄成功了
安裝常用軟件
下面安裝lrzsz這個軟件,是用來傳輸文件的,比較實用的一個軟件,當然,你也可以選擇自己的方式
[root@localhost ~]# yum -y install lrzsz
....
Installed:
lrzsz.x86_64 0:0.12.20-27.1.el6
Complete!
好啦,到這裏我們就安裝好了
安裝JDK環境
在開始安裝之前,
我們先新建一個目錄,這樣比較規範,這個看個人習慣就好
[root@localhost ~]#
[root@localhost ~]# mkdir app
[root@localhost ~]# mkdir softwares
[root@localhost ~]#
[root@localhost ~]# mkdir lib
[root@localhost ~]#
[root@localhost ~]# mkdir data
[root@localhost ~]#
#app軟件安裝的目錄
#softwares軟件的存放目錄
#lib架包的存放目錄
#data測試的數據存放目錄
接下來,我們把jdk文件上傳到我們的服務器,
使用rz命令
上傳完畢之後,就開始解壓到app目錄下
[root@localhost softwares]# tar -zxvf jdk-8u144-linux-x64.tar.gz -C ../app/
解壓完畢之後,就可以配置環境變量
[root@localhost ~]# vim ~/.bash_profile
# .bash_profile
# Get the aliases and functions
if [ -f ~/.bashrc ]; then
. ~/.bashrc
fi
export JAVA_HOME=/root/app/jdk1.8.0_144
export PATH=$JAVA_HOME/bin:$PATH
再source一下,使得我我們的環境變量生效,
[root@localhost ~]# source ~/.bash_profile
[root@localhost ~]#
[root@localhost ~]# java -version
java version "1.8.0_144"
Java(TM) SE Runtime Environment (build 1.8.0_144-b01)
Java HotSpot(TM) 64-Bit Server VM (build 25.144-b01, mixed mode)
[root@localhost ~]#
到這裏,我們就安裝好了我們的JDK環境
至於,另外的兩臺,我們可以先不用配置,後面,我們可以直接scp過去。
補充說明一下,有的小夥伴可能會發現,我創建過程中的名稱為hadoop004,這是因為,我之前做hadoop000的時候,做好了,忘記保存了,就丟失了,這是我補充的。碼字不易,不洗勿噴。
到這裏,我最終配置好的centos集群是:
hadoop000 192.168.1.61
hadoop001 192.168.1.62
hadoop002 192.168.1.63
,接下來,就可以開始Hadoop集群的搭建了,後面的地址是:
http://blog.csdn.net/liuge36/article/details/78613910
環境搭建-CentOS集群搭建