zookeeper和kafka叢集部署
- 叢集zookeeper部署
1.找到每臺物理節點的zookeeper配置檔案所在目錄:
/home/soft/NodeServer/zookeeper/conf/zoo.cfg
2.修改配置檔案中的IP資訊:
Server.1 = IP1:2887:3887 //將其中的127.0.0.1改為具體的IP1
Server.2 = IP2:2887:3887 //將其中的127.0.0.1改為具體的IP2
Server.3 = IP3:2887:3887
//將其中的127.0.0.1改為具體的IP3
3.找到資料目錄/home/ssd/zookeeper,在這個目錄下建立myid檔案:
檔案中填入節點的編號:如上面的server.n即填入n即可。
4.啟動指令碼,在/home/soft/NodeServer/zookeeper/bin目錄下:
$ sh zkServer.sh start
5.確認服務啟動成功:
$sh zkServer.sh status //
檢視服務的狀態顯示如下:
- 叢集kafka部署
1.找到kafka配置檔案所在目錄:
/home/soft/NodeServer/kafka/config/server.properties
2.配置kafka節點號,和本機zookeeper的myid號對應:
broker.id = 1 //
將1改成具體的節點號n
3.將配置檔案中kafka的監聽IP改為具體的IP:
listeners=PLAINTEXT://127.0.0.1:9092 //將其中的127.0.0.1改為具體的IP
host.name = 127.0.0.1 //將其中的127.0.0.1改為具體的IP
4.修改分割槽數量:
num.partitions = 1 //將分割槽數量改成具體的節點個數,一般叢集為3個
5.將配置檔案中,kafka依賴的zookeeper的IP改為具體的IP:
zookeeper.connect=127.0.0.1:2181 //改成zk的節點集合,如:ip1:2181,ip2:2181,ip3:2181
6.修改生產者配置檔案producer.properties:
metadata.broker.list=127.0.0.1:9092 //改成broker節點集合,如:ip1: 9092,ip2: 9092,ip3: 9092
7.修改消費者配置檔案consumer.properties
zookeeper.connect=127.0.0.1:2181 //改成zk的節點集合,如:ip1:2181,ip2:2181,ip3:2181
8.啟動指令碼:
$ bin/kafka-server-start.sh config/server.properties &
9.確認服務是否啟動成功:
$netstat -tunlp|egrep 9092 //檢視2181和9092是否存在