1. 程式人生 > >zookeeper和kafka叢集部署

zookeeper和kafka叢集部署

  • 叢集zookeeper部署

1.找到每臺物理節點的zookeeper配置檔案所在目錄:

/home/soft/NodeServer/zookeeper/conf/zoo.cfg

2.修改配置檔案中的IP資訊:

Server.1 = IP1:2887:3887      //將其中的127.0.0.1改為具體的IP1

Server.2 = IP2:2887:3887      //將其中的127.0.0.1改為具體的IP2

Server.3 = IP3:2887:3887     

//將其中的127.0.0.1改為具體的IP3

3.找到資料目錄/home/ssd/zookeeper,在這個目錄下建立myid檔案:

檔案中填入節點的編號:如上面的server.n即填入n即可。

4.啟動指令碼,在/home/soft/NodeServer/zookeeper/bin目錄下:

$ sh zkServer.sh start

5.確認服務啟動成功:

$sh zkServer.sh status                 //

檢視服務的狀態

顯示如下:

  • 叢集kafka部署

1.找到kafka配置檔案所在目錄:

/home/soft/NodeServer/kafka/config/server.properties

2.配置kafka節點號,和本機zookeeper的myid號對應:

broker.id = 1                           //

將1改成具體的節點號n

3.將配置檔案中kafka的監聽IP改為具體的IP:

listeners=PLAINTEXT://127.0.0.1:9092     //將其中的127.0.0.1改為具體的IP

host.name = 127.0.0.1                    //將其中的127.0.0.1改為具體的IP

4.修改分割槽數量:

num.partitions = 1               //將分割槽數量改成具體的節點個數,一般叢集為3個

5.將配置檔案中,kafka依賴的zookeeper的IP改為具體的IP:

zookeeper.connect=127.0.0.1:2181    //改成zk的節點集合,如:ip1:2181,ip2:2181,ip3:2181

6.修改生產者配置檔案producer.properties:

metadata.broker.list=127.0.0.1:9092 //改成broker節點集合,如:ip1: 9092,ip2: 9092,ip3: 9092

7.修改消費者配置檔案consumer.properties

zookeeper.connect=127.0.0.1:2181    //改成zk的節點集合,如:ip1:2181,ip2:2181,ip3:2181

8.啟動指令碼:

$ bin/kafka-server-start.sh  config/server.properties &

9.確認服務是否啟動成功:

$netstat -tunlp|egrep 9092           //檢視2181和9092是否存在