1. 程式人生 > >10026---Kafka詳解二、如何配置Kafka叢集

10026---Kafka詳解二、如何配置Kafka叢集

原文

Kafka叢集配置比較簡單,為了更好的讓大家理解,在這裡要分別介紹下面三種配置
單節點:一個broker的叢集
單節點:多個broker的叢集
多節點:多broker叢集

一、單節點單broker例項的配置


1. 首先啟動zookeeper服務

Kafka本身提供了啟動zookeeper的指令碼(在kafka/bin/目錄下)和zookeeper配置檔案(在kafka/config/目錄下),首先進入Kafka的主目錄(可通過 whereis kafka命令查詢到):


 [[email protected] kafka-0.8]# bin/zookeeper-server-start.sh config/zookeeper.properties
zookeeper配置檔案的一些重要屬性:
     # Data directory where the zookeeper snapshot is stored.
     dataDir=/tmp/zookeeper
     # The port listening for client request
     clientPort=2181
預設情況下,zookeeper伺服器會監聽 2181埠,更詳細的資訊可去zookeeper官網查閱。

2. 啟動Kafka broker

     執行kafka提供的啟動kafka服務指令碼即可:
     [[email protected]
kafka-0.8]# bin/kafka-server-start.sh config/server.properties
     broker配置檔案中的重要屬性:
     # broker的id. 每個broker的id必須是唯一的.
     Broker.id=0
     # 存放log的目錄
     log.dir=/tmp/kafka8-logs
     # Zookeeper 連線串
     zookeeper.connect=localhost:2181

3. 建立一個僅有一個Partition的topic

  bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic kafkatopic

4. 用Kafka提供的生產者客戶端啟動一個生產者程序來發送訊息

 [[email protected] kafka-0.8]# bin/kafka-console-producer.sh --broker-list localhost:9092 --topic kafkatopic
  其中有兩個引數需要注意:
   broker-list:定義了生產者要推送訊息的broker地址,以<IP地址:埠>形式
   topic:生產者傳送給哪個topic
   然後你就可以輸入一些訊息了,如下圖:


相關推薦

10026---Kafka如何配置Kafka叢集

原文 Kafka叢集配置比較簡單,為了更好的讓大家理解,在這裡要分別介紹下面三種配置 單節點:一個broker的叢集 單節點:多個broker的叢集 多節點:多broker叢集 一、單節點單broker例項的配置 1. 首先啟動zookeeper服務 Kafka本身提供

kafka三:開發Kafka應用

問題導讀1.Kafka系統由什麼組成?2.Kafka中和producer相關的API是什麼?一、整體看一下Kafka我們知道,Kafka系統有三大元件:Producer、Consumer、broker 。 file:///C:/Users/ADMINI~1/AppData/

Kafka )------集群搭建

需要 kafka ast enter 安裝過程 簡單 keep 三臺 sof   這裏通過 VMware ,我們安裝了三臺虛擬機,用來搭建 kafka集群,虛擬機網絡地址如下:    hostname ipaddress

Kafka )------叢集搭建

  這裡通過 VMware ,我們安裝了三臺虛擬機器,用來搭建 kafka叢集,虛擬機器網路地址如下:    hostname                      ipaddress &nbs

Kafka概念和關於springboot配置Kafka引數

1.基本概念 *Producer:            訊息生產者,往Topic釋出訊息 *Consumer:            訊息消費者,往Topic取訊

JAVAWEB開發之mybatis()——高階對映查詢快取mybatis與Spring整合以及懶載入的配置和逆向工程

<?xml version="1.0" encoding="UTF-8"?> <!DOCTYPE generatorConfiguration PUBLIC "-//mybatis.org//DTD MyBatis Generator Configuration 1.0//EN" "ht

大數據入門第十七天——storm上遊數據源 之kafka(一)入門

不同 這也 接受 blog 存儲 發送 records ant post 一、概述   1.kafka是什麽     根據標題可以有個概念:kafka是storm的上遊數據源之一,也是一對經典的組合,就像郭德綱和於謙     根據官網:http://kafka.apa

虛擬機網絡配置(NAT橋接Hostonly)

dev 設置 包括 gem f11 key 註意 box ccf VirtualBox中有四種網絡連接方式: NAT Bridged Adapter Internal Host-only Adapter VMWare中有三種,其實它跟VMWare的網絡連接方式都是一樣的

Java併發(十八):阻塞佇列BlockingQueue BlockingQueue(阻塞佇列)詳解 叉堆(一)之 圖文解析 和 C語言的實現 多執行緒程式設計:阻塞併發佇列的使用總結 Java併發程式設計:阻塞佇列 java阻塞佇列 BlockingQueue(阻塞佇列)詳解

阻塞佇列(BlockingQueue)是一個支援兩個附加操作的佇列。 這兩個附加的操作是:在佇列為空時,獲取元素的執行緒會等待佇列變為非空。當佇列滿時,儲存元素的執行緒會等待佇列可用。 阻塞佇列常用於生產者和消費者的場景,生產者是往佇列裡新增元素的執行緒,消費者是從佇列裡拿元素的執行緒。阻塞佇列就是生產者

互斥量條件變數與pthread_cond_wait()函式的使用,()

1.Linux“執行緒”      程序與執行緒之間是有區別的,不過linux核心只提供了輕量程序的支援,未實現執行緒模型。Linux是一種“多程序單執行緒”的作業系統。Linux本身只有程序的概念,而其所謂的“執行緒”本質上在核心裡仍然是程序。      大家知道,

B族樹(叉搜尋樹B-樹B+樹B*樹)

二叉搜尋樹 二叉搜尋樹:        1.所有非葉子結點至多擁有兩個兒子(Left和Right);        2.所有結點儲存一個關鍵字;        3.非葉子結點的左指標指向小於其關鍵字的子樹,右指標指向大於其關鍵字的子樹; 如:        B樹的搜尋,

logback 配置—loggerroot

正文1、根節點<configuration>包含的屬性scan:當此屬性設定為true時,配置檔案如果發生改變,將會被重新載入,預設值為true。scanPeriod:設定監測配置檔案是否有修改的時間間隔,如果沒有給出時間單位,預設單位是毫秒。當scan為true

Elasticsearch增查操作深入()

引言: 對於剛接觸ES的童鞋,經常搞不明白ES的各個概念的含義。尤其對“索引”二字更是與關係型資料庫混淆的不行。本文通過對比關係型資料庫,將ES中常見的增、刪、改、查操作進行圖文呈現。能加深你對ES的理解。同時,也列舉了kibana下的圖形化展示。 ES Restful API GET、PO

維陣列與指標指標陣列陣列指標

int* p=a[0];//此時P是指向一維陣列的指標。P++後,p指向 a[0][1]。 int (*p1)[n];p1=a;p1++後,p1指向a[1][0];   int *p=a[0]; 則陣列a的元素a[1][2]對應的指標為:p+1*4+2 元素a[1][2]

java實現標準化考試系統()-----資料庫資料表的規劃和題庫增刪改查

(一)、資料庫、資料表的規劃 首先我們需要考慮一下作為考試系統我們需要哪些資料,這些資料將以後作為欄位值出現。 我們先來看看這張圖: 圖中框起來的部分基本上就是我們需要的資料,細數數就是: 1.試題序號,它作為主鍵出現不可以重複(id) 2.適用工程,可以理解為這個題適用

FastDFS的配置部署與API使用解讀(4)FastDFS配置之Client配置

一種方式是通過呼叫ClientGlobal類的初始化方法對配置檔案進行載入,另一種是通過呼叫API逐一設定配置引數。後一種方式對於使用Zookeeper等載入屬性的方式很方便。 1. 載入配置檔案: String configFileName = "conf/dfs-c

kafka入門:簡介使用場景設計原理配置叢集搭建

問題導讀: 1.zookeeper在kafka的作用是什麼? 2.kafka中幾乎不允許對訊息進行“隨機讀寫”的原因是什麼? 3.kafka叢集consumer和producer狀態資訊是如何儲存的? 4.partitions設計的目的的根本原因是什麼? 一、入

流式計算--Kafka

        理解storm、spark streamming等流式計算的資料來源、理解JMS規範、理解Kafka核心元件、掌握Kakfa生產者API、掌握Kafka消費者API。對流式計算的生態環境有深入的瞭解,具備流式計算專案架構的能力。所以學習kafka要掌握以下幾點

【STM庫應用】stm32 之 TIM ( 脈衝寬度週期測量)

昨天已經把這個研究出來了,但是由於該專利申請書,一直沒有時間上傳,今天補上! 今天主要是用TIM3進行PWM的輸入模式,進行對矩形波的脈衝訊號寬度以及其週期進行測量,先來看一幅圖。 圖1 TIM內部邏輯圖 我們先來看看datasheet上是怎麼說的:

Kafka安裝

一:介紹 Kafka是最初由Linkedin公司開發,是一個分散式、支援分割槽的(partition)、多副本的(replica),基於zookeeper協調的分散式訊息系統,它的最大的特性就是可以實時的處理大量資料以滿足各種需求場景:比如基於hadoop的批