kafka主要配置 kafka主要配置
阿新 • • 發佈:2018-12-02
kafka主要配置
Kafka為broker,producer和consumer提供了很多的配置引數。 瞭解並理解這些配置引數對於我們使用kafka是非常重要的。
官網配置地址: Configuration
每個kafka broker中配置檔案server.properties預設必須配置的屬性如下:
1 broker.id=0 2 port=9092 3 num.network.threads=2 4 num.io.threads=8 5 socket.send.buffer.bytes=1048576 6 socket.receive.buffer.bytes=1048576 7 socket.request.max.bytes=104857600 8 log.dirs=/tmp/kafka-logs 9 num.partitions=2 10 log.retention.hours=168 11 log.segment.bytes=536870912 12 log.retention.check.interval.ms=60000 13 log.cleaner.enable=false 14 zookeeper.connect=localhost:2181 15 zookeeper.connection.timeout.ms=1000000
下表列舉了部分重要的配置引數,更多配置請參考官網
broker配置引數
引數 | 預設值 | 描述 |
broker.id | -1 | 每一個boker都有一個唯一的id作為它們的名字。當該伺服器的IP地址發生改變時,broker.id沒有變化,則不會影響consumers的訊息情況 |
port | 9092 | broker server服務埠 |
host.name | "" | broker的主機地址,若是設定了,那麼會繫結到這個地址上,若是沒有,會繫結到所有的介面上,並將其中之一發送到ZK |
log.dirs | /tmp/kafka-logs | kafka資料的存放地址,多個地址的話用逗號分割,多個目錄分佈在不同磁碟上可以提高讀寫效能 /data/kafka-logs-1,/data/kafka-logs-2 |
message.max.bytes | 1000012 | 表示訊息體的最大大小,單位是位元組 |
num.network.threads | 3 | broker處理訊息的最大執行緒數,一般情況下數量為cpu核數 |
num.io.threads | 8 | 處理IO的執行緒數 |
log.flush.interval.messages | Long.MaxValue | 在資料被寫入到硬碟和消費者可用前最大累積的訊息的數量 |
log.flush.interval.ms | Long.MaxValue | 在資料被寫入到硬碟前的最大時間 |
log.flush.scheduler.interval.ms | Long.MaxValue | 檢查資料是否要寫入到硬碟的時間間隔。 |
log.retention.hours | 168 (24*7) | 控制一個log保留多長個小時 |
log.retention.bytes | -1 | 控制log檔案最大尺寸 |
log.cleaner.enable | false | 是否log cleaning |
log.cleanup.policy | delete | delete還是compat. |
log.segment.bytes | 1073741824 | 單一的log segment檔案大小 |
log.roll.hours | 168 | 開始一個新的log檔案片段的最大時間 |
background.threads | 10 | 後臺執行緒序 |
num.partitions | 1 | 預設分割槽數 |
socket.send.buffer.bytes | 102400 | socket SO_SNDBUFF引數 |
socket.receive.buffer.bytes | 102400 | socket SO_RCVBUFF引數 |
zookeeper.connect | 指定zookeeper連線字串, 格式如hostname:port/chroot。chroot是一個namespace | |
zookeeper.connection.timeout.ms | 6000 | 指定客戶端連線zookeeper的最大超時時間 |
zookeeper.session.timeout.ms | 6000 | 連線zk的session超時時間 |
zookeeper.sync.time.ms | 2000 | zk follower落後於zk leader的最長時間 |
high-level consumer的配置引數
引數 | 預設值 | 描述 |
groupid | groupid | 一個字串用來指示一組consumer所在的組 |
socket.timeout.ms | 30000 | socket超時時間 |
socket.buffersize | 64*1024 | socket receive buffer |
fetch.size | 300 * 1024 | 控制在一個請求中獲取的訊息的位元組數。 這個引數在0.8.x中由fetch.message.max.bytes,fetch.min.bytes取代 |
backoff.increment.ms | 1000 | 這個引數避免在沒有新資料的情況下重複頻繁的拉資料。 如果拉到空資料,則多推後這個時間 |
queued.max.message.chunks | 2 | high level consumer內部快取拉回來的訊息到一個佇列中。 這個值控制這個佇列的大小 |
auto.commit.enable | true | 如果true,consumer定期地往zookeeper寫入每個分割槽的offset |
auto.commit.interval.ms | 10000 | 往zookeeper上寫offset的頻率 |
auto.offset.reset | largest | 如果offset出了返回,則 smallest: 自動設定reset到最小的offset. largest : 自動設定offset到最大的offset. 其它值不允許,會丟擲異常. |
consumer.timeout.ms | -1 | 預設-1,consumer在沒有新訊息時無限期的block。如果設定一個正值, 一個超時異常會丟擲 |
rebalance.retries.max | 4 | rebalance時的最大嘗試次數 |
producer的配置引數
引數 | 預設值 | 描述 |
producer.type | sync | 指定訊息傳送是同步還是非同步。非同步asyc成批發送用kafka.producer.AyncProducer, 同步sync用kafka.producer.SyncProducer |
metadata.broker.list | boker list | 使用這個引數傳入boker和分割槽的靜態資訊,如host1:port1,host2:port2, 這個可以是全部boker的一部分 |
compression.codec | NoCompressionCodec | 訊息壓縮,預設不壓縮 |
compressed.topics | null | 在設定了壓縮的情況下,可以指定特定的topic壓縮,未指定則全部壓縮 |
message.send.max.retries | 3 | 訊息傳送最大嘗試次數 |
retry.backoff.ms | 300 | 每次嘗試增加的額外的間隔時間 |
topic.metadata.refresh.interval.ms | 600000 | 定期的獲取元資料的時間。當分割槽丟失,leader不可用時producer也會主動獲取元資料,如果為0,則每次傳送完訊息就獲取元資料, 不推薦。如果為負值,則只有在失敗的情況下獲取元資料。 |
queue.buffering.max.ms | 5000 | 在producer queue的快取的資料最大時間,僅僅for asyc |
queue.buffering.max.message | 10000 | producer 快取的訊息的最大數量,僅僅for asyc |
queue.enqueue.timeout.ms | -1 | 0當queue滿時丟掉,負值是queue滿時block,正值是queue滿時block相應的時間,僅僅for asyc |
batch.num.messages | 200 | 一批訊息的數量,僅僅for asyc |
request.required.acks | 0 | 0表示producer無需等待leader的確認,1代表需要leader確認寫入它的本地log並立即確認,-1代表所有的備份都完成後確認。 僅僅for sync |
request.timeout.ms | 10000 | 確認超時時間 |
Kafka為broker,producer和consumer提供了很多的配置引數。 瞭解並理解這些配置引數對於我們使用kafka是非常重要的。
官網配置地址: Configuration
每個kafka broker中配置檔案server.properties預設必須配置的屬性如下:
1 broker.id=0 2 port=9092 3 num.network.threads=2 4 num.io.threads=8 5 socket.send.buffer.bytes=1048576 6 socket.receive.buffer.bytes=1048576 7 socket.request.max.bytes=104857600 8 log.dirs=/tmp/kafka-logs 9 num.partitions=2 10 log.retention.hours=168 11 log.segment.bytes=536870912 12 log.retention.check.interval.ms=60000 13 log.cleaner.enable=false 14 zookeeper.connect=localhost:2181 15 zookeeper.connection.timeout.ms=1000000
下表列舉了部分重要的配置引數,更多配置請參考官網
broker配置引數
引數 | 預設值 | 描述 |
broker.id | -1 | 每一個boker都有一個唯一的id作為它們的名字。當該伺服器的IP地址發生改變時,broker.id沒有變化,則不會影響consumers的訊息情況 |
port | 9092 | broker server服務埠 |
host.name | "" | broker的主機地址,若是設定了,那麼會繫結到這個地址上,若是沒有,會繫結到所有的介面上,並將其中之一發送到ZK |
log.dirs | /tmp/kafka-logs | kafka資料的存放地址,多個地址的話用逗號分割,多個目錄分佈在不同磁碟上可以提高讀寫效能 /data/kafka-logs-1,/data/kafka-logs-2 |
message.max.bytes | 1000012 | 表示訊息體的最大大小,單位是位元組 |
num.network.threads | 3 | broker處理訊息的最大執行緒數,一般情況下數量為cpu核數 |
num.io.threads | 8 | 處理IO的執行緒數 |
log.flush.interval.messages | Long.MaxValue | 在資料被寫入到硬碟和消費者可用前最大累積的訊息的數量 |
log.flush.interval.ms | Long.MaxValue | 在資料被寫入到硬碟前的最大時間 |
log.flush.scheduler.interval.ms | Long.MaxValue | 檢查資料是否要寫入到硬碟的時間間隔。 |
log.retention.hours | 168 (24*7) | 控制一個log保留多長個小時 |
log.retention.bytes | -1 | 控制log檔案最大尺寸 |
log.cleaner.enable | false | 是否log cleaning |
log.cleanup.policy | delete | delete還是compat. |
log.segment.bytes | 1073741824 | 單一的log segment檔案大小 |
log.roll.hours | 168 | 開始一個新的log檔案片段的最大時間 |
background.threads | 10 | 後臺執行緒序 |
num.partitions | 1 | 預設分割槽數 |
socket.send.buffer.bytes | 102400 | socket SO_SNDBUFF引數 |
socket.receive.buffer.bytes | 102400 | socket SO_RCVBUFF引數 |
zookeeper.connect | 指定zookeeper連線字串, 格式如hostname:port/chroot。chroot是一個namespace | |
zookeeper.connection.timeout.ms | 6000 | 指定客戶端連線zookeeper的最大超時時間 |
zookeeper.session.timeout.ms | 6000 | 連線zk的session超時時間 |
zookeeper.sync.time.ms | 2000 | zk follower落後於zk leader的最長時間 |
high-level consumer的配置引數
引數 | 預設值 | 描述 |
groupid | groupid | 一個字串用來指示一組consumer所在的組 |
socket.timeout.ms | 30000 | socket超時時間 |
socket.buffersize | 64*1024 | socket receive buffer |
fetch.size | 300 * 1024 | 控制在一個請求中獲取的訊息的位元組數。 這個引數在0.8.x中由fetch.message.max.bytes,fetch.min.bytes取代 |
backoff.increment.ms | 1000 | 這個引數避免在沒有新資料的情況下重複頻繁的拉資料。 如果拉到空資料,則多推後這個時間 |
queued.max.message.chunks | 2 | high level consumer內部快取拉回來的訊息到一個佇列中。 這個值控制這個佇列的大小 |
auto.commit.enable | true | 如果true,consumer定期地往zookeeper寫入每個分割槽的offset |
auto.commit.interval.ms | 10000 | 往zookeeper上寫offset的頻率 |
auto.offset.reset | largest | 如果offset出了返回,則 smallest: 自動設定reset到最小的offset. largest : 自動設定offset到最大的offset. 其它值不允許,會丟擲異常. |
consumer.timeout.ms | -1 | 預設-1,consumer在沒有新訊息時無限期的block。如果設定一個正值, 一個超時異常會丟擲 |
rebalance.retries.max | 4 | rebalance時的最大嘗試次數 |
producer的配置引數
引數 | 預設值 | 描述 |
producer.type | sync | 指定訊息傳送是同步還是非同步。非同步asyc成批發送用kafka.producer.AyncProducer, 同步sync用kafka.producer.SyncProducer |
metadata.broker.list | boker list | 使用這個引數傳入boker和分割槽的靜態資訊,如host1:port1,host2:port2, 這個可以是全部boker的一部分 |
compression.codec | NoCompressionCodec | 訊息壓縮,預設不壓縮 |
compressed.topics | null | 在設定了壓縮的情況下,可以指定特定的topic壓縮,未指定則全部壓縮 |
message.send.max.retries | 3 | 訊息傳送最大嘗試次數 |
retry.backoff.ms | 300 | 每次嘗試增加的額外的間隔時間 |
topic.metadata.refresh.interval.ms | 600000 | 定期的獲取元資料的時間。當分割槽丟失,leader不可用時producer也會主動獲取元資料,如果為0,則每次傳送完訊息就獲取元資料, 不推薦。如果為負值,則只有在失敗的情況下獲取元資料。 |
queue.buffering.max.ms | 5000 | 在producer queue的快取的資料最大時間,僅僅for asyc |
queue.buffering.max.message | 10000 | producer 快取的訊息的最大數量,僅僅for asyc |
queue.enqueue.timeout.ms | -1 | 0當queue滿時丟掉,負值是queue滿時block,正值是queue滿時block相應的時間,僅僅for asyc |
batch.num.messages | 200 | 一批訊息的數量,僅僅for asyc |
request.required.acks | 0 | 0表示producer無需等待leader的確認,1代表需要leader確認寫入它的本地log並立即確認,-1代表所有的備份都完成後確認。 僅僅for sync |
request.timeout.ms | 10000 | 確認超時時間 |