Kafka 配置引數（非常好的總結）
阿新 • • 發佈：2019-01-02
轉載自：http://ju.outofmemory.cn/entry/119243
Kafka為broker,producer和consumer提供了很多的配置引數。 瞭解並理解這些配置引數對於我們使用kafka是非常重要的。
本文列出了一些重要的配置引數。
官方的文件 Configuration比較老了，很多引數有所變動， 有些名字也有所改變。我在整理的過程中根據0.8.2的程式碼也做了修正。
Boker配置引數
| name | 預設值 | 描述 |
|---|---|---|
| brokerid | none | 每一個boker都有一個唯一的id作為它們的名字。 這就允許boker切換到別的主機/埠上， consumer依然知道 |
| enable.zookeeper | true | 允許註冊到zookeeper |
| log.flush.interval.messages | Long.MaxValue | 在資料被寫入到硬碟和消費者可用前最大累積的訊息的數量 |
| log.flush.interval.ms | Long.MaxValue | 在資料被寫入到硬碟前的最大時間 |
| log.flush.scheduler.interval.ms | Long.MaxValue | 檢查資料是否要寫入到硬碟的時間間隔。 |
| log.retention.hours | 168 | 控制一個log保留多長個小時 |
| log.retention.bytes | -1 | 控制log檔案最大尺寸 |
| log.cleaner.enable | false | 是否log cleaning |
| log.cleanup.policy | delete | delete還是compat. 其它控制引數還包括log.cleaner.threads，log.cleaner.io.max.bytes.per.second，log.cleaner.dedupe.buffer.size，log.cleaner.io.buffer.size，log.cleaner.io.buffer.load.factor，log.cleaner.backoff.ms，log.cleaner.min.cleanable.ratio，log.cleaner.delete.retention.ms |
| log.dir | /tmp/kafka-logs | 指定log檔案的根目錄 |
| log.segment.bytes | 110241024*1024 | 單一的log segment檔案大小 |
| log.roll.hours | 24 * 7 | 開始一個新的log檔案片段的最大時間 |
| message.max.bytes | 1000000 + MessageSet.LogOverhead | 一個socket 請求的最大位元組數 |
| num.network.threads | 3 | 處理網路請求的執行緒數 |
| num.io.threads | 8 | 處理IO的執行緒數 |
| background.threads | 10 | 後臺執行緒序 |
| num.partitions | 1 | 預設分割槽數 |
| socket.send.buffer.bytes | 102400 | socket SO_SNDBUFF引數 |
| socket.receive.buffer.bytes | 102400 | socket SO_RCVBUFF引數 |
| zookeeper.connect | localhost:2182/kafka | 指定zookeeper連線字串， 格式如hostname:port/chroot。chroot是一個namespace |
| zookeeper.connection.timeout.ms | 6000 | 指定客戶端連線zookeeper的最大超時時間 |
| zookeeper.session.timeout.ms | 6000 | 連線zk的session超時時間 |
| zookeeper.sync.time.ms | 2000 | zk follower落後於zk leader的最長時間 |
High-level Consumer配置引數
| name | 預設值 | 描述 |
|---|---|---|
| groupid | groupid | 一個字串用來指示一組consumer所在的組 |
| socket.timeout.ms | 30000 | socket超時時間 |
| socket.buffersize | 64*1024 | socket receive buffer |
| fetch.size | 300 * 1024 | 控制在一個請求中獲取的訊息的位元組數。 這個引數在0.8.x中由fetch.message.max.bytes,fetch.min.bytes取代 |
| backoff.increment.ms | 1000 | 這個引數避免在沒有新資料的情況下重複頻繁的拉資料。 如果拉到空資料，則多推後這個時間 |
| queued.max.message.chunks | 2 | high level consumer內部快取拉回來的訊息到一個佇列中。 這個值控制這個佇列的大小 |
| auto.commit.enable | true | 如果true,consumer定期地往zookeeper寫入每個分割槽的offset |
| auto.commit.interval.ms | 10000 | 往zookeeper上寫offset的頻率 |
| auto.offset.reset | largest |
如果offset出了返回，則 smallest:
自動設定reset到最小的offset. largest :
自動設定offset到最大的offset. 其它值不允許，會丟擲異常. |
| consumer.timeout.ms | -1 | 預設-1,consumer在沒有新訊息時無限期的block。如果設定一個正值， 一個超時異常會丟擲 |
| rebalance.retries.max | 4 | rebalance時的最大嘗試次數 |
Producer配置引數
| name | 預設值 | 描述 |
|---|---|---|
| serializer.class | kafka.serializer.DefaultEncoder | 必須實現kafka.serializer.Encoder介面，將T型別的物件encode成kafka message |
| key.serializer.class | serializer.class | key物件的serializer類 |
| partitioner.class | kafka.producer.DefaultPartitioner | 必須實現kafka.producer.Partitioner，根據Key提供一個分割槽策略 |
| producer.type | sync | 指定訊息傳送是同步還是非同步。非同步asyc成批發送用kafka.producer.AyncProducer， 同步sync用kafka.producer.SyncProducer |
| metadata.broker.list | boker list | 使用這個引數傳入boker和分割槽的靜態資訊，如host1:port1,host2:port2, 這個可以是全部boker的一部分 |
| compression.codec | NoCompressionCodec | 訊息壓縮，預設不壓縮 |
| compressed.topics | null | 在設定了壓縮的情況下，可以指定特定的topic壓縮，為指定則全部壓縮 |
| message.send.max.retries | 3 | 訊息傳送最大嘗試次數 |
| retry.backoff.ms | 300 | 每次嘗試增加的額外的間隔時間 |
| topic.metadata.refresh.interval.ms | 600000 | 定期的獲取元資料的時間。當分割槽丟失，leader不可用時producer也會主動獲取元資料，如果為0，則每次傳送完訊息就獲取元資料，不推薦。如果為負值，則只有在失敗的情況下獲取元資料。 |
| queue.buffering.max.ms | 5000 | 在producer queue的快取的資料最大時間，僅僅for asyc |
| queue.buffering.max.message | 10000 | producer 快取的訊息的最大數量，僅僅for asyc |
| queue.enqueue.timeout.ms | -1 | 0當queue滿時丟掉，負值是queue滿時block,正值是queue滿時block相應的時間，僅僅for asyc |
| batch.num.messages | 200 | 一批訊息的數量，僅僅for asyc |
| request.required.acks | 0 | 0表示producer毋須等待leader的確認，1代表需要leader確認寫入它的本地log並立即確認，-1代表所有的備份都完成後確認。 僅僅for sync |
| request.timeout.ms | 10000 | 確認超時時間 |
kafka.serializer.DefaultEncoder
預設的這個Encoder事實上不做任何處理，接收到什麼byte[]就返回什麼byte[]:
classDefaultEncoder(props:VerifiableProperties=null)extendsEncoder[Array[Byte]]{overridedef toBytes(value:Array[Byte]):Array[Byte]= value
}
NullEncoder則不管接收什麼都返回null:
classNullEncoder[T](props:VerifiableProperties=null)extendsEncoder[T]{overridedef toBytes(value: T):Array[Byte]=null}
StringEncoder則返回字串，預設UTF-8格式：
classStringEncoder(props:VerifiableProperties=null)extendsEncoder[String]{
val encoding =if(props ==null)"UTF8"else
props.getString("serializer.encoding","UTF8")overridedef toBytes(s:String):Array[Byte]=if(s ==null)nullelse
s.getBytes(encoding)}
kafka.producer.DefaultPartitioner
預設的分割槽函式為DefaultPartitioner,它根據key的hashcode與分割槽數取餘，得到相應的分割槽。
classDefaultPartitioner(props:VerifiableProperties=null)extendsPartitioner{private val random =new java.util.Randomdef partition(key:Any, numPartitions:Int):Int={Utils.abs(key.hashCode)% numPartitions
}}但是如果key為null時會發送到哪個分割槽？在一定時間內往一個特定的分割槽傳送，超過一定時間又會隨機選擇一個，請參考key為null時Kafka會將訊息傳送給哪個分割槽? .所以推薦你傳送Kafka訊息時總是指定一個key,以便訊息能均勻的分到每個分割槽上。
Kafka為broker,producer和consumer提供了很多的配置引數。 瞭解並理解這些配置引數對於我們使用kafka是非常重要的。
本文列出了一些重要的配置引數。
官方的文件 Configuration比較老了，很多引數有所變動， 有些名字也有所改變。我在整理的過程中根據0.8.2的程式碼也做了修正。