近日Kafka釋出了最新版本 2.5.0，增加了很多新功能：

下載地址：https://kafka.apache.org/downloads#2.5.0

• 對TLS 1.3的支援（預設為1.2）

• 引入用於 Kafka Streams 的 Co-groups

• 用於 Kafka Consumer 的增量 rebalance 機制

• 為更好的監控操作增加了新的指標

• 升級Zookeeper至 3.5.7

• 取消了對Scala 2.1.1的支援

下面詳細說明本次更新:

一、新功能

1、Kafka Streams: Add Cogroup in the DSL

當多個流聚集在一起以形成單個較大的物件時（例如，購物網站可能具有購物車流，心願單流和購買流。它們共同構成一個客戶），將其在Kafka Streams DSL中使用非常困難。

通常需要您將所有流分組並聚合到KTables，然後進行多個外部聯接呼叫，最後得到具有所需物件的KTable。這將為每個流和一長串ValueJoiners建立一個狀態儲存，每個新記錄都必須經過此連線才能到達最終物件。

建立使用單個狀態儲存的Cogroup 方法將：

• 減少從狀態儲存獲取的數量。對於多個聯接，當新值進入任何流時，都會發生連鎖反應，聯接處理器將繼續呼叫ValueGetters，直到我們訪問了所有狀態儲存。

• 效能略有提高。如上所述，所有ValueGetters都被呼叫，還導致所有ValueJoiners被呼叫，從而強制重新計算所有其他流的當前聯接值，從而影響效能。

2、Add support for TLS 1.3

Java 11添加了對TLS 1.3的支援。新增對Java 11的支援後，我們應該對此提供支援。

3、不再支援Scala 2.11

為什麼不再支援？

我們目前為3個Scala版本構建Kafka：2.11、2.12和最近釋出的2.13。由於我們必須在每個受支援的版本上編譯和執行測試，因此從開發和測試的角度來看，這是一筆不小的成本。

Scala 2.11.0於2014年4月釋出，對2.11.x的支援於2017年11月結束（到釋出Kafka 2.5時將超過2年）。Scala 2.12.0於2016年11月釋出，Scala 2.13.0於2019年6月釋出。基於此，現在該放棄對Scala 2.11的支援了，以便我們使測試矩陣易於管理（最近的kafka-trunk-jdk8佔用了將近10個小時，它將使用3個Scala版本構建並執行單元測試和整合測試。此外，Scala 2.12和更高版本還改進了與Java 8功能介面的互操作性（Scala 2.12中首次引入）。更具體地說，Scala 2.12中的lambda可以與Java 8程式碼相同的方式與Java 8功能介面一起使用。

在我們的下載頁面中，我們推薦自Kafka 2.1.0起使用Scala 2.12構建的Kafka二進位制檔案。我們切換到Scala 2.12作為Kafka 2.2.0中源tarball，構建和系統測試的預設Scala版本。

二、改進與修復

• 當輸入 topic 事務時，Kafka Streams lag 不為 0
• Kafka-streams 可配置內部 topics message.timestamp.type=CreateTime
• 將 KStream#toTable 新增到 Streams DSL
• 將 Commit/List Offsets 選項新增到 AdminClient
• 將 VoidSerde 新增到 Serdes
• 改進 Sensor Retrieval

[KAFKA-3061] 修復Guava依賴問題

[KAFKA-4203] Java生產者預設的最大訊息大小不再與broker預設一致

[KAFKA-5868] kafka消費者reblance時間過長問題

詳細更新內容點此檢視

三、其他版本升級至2.5.0指南

如果要從2.1.x之前的版本升級，請參閱以下注釋，以瞭解用於儲存偏移量的架構的更改。將inter.broker.protocol.version更改為最新版本後，將無法降級到2.1之前的版本。

在所有Broker上更新server.properties並新增以下屬性。CURRENT_KAFKA_VERSION指的是您要升級的版本。CURRENT_MESSAGE_FORMAT_VERSION是指當前使用的訊息格式版本。如果以前覆蓋了訊息格式版本，則應保留其當前值。或者，如果要從0.11.0.x之前的版本升級，則應將CURRENT_MESSAGE_FORMAT_VERSION設定為與CURRENT_KAFKA_VERSION相匹配。

• inter.broker.protocol.version = CURRENT_KAFKA_VERSION（例如0.10.0、0.11.0、1.0、2.0、2.2）。
• log.message.format.version = CURRENT_MESSAGE_FORMAT_VERSION
• 如果要從0.11.0.x或更高版本升級，並且尚未覆蓋訊息格式，則只需要覆蓋Broker間協議版本。
  • inter.broker.protocol.version = CURRENT_KAFKA_VERSION（0.11.0，1.0，1.1，2.0，2.1，2.2，2.3）。
• 一次升級一個Broker：關閉Broker，更新程式碼，然後重新啟動。完成此操作後，Broker將執行最新版本，並且您可以驗證叢集的行為和效能是否符合預期。如果有任何問題，此時仍可以降級。
• 驗證群集的行為和效能後，通過編輯inter.broker.protocol.version並將其設定為2.5來提高協議版本 。
• 逐一重新啟動Broker，以使新協議版本生效。Broker開始使用最新協議版本後，將無法再將群集降級到較舊版本。
• 如果您已按照上述說明覆蓋了訊息格式版本，則需要再次滾動重啟以將其升級到最新版本。一旦所有（或大多數）使用者均已升級到0.11.0或更高版本，則在每個Broker上將log.message.format.version更改為2.5，然後逐一重新啟動它們。請注意，不再維護的較舊的Scala客戶端不支援0.11中引入的訊息格式，因此，為避免轉換成本，必須使用較新的Java客戶端。

2.5.0主要的變化，可能產生的升級影響

• 當RebalanceProtocol#COOPERATIVE使用時，Consumer#poll仍然可以返回資料，此外， Consumer#commitSync現在可以丟擲RebalanceInProgressException來通知使用者此類事件，CommitFailedException並允許使用者完成正在進行的Reblance，然後重新嘗試為那些仍然擁有的分割槽提交偏移量。
• 為了提高典型網路環境中的彈性，預設值 zookeeper.session.timeout.ms已從6s增加到18s， replica.lag.time.max.ms從10s增加到30s。
• cogroup()添加了新的DSL運營商，用於一次將多個流聚合在一起。
• 添加了新的KStream.toTable()API，可將輸入事件流轉換為KTable。
• 添加了新的Serde型別Void以表示輸入主題中的空鍵或空值。
• 棄用UsePreviousTimeOnInvalidTimestamp並替換為UsePartitionTimeOnInvalidTimeStamp。
• 通過添加掛起的偏移防護機制和更強大的事務提交一致性檢查，改進了一次精確語義，這大大簡化了可伸縮的一次精確應用程式的實現。
• 棄用KafkaStreams.store(String, QueryableStoreType)並替換為KafkaStreams.store(StoreQueryParameters)。
• 不再支援Scala 2.11。
• 軟體包中的所有Scala類kafka.security.auth均已棄用。請注意，在2.4.0中已棄用kafka.security.auth.Authorizer 和kafka.security.auth.SimpleAclAuthorizer。
• 預設情況下，TLSv1和TLSv1.1已被禁用，因為它們具有已知的安全漏洞。現在預設情況下僅啟用TLSv1.2。您可以通過在配置選項ssl.protocol和中明確啟用它們來繼續使用TLSv1和TLSv1.1 ssl.enabled.protocols。
• ZooKeeper已升級到3.5.7，並且如果3.4資料目錄中沒有快照檔案，則ZooKeeper從3.4.X升級到3.5.7可能會失敗。這通常發生在測試升級中，其中ZooKeeper 3.5.7嘗試載入沒有建立快照檔案的現有3.4資料目錄。有關問題請參考：https://issues.apache.org/jira/browse/ZOOKEEPER-3056
• ZooKeeper 3.5.7版支援有或沒有客戶端證書的TLS加密的到ZooKeeper的連線，並且可以使用其他Kafka配置來利用此功能。

相關推薦