canal同步elasticsearch實戰(三)

canal同步elasticsearch實戰(三)

當canal把binlog資料寫入disruptor佇列後,我們需要根據庫和表名決定走哪部分的業務處理邏輯,當表較多時,我們需要寫多個if else,新增和刪除表同步,需要修改相應的處理邏輯,為了滿足開閉原則,我們可以採用責任鏈模式重新設計...

2022-02-07
Kafdrop-Kafka開源視覺化工具

Kafdrop-Kafka開源視覺化工具

主要功能檢視Kafka代理 -主題和分割槽分配以及控制器狀態檢視主題 -分割槽數,複製狀態和自定義配置瀏覽訊息 -JSON,純文字和Avro編碼檢視消費者組 -每個分割槽的停放偏移量,合併延遲和每個分割槽滯後建立新主題檢視ACL1、dock...

2021-11-30
kafka系列之kafka入門概論

kafka系列之kafka入門概論

分散式流媒體平臺其實如果將kafka定義為訊息中介軟體,其實是有失偏頗的,因為隨著kafka streams 的功能完善,kafka 本身已經具有了處理訊息的實時能力——實時流處理,而且支援DSL,所以在我們構建流處理平臺的時候我們可以將其...

2021-11-07
Kafka使用場景

Kafka使用場景

流處理很多Kafka的使用者在處理資料的管道中都有多個階段,原始的輸入資料會從Kafka的主題中被消費,然後被聚合、充實或者轉換成新的主題進行進一步的消費或者後續的處理...

2021-10-25