Kafka Connect和Debezium,解析binlog至Kafka

Kafka Connect

Kafka Connect是一种用于Kafka和其他数据系统之间进行数据传输的工具。

仅关注数据的复制,不处理其他任务和业务逻辑。

  • Kafka connect有两个概念,一个source,另一个是sink。source是把数据从一个系统拷贝到kafka里,sink是从kafka拷贝到另一个系统里。
  • 可使用插件,获取不同系统的数据。例如通过Debezium插件解析mysql的日志,获取数据。
  • 支持集群,可以通过REST API管理Kafka Connect。
  • 对数据的传输进行管理和监控。
  • Debezium

    Debezium是一个开源的分布式CDC(变更数据捕获)系统,支持对接各种数据源,将上游已持久化的数据变更捕获后写入消息队列,类似的CDC系统还有来自阿里巴巴开源的Canal。

  • Debezium 是一个分布式平台,可将现有数据库中数据转换为事件流,应用程序可以立即响应数据库中每一行的更新。
  • Debezium 建立在Apache Kafka 之上,并提供用于监视特定DBMS的Kafka Connect连接器。
  • Debezium 记录数据库表的行级别的变更事件,包括insert、update和delete操作。
  • 访问Kafka技术专栏,了解更多的技术细节和项目代码。

    声明:本站部分文章及图片源自用户投稿,如本站任何资料有侵权请您尽早请联系jinwei@zod.com.cn进行处理,非常感谢!

    上一篇 2020年1月5日
    下一篇 2020年1月5日

    相关推荐