增量数据Kafka集成
虚谷数据库binlog在服务端以库为单位进行管理记载,即同一个逻辑库下所有对象的变更binlog日志项混合存储。为满足用户以表为单位进行binlog解析分发同步的需求,虚谷数据库同步软件实时的将虚谷数据库记载的binlog以表为单位切分,然后发布到kafka上。用户可自由消费kafka上的虚谷数据库增量数据,因此虚谷数据库同步软件可为大数据集成业务提供数据服务。

切分后binlog按表分发到kafka消息中间件,kafka为每一个表建立topic以实现按表管理binlog日志。
说明:
topic命名规则[库名. 表名]。