diff --git a/Home.md b/Home.md index 6c5821b..6809d85 100644 --- a/Home.md +++ b/Home.md @@ -1,14 +1,187 @@ -背景 -==== - 早期,阿里巴巴B2B公司因为存在杭州和美国双机房部署,存在跨机房同步的业务需求。不过早期的数据库同步业务,主要是基于trigger的方式获取增量变更,不过从2010年开始,阿里系公司开始逐步的尝试基于数据库的日志解析,获取增量变更进行同步,由此衍生出了增量订阅&消费的业务,从此开启了一段新纪元。(目前内部使用的同步,已经支持mysql5.x和oracle部分版本的日志解析) - -**目前增量订阅&消费支持的业务:** -- 数据库镜像 -- 数据库实时备份 -- 多级索引 (卖家和买家各自分库索引) -- search build -- 业务cache刷新 -- 价格变化等重要业务消息 - -项目名称 -==== +
+
+

+

背景

+

早期,阿里巴巴B2B公司因为存在杭州和美国双机房部署,存在跨机房同步的业务需求。不过早期的数据库同步业务,主要是基于trigger的方式获取增量变更,不过从2010年开始,阿里系公司开始逐步的尝试基于数据库的日志解析,获取增量变更进行同步,由此衍生出了增量订阅&消费的业务,从此开启了一段新纪元。ps. 目前内部使用的同步,已经支持mysql5.x和oracle部分版本的日志解析

+

+

基于日志增量订阅&消费支持的业务:

+
    +
  1. 数据库镜像
  2. +
  3. 数据库实时备份
  4. +
  5. 多级索引 (卖家和买家各自分库索引)
  6. +
  7. search build
  8. +
  9. 业务cache刷新
  10. +
  11. 价格变化等重要业务消息
  12. +
+

项目介绍

+

名称:canal [kə'næl]

+

译意: 水道/管道/沟渠

+

语言: 纯java开发

+

定位: 基于数据库增量日志解析,提供增量数据订阅&消费,目前主要支持了mysql

+

+

工作原理

+

mysql主备复制实现

+


从上层来看,复制分成三步:

+
    +
  1. master将改变记录到二进制日志(binary log)中(这些记录叫做二进制日志事件,binary log events,可以通过show binlog events进行查看);
  2. +
  3. slave将master的binary log events拷贝到它的中继日志(relay log);
  4. +
  5. slave重做中继日志中的事件,将改变反映它自己的数据。
  6. +
+

canal的工作原理:

+

+

原理相对比较简单:

+
    +
  1. canal模拟mysql slave的交互协议,伪装自己为mysql slave,向mysql master发送dump协议
  2. +
  3. mysql master收到dump请求,开始推送binary log给slave(也就是canal)
  4. +
  5. canal解析binary log对象(原始为byte流)
  6. +
+

架构

+

+

说明:

+ +

instance模块:

+ +

知识科普

+

mysql的Binlay Log介绍

+ +

简单点说:

+ +

目前canal只能支持row模式的增量订阅(statement只有sql,没有数据,所以无法获取原始的变更日志)

+

+

+

EventParser设计

+

大致过程:

+

+

整个parser过程大致可分为几步:

+
    +
  1. Connection获取上一次解析成功的位置 (如果第一次启动,则获取初始指定的位置或者是当前数据库的binlog位点)
  2. +
  3. Connection建立链接,发送BINLOG_DUMP指令
    // 0. write command number
    // 1. write 4 bytes bin-log position to start at
    // 2. write 2 bytes bin-log flags
    // 3. write 4 bytes server id of the slave
    // 4. write bin-log file name
  4. +
  5. Mysql开始推送Binaly Log
  6. +
  7. 接收到的Binaly Log的通过Binlog parser进行协议解析,补充一些特定信息
    // 补充字段名字,字段类型,主键信息,unsigned类型处理
  8. +
  9. 传递给EventSink模块进行数据存储,是一个阻塞操作,直到存储成功
  10. +
  11. 存储成功后,定时记录Binaly Log位置
  12. +
+

mysql的Binlay Log网络协议:

+

+

+

说明:

+ +

EventSink设计

+

+

说明:

+ +

数据1:n业务

+

为了合理的利用数据库资源, 一般常见的业务都是按照schema进行隔离,然后在mysql上层或者dao这一层面上,进行一个数据源路由,屏蔽数据库物理位置对开发的影响,阿里系主要是通过cobar/tddl来解决数据源路由问题。

+

所以,一般一个数据库实例上,会部署多个schema,每个schema会有由1个或者多个业务方关注

+

+

数据n:1业务

+

同样,当一个业务的数据规模达到一定的量级后,必然会涉及到水平拆分和垂直拆分的问题,针对这些拆分的数据需要处理时,就需要链接多个store进行处理,消费的位点就会变成多份,而且数据消费的进度无法得到尽可能有序的保证。

+

所以,在一定业务场景下,需要将拆分后的增量数据进行归并处理,比如按照时间戳/全局id进行排序归并.

+

+

EventStore设计

+ +

RingBuffer设计:

+

+

定义了3个cursor

+ +

借鉴Disruptor的RingBuffer的实现,将RingBuffer拉直来看:

+

实现说明:

+ +

Instance设计

+


+

+

instance代表了一个实际运行的数据队列,包括了EventPaser,EventSink,EventStore等组件。

+

抽象了CanalInstanceGenerator,主要是考虑配置的管理方式:

+ +

Server设计

+


+

server代表了一个canal的运行实例,为了方便组件化使用,特意抽象了Embeded(嵌入式) / Netty(网络访问)的两种实现

+ +

增量订阅/消费设计

+

+

具体的协议格式,可参见:CanalProtocol.proto

+

get/ack/rollback协议介绍:

+ +

canal的get/ack/rollback协议和常规的jms协议有所不同,允许get/ack异步处理,比如可以连续调用get多次,后续异步按顺序提交ack/rollback,项目中称之为流式api.

+

流式api设计的好处:

+ +

流式api设计:

+

+ +

HA机制设计

+

canal的ha分为两部分,canal server和canal client分别有对应的ha实现

+ +

整个HA机制的控制主要是依赖了zookeeper的几个特性,watcher和EPHEMERAL节点(和session生命周期绑定),可以看下我之前zookeeper的相关文章。

+

+

Canal Server:

+


大致步骤:

+
    +
  1. canal server要启动某个canal instance时都先向zookeeper进行一次尝试启动判断 (实现:创建EPHEMERAL节点,谁创建成功就允许谁启动)
  2. +
  3. 创建zookeeper节点成功后,对应的canal server就启动对应的canal instance,没有创建成功的canal instance就会处于standby状态
  4. +
  5. 一旦zookeeper发现canal server A创建的节点消失后,立即通知其他的canal server再次进行步骤1的操作,重新选出一个canal server启动instance.
  6. +
  7. canal client每次进行connect时,会首先向zookeeper询问当前是谁启动了canal instance,然后和其建立链接,一旦链接不可用,会重新尝试connect.
  8. +
+

Canal Client的方式和canal server方式类似,也是利用zokeeper的抢占EPHEMERAL节点的方式进行控制.

+

\ No newline at end of file