diff --git a/Home.md b/Home.md index cb06271..a13ee86 100644 --- a/Home.md +++ b/Home.md @@ -1,18 +1,3 @@ -
-
-

-

背景

-

早期，阿里巴巴B2B公司因为存在杭州和美国双机房部署，存在跨机房同步的业务需求。不过早期的数据库同步业务，主要是基于trigger的方式获取增量变更，不过从2010年开始，阿里系公司开始逐步的尝试基于数据库的日志解析，获取增量变更进行同步，由此衍生出了增量订阅&消费的业务，从此开启了一段新纪元。ps. 目前内部使用的同步，已经支持mysql5.x和oracle部分版本的日志解析

-

-

基于日志增量订阅&消费支持的业务：

-
    -
  1. 数据库镜像
    2. -
  2. 数据库实时备份
    3. -
  3. 多级索引 (卖家和买家各自分库索引)
    4. -
  4. search build
    5. -
  5. 业务cache刷新
    6. -
  6. 价格变化等重要业务消息
    7. -

项目介绍

名称：canal [kə'næl]

译意： 水道/管道/沟渠

@@ -35,186 +20,9 @@
  • mysql master收到dump请求，开始推送binary log给slave(也就是canal)
  • canal解析binary log对象(原始为byte流)
    • -

    架构

    -

    -

    说明：

    - -

    instance模块：

    - -

    知识科普

    -

    mysql的Binlay Log介绍

    - -

    简单点说：

    - -

    目前canal只能支持row模式的增量订阅(statement只有sql，没有数据，所以无法获取原始的变更日志)

    -

    -

    -

    EventParser设计

    -

    大致过程：

    -

    -

    整个parser过程大致可分为几步：

    -
      -
    1. Connection获取上一次解析成功的位置 (如果第一次启动，则获取初始指定的位置或者是当前数据库的binlog位点)
      2. -
    2. Connection建立链接，发送BINLOG_DUMP指令
      // 0. write command number
      // 1. write 4 bytes bin-log position to start at
      // 2. write 2 bytes bin-log flags
      // 3. write 4 bytes server id of the slave
      // 4. write bin-log file name
      3. -
    3. Mysql开始推送Binaly Log
      4. -
    4. 接收到的Binaly Log的通过Binlog parser进行协议解析，补充一些特定信息
      // 补充字段名字，字段类型，主键信息，unsigned类型处理
      5. -
    5. 传递给EventSink模块进行数据存储，是一个阻塞操作，直到存储成功
      6. -
    6. 存储成功后，定时记录Binaly Log位置
      7. -
    -

    mysql的Binlay Log网络协议：

    -

    -

    -

    说明：

    - -

    EventSink设计

    -

    -

    说明：

    - -

    数据1:n业务

    -

    为了合理的利用数据库资源， 一般常见的业务都是按照schema进行隔离，然后在mysql上层或者dao这一层面上，进行一个数据源路由，屏蔽数据库物理位置对开发的影响，阿里系主要是通过cobar/tddl来解决数据源路由问题。

    -

    所以，一般一个数据库实例上，会部署多个schema，每个schema会有由1个或者多个业务方关注

    -

    -

    数据n:1业务

    -

    同样，当一个业务的数据规模达到一定的量级后，必然会涉及到水平拆分和垂直拆分的问题，针对这些拆分的数据需要处理时，就需要链接多个store进行处理，消费的位点就会变成多份，而且数据消费的进度无法得到尽可能有序的保证。

    -

    所以，在一定业务场景下，需要将拆分后的增量数据进行归并处理，比如按照时间戳/全局id进行排序归并.

    -

    -

    EventStore设计

    - -

    RingBuffer设计：

    -

    -

    定义了3个cursor

    - -

    借鉴Disruptor的RingBuffer的实现，将RingBuffer拉直来看：

    -

    实现说明：

    - -

    Instance设计

    -


    -

    -

    instance代表了一个实际运行的数据队列，包括了EventPaser,EventSink,EventStore等组件。

    -

    抽象了CanalInstanceGenerator，主要是考虑配置的管理方式：

    - -

    Server设计

    -


    -

    server代表了一个canal的运行实例，为了方便组件化使用，特意抽象了Embeded(嵌入式) / Netty(网络访问)的两种实现

    - -

    增量订阅/消费设计

    -

    -

    具体的协议格式，可参见：CanalProtocol.proto

    -

    get/ack/rollback协议介绍：

    - -

    canal的get/ack/rollback协议和常规的jms协议有所不同，允许get/ack异步处理，比如可以连续调用get多次，后续异步按顺序提交ack/rollback，项目中称之为流式api.

    -

    流式api设计的好处：

    - -

    流式api设计：

    -

    - -

    数据对象格式：EntryProtocol.proto -

    -
    Entry
-	Header
-		logfileName [binlog文件名]
-		logfileOffset [binlog position]
-		executeTime [发生的变更]
-		schemaName 
-		tableName
-		eventType [insert/update/delete类型]
-	entryType 	[事务头BEGIN/事务尾END/数据ROWDATA]
-	storeValue 	[byte数据,可展开，对应的类型为RowChange]
-	
-RowChange
-	isDdl		[是否是ddl变更操作，比如create table/drop table]
-	sql		[具体的ddl sql]
-	rowDatas	[具体insert/update/delete的变更数据，可为多条，1个binlog event事件可对应多条变更，比如批处理]
-		beforeColumns [Column类型的数组]
-		afterColumns [Column类型的数组]
-		
-Column 
-	index		
-	sqlType		[jdbc type]
-	name		[column name]
-	isKey		[是否为主键]
-	updated		[是否发生过变更]
-	isNull		[值是否为null]
-	value		[具体的内容，注意为文本]
    -

    说明：

    - -

    HA机制设计

    -

    canal的ha分为两部分，canal server和canal client分别有对应的ha实现

    - -

    整个HA机制的控制主要是依赖了zookeeper的几个特性，watcher和EPHEMERAL节点(和session生命周期绑定)，可以看下我之前zookeeper的相关文章。

    -

    -

    Canal Server:

    -


    大致步骤：

    -
      -
    1. canal server要启动某个canal instance时都先向zookeeper进行一次尝试启动判断 (实现：创建EPHEMERAL节点，谁创建成功就允许谁启动)
      2. -
    2. 创建zookeeper节点成功后，对应的canal server就启动对应的canal instance，没有创建成功的canal instance就会处于standby状态
      3. -
    3. 一旦zookeeper发现canal server A创建的节点消失后，立即通知其他的canal server再次进行步骤1的操作，重新选出一个canal server启动instance.
      4. -
    4. canal client每次进行connect时，会首先向zookeeper询问当前是谁启动了canal instance，然后和其建立链接，一旦链接不可用，会重新尝试connect.
      5. -
    -

    Canal Client的方式和canal server方式类似，也是利用zokeeper的抢占EPHEMERAL节点的方式进行控制.

    -

    \ No newline at end of file + +

    QuickStart

    +See the page for quick start: [[QuickStart]]. + +

    ClientExample

    +See the page for quick start: [[ClientExample]]. \ No newline at end of file