V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
MySQL 5.5 Community Server
MySQL 5.6 Community Server
Percona Configuration Wizard
XtraBackup 搭建主从复制
Great Sites on MySQL
Percona
MySQL Performance Blog
Severalnines
推荐管理工具
Sequel Pro
phpMyAdmin
推荐书目
MySQL Cookbook
MySQL 相关项目
MariaDB
Drizzle
参考文档
http://mysql-python.sourceforge.net/MySQLdb.html
flikecn
V2EX  ›  MySQL

kingbus 架构设计之如何伪装成 MySQL Master 角色

  •  
  •   flikecn ·
    flike · 2019-04-24 11:06:36 +08:00 · 3687 次点击
    这是一个创建于 2074 天前的主题,其中的信息可能已经有所发展或是发生改变。

    1.背景

    kingbus 是一个基于 raft 强一致协议实现的分布式 MySQL binlog 存储系统。它能够充当一个 MySQL Slave 从真正的 Master 上同步 binglog,并存储在分布式集群中;同时又充当一个 MySQL Master 将集群中的 binlog 同步给其他 Slave。这就需要 kingbus 具备伪装成 MySQL Master 角色,给其他 Slave 发送 binlog 的能力。

    网络上有很多文章,介绍如何伪装成 MySQL Slave 角色,从 Master 上同步 binlog,并解析同步到其他存储系统中,例如 ES。以此来支持异构复制。本文着重介绍一下,kingbus 如何实现一个伪 Master 的功能。

    2. 实现原理

    2.1 启动 MySQL 主从复制的命令

    在基于 Gtid 模式的主从复制下,设置好了 MySQL 的相关配置,我们会在 Slave 上执行如下命令来启动主从复制:

    STOP SLAVE;
    RESET SLAVE;
    RESET MASTER;
    SET @@GLOBAL.GTID_PURGED ='214eb71f-96ec-11e8-ab4f-fa163e72d4ae:1-11756,
    6098d558-96ec-11e8-a2d7-fa163ef40021:1-41,
    b93fc470-a1fc-11e8-9b46-fa163e8d0f56:1-29987'
    
    CHANGE MASTER TO MASTER_HOST = '192.168.1.10', MASTER_USER = 'kb', MASTER_PASSWORD = 'kb', MASTER_PORT = 3415, MASTER_AUTO_POSITION = 1, MASTER_RETRY_COUNT = 0, MASTER_HEARTBEAT_PERIOD = 10;
    START SLAVE;
    

    2. MySQL 内部实现

    上述命令,对应到 Slave 内部,Slave 会发生如下命令到 Master 节点:

    SELECT UNIX_TIMESTAMP() (rpl_slave.cc:get_master_version_and_clock)
    SHOW VARIABLES LIKE ‘ SERVER_ID ’ (rpl_slave.cc:get_master_version_and_clock)
    SET @master_heartbeat_period=? (rpl_slave.cc:get_master_version_and_clock)
    SET @master_binlog_checksum= @@global.binlog_checksum (rpl_slave.cc:get_master_version_and_clock)
    SELECT @master_binlog_checksum (rpl_slave.cc:get_master_version_and_clock)
    SELECT @@GLOBAL.GTID_MODE (rpl_slave.cc:get_master_version_and_clock)
    SHOW VARIABLES LIKE ‘ SERVER_UUID ’ ( rpl_slave.cc:get_master_uuid )
    SET @slave_uuid= ‘%s ’( rpl_slave.cc:io_thread_init_commands)
    COM_REGISTER_SLAVE(rpl_slave.cc:register_slave_on_master)
    COM_BINLOG_DUMP(rpl_slave.cc:request_dump)
    

    3. kingbus 的伪 Master 实现

    kingbus 需要实现上述所有命令,这些命令的请求包格式和响应格式,在 MySQL 协议文档中都有具体的定义。感兴趣的同学可以参考 kingbus 相关代码文件:

    这个文件实现了上面全部命令。这样 kingbus 就可以成功地伪装成一个 master 了。然后源源不断地发送 binlog event 给 slave。

    kingbus 开源地址如下,欢迎 star :)

    https://github.com/flike/kingbus

    目前尚无回复
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1669 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 21ms · UTC 16:44 · PVG 00:44 · LAX 08:44 · JFK 11:44
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.