orczhou.com

MySQL

  • MySQL MHA

    ·

    admin

    7月份YOSHINORI MATSUNOBU在Blog上Release了第一个版本的MySQL Master High Availability manager and tools(简称MHA)。

    1. Overview

    用于自动主备切换（Master的Failover），切换时间大约是10-30秒，MHA主要的优势是解决了主备的一致性问题，是第三方脚本的方式，对原来的MySQL没有任何影响，也不需要改变任何原来的架构部署。当然也支持在线的计划切换，切换时间大约也就0.5-2秒【可读，不可写】

    是一种简单、优雅的高可用解决方案，有一些功能：

    1.1 主库监控和Failover

    在一个配好的主从环境中，MHA能够实时的监控MySQL主库，如果探测到主库失败，则会启动自动的切换程序(master failover)。这时，MHA能够保证所有的备库上的数据都一致。MHA会检查所有备库上的relay log，并使用最靠前的relay log，来同步所有其他的备库，保证各个备库的数据一致。MHA一般能够很快完成切换工作：9-12秒来探测主库失败，7-10秒来关闭master来避免脑裂(可选的)，然后在各个落后的备库上应用最新的日志(某一个备库上受到的最新的日志)。整个downtime大概是10-30秒。可以设置某一个备库，总是优先成为主库（可以通过在配置文件中设置优先级来实现），因为各个备库会全部同步，所以任何一个备库都可以成为主库。由于不一致导致的备库失败，这里都可以避免。

    1.2 命令行交互式切换（手动切换）

    不监控，直接进行切换操作。

    1.3 直接切换（非交互式）

    1.4 在线切换主库

    有时候，需要更换主库，例如原主库有已知的硬件故障（RAM、RAID control等）或者换上更好的硬件等等。这是一种计划切换，MHA能够非常快速、并且“一致的”的完成切换。所谓“一致的”，即避免在切换时，原主库上还存在存活的Session，在做一些事务，导致数据的不一致。MHA完成这个“一致的”切换，大概会有0.5-2秒的写阻塞，一般这都是可以接受的维护时间。

    2. Master Failover的挑战

    主库Failover并没有想象的那么繁琐。我们看看最典型的MySQL部署情况：单个主库拖多个备库。当主库挂了，则需要先找到“最新”的Slave，将其升级为新的主库，并且让其他的备库都指向这个新主库。这并不复杂。当找到“最新”的slave，很容易确定其他备库哪些event还没有收到，如果这些非“最新”的备库不问青红皂白就直接连到新主库上的话，则会导致一些数据不一致。为了避免这种不一致，则需要确定哪些是丢失的events，然后apply到这些备库上，再连新主库。如果手动来做这些事儿的话，那就十分繁琐而且复杂。在这个Slide里面详细描述了这个细节：Automated master failover

    Fig: Master Failover: What makes it difficult?

    “最新”的slave表示：获得最多binlog的备库。

    Currently most MySQL Replication users have no choice but to perform failover manually on master crashes.
    在主库crash的时候，目前还没有什么好办法保证各个备库的一致。所以，很多时候需要手动去做这些操作，虽然主库crash的时候不多，但是一旦出现，那将是“相当”（用宋丹丹的口气说）的痛苦。

    MHA目标就是实现这样的自动恢复。这个恢复包括选定新主库、确定各个备库relay log的差异、在新主库上应用差异的relay log，然后将其他备库指向新主库。一般MHA10-30秒可以完成全部的操作（可能更久如果你的备库延迟了很久的话）。

    MHA有自动和命令行切换工具，自动切换命令”masterha_manager (MHA Manager)”由主库监控和主库Failover两部分组成。masterha_manager一直监控主库是否可用，如果发现无法连接主库，则可以立即执行一个非交互是的切换过程。

    手动切换命令：masterha_master_switch先检查主库是否确实挂了，如果真挂了，masterha_master_switch选一个备库作为新主库（也可以指定一个），然后做恢复和切换。命令行把前面的复杂操作全部都封装起来了。

    当已经有了自己的监控系统时（例如，你可以使用Pacemake之类的监控），无需使用MHA的监控功能时，这个功能可以帮你实现MySQL的切换操作。

    3. MHA使用注意事项

    注意事项：

    1. 检测Master是否挂了，可以通过两个路由来确认。详细参考：secondary_network_script
    2. MHA完成切换后，应用还需要完成切换，可以通过脚本：master_ip_failover_script parameter来帮助你做后续的工作。
    3. 为了避免脑裂，MHA提供了一个关闭原Master的脚本shutdown_script parameter
    4. 另外MHA，还提供了一个发送Email切换报告的功能：report_script parameter
    5. 需要考虑级联的情况
    6. Relay log不能再做自动清除了，否则需要的时候可能就没了。需要手动清理relay log，清理relay log时需要注意，没有应用的relay log千万不要清，否则备库就需要重新指向了。MHA有个脚本可以做这个工作：purge_relay_logs script
    7. 在SBR时不要使用LOAD DATA INFILE

    参考资料

    1. MHA Google code主页
    2. MHA 文档资源
    3. MHA download
    4. MHA 介绍: Announcing MySQL-MHA: “MySQL Master High Availability manager and tools” |
    5. MHA for MySQL 0.52 released

  • MySQL5.5 Semi-sync备库响应协议分析

    ·

    orczhou

    这又是一篇介绍Semi-sync的文章。

    Semi-sync主库在一定时间内（可配置的超时时间），如果没有收到备库的响应，则会超时从而降级为普通的replication复制。如果超时发生，有时需要查清什么原因导致备库没有及时响应，一方面可以从备库的日志着手，另一方面，如果需要更细致的信息则需要从备库端的网络包查找原因。这里介绍如何分析一个Semi-sync备库响应主库的数据包。

    概述：先使用tcpdump抓取正确（主要是src和dst都正确）的数据包；然后借助wireshark玻璃TCP/IP等层的头信息，仅保留发送的MySQL数据包；再分析MySQL Semi-sync Slave响应的协议。

    1. tcpdump原始数据包

    通过如下tcpdump抓取主机的网络包：

    nohup tcpdump -n -nn -tttt -i bond0 -s 65535 'port 3306 and ((dst host master.host and src host slave.host and len < 100) or (dst host slave.host and src host master.host))' -w tcpdump.ret -C 50 &

    参数简单说明：

    -n  表示ip不要转换为主机名
-nn表示端口号，不要转为为服务名（例如3306会被转换为mysql）
-tttt 打印出完成的格式化的时间戳
-C 50 表示抓取的结果放到文件中，文件大小不超过50MB
    2. 使用wireshark找到对应的包

    (more…)

  • Percona-Server/MySQL响应时间统计

    ·

    orczhou

    在Percona的5.1.53和5.5.8版本，开始将RT的统计内置到MySQL Server端。Thanks, Percona.

    Percona在提供了tcprstat工具统计RT时间之后，很快就在Percona Server中集成了响应时间统计的功能。这里介绍一下该功能，各位看官如果在犹豫选择Percona Server还是MySQL Community Server，这里给Percona Server加一个筹码。

    “响应时间”（Response time，后面简称RT）在数据库应用中，特别是OLTP的场景，可以说非常重要，不过，MySQL官方版本中一直没有加上这个统计功能。最早，社区开始尝试tcmdump+perl脚本的方式查看RT，后来告警一点用tcpdump+mk-query-digest，再后来Ignacio Nin和Baron Schwartz完成了tcprstat。

    在Percona的5.1.53和5.5.8版本，开始将RT的统计内置到MySQL Server端。

    1. 配置该功能

    这个是功能默认是关闭的，可以通过设置参数query_response_time_stats=1打开这个功能，这是一个动态参数，所以在服务器上可以很方便的打开或者关闭这个功能。可以通过命令SHOW QUERY_RESPONSE_TIME查看响应时间统计。 (more…)

  • MySQL半同步Semi-sync原理介绍【图说】

    ·

    orczhou

    上图先。

    Semi-sync-why

    如果还不了解Semi-sync可以阅读（Manual | 概述）

    1. 优点

    当事务返回客户端成功后，则日志一定在至少两台主机上存在。

    MySQL在加载并开启Semi-sync插件后，每一个事务需等待备库接收日志后才返回给客户端。如果做的是小事务，两台主机的延迟又较小，则Semi-sync可以实现在性能很小损失的情况下的零数据丢失。

    2. 缺点

    完成单条事务增加了额外的等待延迟，延迟的大小取决于网络的好坏。

    Semi-sync不是分布式事务，主库会在自己完成事务后，等待备库接收事务日志。

    3. 主机Crash时的处理

    (more…)

  • MySQL 5.5 Semi-sync Replication安装配置、参数说明

    ·

    orczhou

    从09年12月份MySQL5.5的第一个Release，再到去年12月的第一个GA，MySQL5.5平均一月一个小版本号的速度在默默更新。该版本最重要的特性目前仍是Semi-sync Replication，之前做了一个概述，这里将继续介绍如何安装、配置Semi-sync，后续还将继续介绍其性能和一些基本的代码实现。

    1. Semi-sync Repication的历史

    Semi-sync最早是由Google实现的一个补丁，代码主要由Mark Callaghan、Wei Li（@Google）等人贡献。Google原本是将需求提给Hekki的，但是后来等不及就自己实现了……。(现在Mark Callaghan已跳到Facebook，除了Google，他曾经还在Informix、Oracle工作过)

    在5.5之后由MySQL Replication Team按照Plugin的方式将代码移植过来，并将Semi-sync独立成MySQL的一个插件，主要代码移植者是Zhenxing He（参考）。

    2. 安装、配置Semi-sync Replication

    在两台主机上安装好MySQL5.5，编译好的插件在目录CMAKE_INSTALL_PREFIX/lib/plugin下（默认是/usr/local/mysql/lib/plugin）。例如这里编译是指定CMAKE_INSTALL_PREFIX为/home/mysql/mysql，则有：

    $pwd
    /home/mysql/mysql/lib/plugin
    $ls -a semisync_*
    semisync_master.so semisync_slave.so

    在主库初次启动时，执行如下语句加载semisync_master插件：

    mysql> INSTALL PLUGIN rpl_semi_sync_master SONAME ‘semisync_master.so’;

    备库上则加载semisync_slave插件：

    mysql> INSTALL PLUGIN rpl_semi_sync_slave SONAME ‘semisync_slave.so’;

    (more…)

  • Linux下MySQL 5.5编译安装

    ·

    orczhou

    之前写过一篇Linux下编译安装MySQL，但是在5.5版本之后MySQL自动化建构工具从GUN Autotools换成了跨平台的Cmake系统，编译和配置和原来有些不同，这里做一个简单的小结。

    1. 安装CMake

    Cmake是跨平台的工具，如果之前就尝试过在Windows上编译MySQL的同学，就应该还记得CMake。

    我的环境是不自带CMake（环境：RHEL5.4，YUM仓库里面没有CMake），所以需要自己安装。安装过程简单、顺利，没有遇到任何依赖问题……:)

    $tar zxf cmake-2.6.4.tar.gz
    $cd cmake-2.6.4
    $./bootstrap
    $make
    $sudo make install

    CMake下载、安装参考。

    2. CMake编译MySQL 5.5
    tar zxf mysql-5.5.11.tar.g
    cd mysql-5.5.11
    CFLAGS=”-O3″ CXX=gcc
    CXXFLAGS=”-O3 -felide-constructors -fno-exceptions -fno-rtti”
    cmake . -LH|more //CMake下查看MySQL的编译配置
    cmake . -DCMAKE_INSTALL_PREFIX=/home/mysql/mysql -DEXTRA_CHARSETS=all
    make -j 8 //8核并行编译
    make install

    其中”ccmake . -D……”也可直接使用”cmake .”，这样会进入一个简单文本GUI界面进行MySQL编译参数配置；

    另外，原来的AutoTools和现在CMake配置参数的变化，在MySQL Forge的Autotools to CMake Transition Guide中可以查阅详细的对比说明。
    (more…)